분류 전체보기 (64) 썸네일형 리스트형 Part 1 - [Chapter 2] . 데이터 엔지니어링 수명 주기 (1) 이 책의 주요 목표는 데이터 엔지니어링을 특정 데이터 기술의 집합으로 보는 관점에서 벗어나도록 장려하는 것이다 기술적인 추상화가 확대됨에 따라 데이터 엔지니어는 점점 데이터 수명 주기 관리 원칙의 관점에서 사고하고 운영하는 데이터 수명 주기 엔지니어가 될 것이다. 2장에서는 이 책의 중심 주제인 데이터 엔지니어링 수명 주기를 설명한다 데이터 엔지니어링수명 주기는 요람에서 무덤까지(즉, 그 생성부터 소멸까지) 데이터 엔지니어링을 설명하는 프레임워크다 2.1 데이터 엔지니어링 수명 주기란? 데이터 엔지니어링 수명 주기는 원시 데이터 (raw data)의 요소를 분석가, 과학자, ML엔지니어 들이 사용할 수 있는 유용한 최종 제품으로 전환하는 단계로 구성된다. 2장에서는 데이터 엔지니어링 수명 주기의 주요 단.. Chapter 3. Kafka Producer [카프카로 메시지 전달하기] 3.3 카프카로 메시지 전달하기 메시지를 전송하는 가장 간단한 방법은 다음과 같다 try (Producer producer = new KafkaProducer(kafkaProps)) { // 메시지 생성 및 토픽으로 전송 String message = "Hello, Kafka!"; ProducerRecord record = new ProducerRecord(topic, message); producer.send(record); System.out.println("메시지 전송 성공: " + message); } catch (Exception e) { e.printStackTrace(); } 1. producer는 ProducerRecord 객체를 받으므로 이 객체를 생성하는 것에부터 시작함. 조금 있다가 .. Chapter 2. 설치와 설정 (1) 2.2.3 서버 연결 테스트 다음과 같이 여러 가지 형태의 명령행 인자를 넣어 접속을 시도할 수 있다. linux> mysql -u root -p --host=localhost --socket=/tmp/mysql.sock linux> mysql -u root -p --host=127.0.0.1 --port=3306 linux> mysql -u root -p 2.2.3.1 linux> mysql -u root -p --host=localhost --socket=/tmp/mysql.sock MySQL socket file을 이용해 접속하는 예제다 2.2.3.2 linux> mysql -u root -p --host=127.0.0.1 --port=3306 TCP/IP를 통해 로컬호스트로 접속하는 예제인데, 이.. Chapter 3. Kafka Producer [카프카에 메시지 쓰기] 카프카를 큐로 사용하든 메시지 버스나 데이터 저장 플랫폼(data storage platform)으로 사용하든 간에 카프카를 사용할 때는 카프카에 데이터를 쓸 때 사용하는 프로듀서나 읽어 올때 사용하는 컨슈머, 혹은 두 가지 기능 모두를 수행하는 application을 생성해야한다 카프카는 개발자들이 카프카와 상호작용하는 application을 개발할 때 사용할 수 있는 client API와 함께 배포된다. 프로듀서의 디자인과 주요 요소의 전체적인 모습을 살펴본 뒤 KafkaProducer 와 ProducerRecord 객체를 어떻게 생성하는지, 어떻게 카프카에 레코드를 전송하는지, 그리고 리턴할 수 있는 에러를 어떻게 처리 대응하는지 알아보자 끝으로 파티션 할당 방식을 정의하는 파티셔너과 객체의 직렬화.. Part 1. 데이터 엔지니어링 기반 구축하기 (3) 1.2 데이터 엔지니어링 기술과 활동 데이터 엔지니어의 기술 역량에는 1. 보안, 2. 데이터 관리, 3. 데이터 옵스, 4. 데이터 아키텍처 및 소프트웨어 엔지니어링 이렇게 4가지의 데이터 엔지니어링의 '드러나지 않는 요소'가 포함된다 이러한 기술 역량을 사용하려면 데이터 도구들을 평가하는 방법과 데이터 엔지니어링 수명 주기 전반에 걸쳐 이 도구들이 어떻게 조합되는지 알아야함 원천 시스템에서 어떻게 데이터를 처리하고 선별한 후에 분석가와 데이터 과학자가 이를 어떻게 소비하고 가치를 창출할지 파악하는 것도 중요함 마지막으로 데이터 엔지니어는 수많은 복잡한 가변적 요소를 처리하고 비용, 민첩성, 확장성, 단순성, 재사용성, 상호 운용성의 축에 따라 지속해서 최적화를 수행해야함 최근까지 데이터 엔지니어는 데.. Part 1. 데이터 엔지니어링 기반 구축하기 (2) 1.1.3 데이터 엔지니어의 진화 역사는 그대로 반복되지 않지만, 그 흐름은 분명 반복된다 (이거 너무 멋있는거 같아) 호홓 1980 ~ 2000년 까지 : 데이터 웨어 하우징에서 웹으로 데이터 엔지니어의 탄생은 1970년대 까지 거슬러 올라가는 데이터 웨어하우징에 뿌리를 둔다. 비지니스 데이터 웨어하우스 business data warehouse라는 용어는 1980년대에 형성 되었으며, 1989년에 이르러 빌 인먼이 데이터 웨어하우스 라는 용어를 공식적으로 만들었음 데이터 웨어하우징은 시장에 출시되는 대량의 데이터를 처리하고 전례 없는 막대한 양의 데이터를 지원하고자, 다수의 프로세서를 사용하는 새로운 대규모 병렬 처리(MPP[Massively Parallel Computer]) 그리고 데이터베이스로 .. Part 1. 데이터 엔지니어링 기반 구축하기 (1) 1. 1 데이터 엔지니어링 이란? 데이터 엔지니어링이라는 용어에 수많은 정의가 존재한다 데이터 엔지니어링은 회사의 조직 내의 다른 전문가가 데이터를 사용할 수 있도록 만드는 일련의 작업이다. 대규모의 데이터를 수집 및 저장하면서 추가 분석을 수행할 수 있는 데이터를 준비하기 위한 시스템을 설계하고 구축하려면 데이터엔지니어와 같은 전담 전문가가 필요하다 간단하게 말해서 조직의 데이터 인프라를 구축하고 운영해 분석가와 과학자가 추가 분석을 수행할 수 있도록 준비하는 것 데이터 엔지니어링 의 유형 1. 첫 번째 유형은 SQL 중심이다 데이터의 작업 및 기본 저장소는 관계형 데이터 베이스에 있음 2. 빅데이터 중심 데이터 작업 및 기본 스토리지는 하둡 카산드라 HBase 와 같은 빅데이터 기술에 기반함 2.1 .. 2023년 6월 ~ 9월 회고 부트캠프를 수료하고 창업 각을 재보았다 여러 방면에 조언과 도움을 받아보고 책도 많이 읽어가면서 창업이란 무엇이고 이 창업을 하기 위해서 어떤 리스크와 타이밍이 무엇인지 경험해 보았다 wework에 등록하여 치열하게 사는 삶을 구경하고 부산에서 들려 지인분께 조언도 들었다 부산 wework는 BIFC wework가 뷰가 정말 좋은거같다 스타트업 각이 맞는지 보면서 사람들과 얘기를 나눈 결과 .. 1. 역시 치열하다 2. 아이템이 확실하든 뭐하든 사람들 잘 봐야 한다 3. 아쉬울꺼 없을 때 해라 사활을 걸면 안 된다 4. 언제든지 접을 생각을 하고 진행해라 이렇게 4개가 공통적으로 보였다 결론은 아직은 아닌걸로 결정 났다 이유는 단순하다 경기 침체 이 이상은 얘기하지 않겠다 나는 이 부트캠프에서 확실한 자.. 이전 1 2 3 4 5 6 ··· 8 다음
