0. 소개​안녕하세요. 현재 AI 분야를 평정하고 있는 생성형 AI(Generative AI)의 기본은 Self-Attention을 기반으로 하는 Transformer 구조입니다.​Transformer는 지금까지 발표된 어떤 구조보다도 우수한 성능을 가지지만, 유일한 단점이라면 Model의 표현력과 비례해서 Hidden State도 커져야 한다는 것입니다.​최근 발표된 Llama 3.1은 Model을 구성하는 Parameter의 개수가 4000억 개가 넘는다고 하죠.​이와 같은 Transformer의 구조는 한계를 극복하고자 발표된 Model이 TTT(Test-Time Training)이라는 구조로써, 핵심은 Hidden State 값들을 개별적으로 모두 저장하는 것이 아니라,​Hidden State 값..

한빛미디어 '나는 리뷰어다' 활동을 위해서 책을 제공받아 작성된 서평입니다.​​​ ​​'간단하게 Machine Learning Model을 돌려보고 싶은데, 어떻게 하면 되지?' "실무로 통하는 ML 문제 해결 with 파이썬"은 2019년에 발표된 "파이썬을 활용한 머신러닝 쿡북"의 2판입니다.​기본적인 프로그래밍 지식을 가진 독자들이 파이썬을 이용하여 머신 러닝 모델을 쉽고 빠르게 구현할 수 있도록 도와주는 실용적인 안내서입니다.​200개 이상의 다양하고 실용적인 코드 예제를 제공하며, 간단한 행렬 생성부터 Pre-Trained Model을 이용한 분류 작업까지 폭넓은 주제를 다룹니다.​이런 점이 좋아요책의 가장 큰 장점 중 하나는 다양한 파이썬 라이브러리와 프레임워크를 다룬다는 점입니다.​Sciki..

한빛미디어 '나는 리뷰어다' 활동을 위해서 책을 제공받아 작성된 서평입니다. 0. 소개 Image 분야의 Deep Learning에 CNN 구조가 있다면, Text 분야의 Deep Learning에서의 대세는 역시 Transformer입니다. 2017년에 Google에 의해 'Attention Is All You Need' Paper가 발표되고 난 후, NLP 분야는 Transformer로 인해 그야말로 비약적인 발전을 이루게 됩니다. Paper 발표 이후, Text Classification , Summarization , Translation , QA, NLU , NER 등 모든 Text 관련 부분에서 SOTA를 이루어 냈고, 지금도 그 위력은 여전합니다. Transformer 구조 자체가 약간 어려..

한빛미디어 '나는 리뷰어다' 활동을 위해서 책을 제공받아 작성된 서평입니다. 0. 소개 Software Architect는 끊임없는 결정의 연속입니다. 복잡하고 다양한 구성 요소들의 상충관계를 파악하고 그에 맞는 의사 결정을 내려야 하는 선택들만이 남아 있는 'Hard Parts'입니다. 이 책은 분산 Architecture를 구성할 때 Architect가 각 결정이 가지고 Tradeoff를 분석하여 객관적으로 의사 결정을 내리는 모든 과정에 대한 Know-How가 녹아있습니다. Architecture 결정에 필요한 지식 , 각 Architecture 장단점 , 다양한 Pattern 설명 , 큰 그림을 보는 안목 등을 구체적인 사례를 통해서 공유합니다. 또한, 최신 Software Architecture..

한빛미디어 '나는 리뷰어다' 활동을 위해서 책을 제공받아 작성된 서평입니다. 0. 소개 Digital Marketing 영역에서 고객의 Data를 분석해서 다양한 Insight를 뽑아내고 이를 Business 전략에 반영하는 Data 분석 능력은 Marketer 뿐만 아니라 Data Scientist가 갖추어여할 필수 역량이 된지 오래입니다. 다양한 고객의 Data 중에서 가장 기본이 되는 고객 Data가 Web Log 분석인데, 많은 기업에서 고객 Web Log 분석을 중요하게 생각하는 이유가 Website가 Digital Marketing 활동의 거점 역할을 한다는 점과 쉬운 설치만으로 방대한 양의 고객 Data 수집이 가능하다는 이유입니다. 많은 기업들이 Web Log 분석을 실시하고 있다고 생각되..

한빛미디어 '나는 리뷰어다' 활동을 위해서 책을 제공받아 작성된 서평입니다. 0. 소개 Big Data & Machine Learning / Deep Learning이 세상의 빛을 본지가 꽤 되었지만, 여전히 뜨거운 관심을 받고 있습니다. 앞으로도 이런 관심은 대체할 만한 새로운 개념이 나오기 전까지는 계속될 것입니다. Big Data & Machine Learning / Deep Learning이 관심을 받게 된 이유 중에 하나가 누구나 쉽게 접근할 수 있는 다양한 도구들이 많이 있기때문이기도 할 것입니다. 손쉬운 접근성에 힘입어 과학, 공학 분야 뿐만 아니라 의학, 미술, 정치, 경제 등에 이르기까지 매우 다양한 분야에서 훌륭한 역할을 수행하고 있습니다. 이 책은 특별히 비즈니스 분야에 사용되는 사례..

한빛미디어 '나는 리뷰어다' 활동을 위해서 책을 제공받아 작성된 서평입니다. 0. 소개 2012년에 CNN 구조를 사용한 AlexNet이 ImageNet에서 지난 대회 우승 Model보다 압도적인 성능으로 우승을 차지하면서 Deep Learning에 대한 관심은 비약적으로 높아졌습니다. 그 이후로 Image 분야에 Deep Learning을 응용하는 분야는 비교적(?) 접근이 쉽고 이해하기 쉬운 CNN구조를 바탕으로 널리 보급되고 누구나 쉽게 사용할 수 있었습니다. 하지만, NLP(Natural Language Processing)분야는 상대적으로 접근이 어려웠고 실제 업무 / 제품에 응요하기가 용이하지 않다는 분위기가 팽배했습니다. NLP 초창기에는 다양한 기법(말뭉치 , Wordvec, Word Em..

한빛미디어 '나는 리뷰어다' 활동을 위해서 책을 제공받아 작성된 서평입니다. 0. 소개 우리는 대학에서 프로그래밍 언어를 배우고 작게나마 SW를 만들줄 알게 되고, 졸업을 하고 취업을 하여 조금 더 규모의 SW의 일부 혹은 혼자서 개별 SW를 만들게 되는 일반적인 Path를 걷게 됩니다. 오랫동안 반복적인 SW 개발을 하면서 소프트웨어 엔지니어링이라는 말을 자주 듣게 되지만, 뭔가 전혀 다른 세상의 뜬구름 잡는 듯한 느낌만 들고 구체적으로 어떤 일을 하는지에 대해서는 잘 알지 못합니다. 물론 주위에 소프트웨어 엔지니어라고 말하는 사람도 보기 힘듭니다. 곰곰히 생각해 보면 소프트웨어 엔지니어링이라는 말에 대한 약간의 거부감(?)같은 것도 가지고 있는 것 같습니다. 소프트웨어 개발만 빠르고 버그없이 하면 되..

한빛미디어 '나는 리뷰어다' 활동을 위해서 책을 제공받아 작성된 서평입니다. 0. 소개 이제는 전공자가 아니어도 뉴스나 방송을 통해 Machine Learning / Deep Learning이라는 말을 너무 흔하게 들을 수 있는 상황이 되었다. 음성인식 , 추천 시스템 , 이미지 생성 등은 이미 우리의 일상에서 너무나 흔한 일이고, Tensorflw / PyTorch / Scikit-learn같은 우수하고 훌륭한 Framework은 너무나 쉽게 우리들을 AI의 세계로 발을 들여놓게 만들어 준다. 하지만, 이렇게 현실속에 깊게 들어와 있는 Machine Learning / Deep Learning이지만, 정작 내가 하는 일에 이 기술을 적용하려고 하면 관련 전공자라고 해도 절대 쉬운 일이 아니다. '우리 ..