안녕하세요, MoonLight입니다.​어제(5월 1일)부터 COEX에서 2024 AI EXPO KOREA가 진행되고 있습니다.​작년에 이어서 올해도 여전히 생성형 AI / LLM / ChatGPT를 이용한 다양한 서비스를 제공하는 업체들이 많이 보였습니다.​아직도 여전히 대세는 생성형 AI 특히, Text & Image를 융합한 서비스가 많이 등장했고,​가끔씩 영상 및 음성을 이용한 서비스를 개발해서 소개하는 업체들도 많이 눈에 띄었습니다.​행사는 내일까지이니 시간되시면 한 번 가보시는 것을 추천드립니다.        ​ 그 뜨거운 현장, 구경 한 번 해 보세요~ ​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​ ​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​ ​​​​​..

안녕하세요, MoonLight입니다.​지지난 주말에 역삼에 볼일이 있어서 다녀왔는데, 근처에 선릉역이 있어서 잠시 산책을 다녀왔습니다. https://royal.cha.go.kr/ROYAL/contents/R106020000.do?schBdcode=rtm&pageType=story&bdProgramCode=storyCtg7&returnPage=subMain&schBdIdx=20231026055423169188&schIdx=6#;  ​ 궁능유적본부궁능유적본부에 오신 것을 환영합니다royal.cha.go.kr ​​선릉(宣陵) 이야기선릉은 조선 9대 성종과 세 번째 왕비 정현왕후 윤씨의 능이다. 선릉은 같은 능역에 하나의 정자각을 두고 서로 다른 언덕에 능침을 조성한 동원이강릉(同原異岡陵)의 형식이다. 정자각..

안녕하세요, MoonLight입니다.​지난 주말에 초여름을 방불케 하는 더위가 와서 깜짝 놀랐습니다.​날이 많이 좋아서 아이데리고 근처 안양천 공원에 산책을 갔었습니다.​   작년만큼은 아니지만 그래도 꽤 많은 꽃들이 피어있었습니다.​날씨가 좋아서 그런지 텐트를 가지고 나온 시민들도 많이 보이고, 아이들고 웅덩이에서 올챙이 잡고 놀고 있는 아이들도 많이 있었습니다.​우리 애가 꽃을 좋아해서 다양한 꽃들을 구경하면서 즐거운 시간을 보내고 왔습니다.​한낮이 되니깐 너무 더워서 오래 있지는 못했습니다.​꽃 구경 잠시 해 보실래요?​​​​​​​​​​​​​​​​ ​​​​​​​​​​​​​​​​​​​​​​​​​ ​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​읽어주셔서 감사하고, 다음에 또 만나요~!

안녕하세요, MoonLight입니다.​이번 Post에서는 Transformer의 전체 구조를 개괄적으로 알아보도록 하겠습니다.​​​ ​​Transformer의 전체 구조의 위와 같습니다. 왼쪽이 Encoder의 구조이고, 오른쪽이 Decoder입니다.​​0. Encoder​먼저 Encoder의 구조에 대해서 간략하게 살펴보겠습니다.​​​0.0. Tokenizer​가장 아래쪽에 Inputs이 있습니다. Transformer에서 Input은 단어들로 이루어진 문장이 되겠죠.​이 그림에서는 생략되어 있는데, Input Embedding Layer에 문장 전체가 들어갈 수는 없기 때문에 그전에 tokenizer를 이용하여, 문장들을 Token 단위로 나눕니다.​Transformer에서는 주로 WordPiece ..

안녕하세요, MoonLight입니다.​이번 Post에서는 Visual Studio 2019에서 MFC Project를 Build하는 방법에 대해서 알아보겠습니다.​'요즘 세상에 아직 MFC를 사용할 일이 있을까?' 라는 생각을 하실지도 모르겠으나,​저같은 경우에는 직접 MFC를 이용해서 개발하는 것이 아니고, 오래전에 개발된 Project를 살펴볼 일이 있어서 ​Visual Studio 2019에서 Build하려고 했더니, "MSBuild 오류 MSB8041 - 이 프로젝트에는 MFC 라이브러리가 필요합니다."라는 Error를 내면서 Build가 되지 않네요.​해결 방법은 간단합니다. MFC를 설치하면 됩니다. ​Visual Studio 2019는 기본적으로 MFC가 설치되지 않습니다. Visual St..

제가 참 좋아하는 만화입니다. ​ 제 스스로가 게을러지고 나쁜 일들의 원인을 주변의 탓을 한다고 느껴질 때 찾아서 보는 만화입니다. ​ ​

0. Introduction ​ ​ 다른 글에서 Attention Mechanism에 대해서 알아보았습니다. ​ Attention Mechanism에 대해서 자세히 알아보시려면 아래 글을 읽어보시기를 추천드립니다. https://moonlight314.tistory.com/entry/Transformer-1-Attention-Mechanism Transformer #1 - Attention Mechanism 0. Background ​ Attention Mechanism이 나오기 전에는 Seq2Seq Model이 주로 사용되었습니다. ​ Seq2Seq Model은 당시에는 훌륭한 Idea였지만, 치명적인 문제점을 가지고 있었습니다. ​ 그 어떤 입력값이 들어 moonlight314.tistory.com ..

안녕하세요, MoonLight입니다. ​ 오늘은 어제 다녀온 코엑스 건담베이스 상황을 한 번 올려보도록 하겠습니다. ​ 시드 극장판 프로모션을 대대적으로 하는 것 같네요. ​ 엄청난 크기의 디스트로이 건담이 잘 보이는곳에 딱~ㅎㅎ 자, 한 번 구경해 보세요~ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​

안녕하세요, MoonLight입니다. ​ 오늘은 2024 World IT Show에 대한 내용 공유드리려고 합니다. ​ 2024년 4월 17일 ~ 19일까지 Coex에서 진행되고 있으며 매우 다양한 기업에서 자신들의 기술을 뽐내는 자리인 만큼 ​ 최신 기술 트렌드를 확인해 볼 수 있는 좋은 기회라고 생각합니다. ​ 시간되시면 꼭 한 번 가보시길 추천드립니다~! 현장의 열기, 한 번 느껴보세요~! ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​ ​..

0. Background ​ Attention Mechanism이 나오기 전에는 Seq2Seq Model이 주로 사용되었습니다. ​ Seq2Seq Model은 당시에는 훌륭한 Idea였지만, 치명적인 문제점을 가지고 있었습니다. ​ 그 어떤 입력값이 들어오더라도 최종적으로 출력은 고정된 길이의 Vector(Hidden State)가 나온다는 것입니다. ​ 입력 문장이 짧으면 별문제가 안되겠지만, 입력 문장이 길어질수록 그 안에 담긴 내용들, 특히 앞쪽의 단어들은 거의 제대로 표현할 수 없다는 문제가 있었습니다. ​ Attention Mechanism은 이 문제를 개선하기 위해서, Seq2Seq 구조의 각 RNN Cell들의 출력(Hidden State)도 Decoder의 입력으로 사용하자는 Idea에서 ..