RX-93-ν2 하이뉴 건담 Hi-νガンダム Hi-ν Gundam MG Ver.Ka

기동전사 건담 역습의 샤아 소설판인 벨토치카 칠드런에 등장한 또 다른 디자인의 뉴 건담.​소설 벨토치카 칠드런 등장 당시 사자비의 새로운 디자인이라고 볼 수 있는 나이팅게일이 등장하여 큰 인기를 끌게 되자, 이것이 각종 게임과 매체 등에서 '사자비의 후속기'라는 일종의 동인 설정이 붙게 되었다. 이렇게 되자, 그 반대측에 서 있는 뉴 건담 또한 새로운 디자인을 필요로 하게 되었는데 이 와중 소설 내의 다른 디자인의 뉴 건담의 일러스트가 부각되어 클린업을 통한 디자인 재 정립을 통해 새로운 뉴 건담으로 굳어졌다. 나이팅게일의 적색에 대비되게끔 청색을 부각시킨 듯.​하이뉴라는 이름의 유래는 이즈부치 유타카가 말하길 뉴 건담초안인 하이s건담 과 하이잭, 하이곡그처럼 하이클래스 뜻으로 하이를 쓴거다. 이후, 이..

LoRA(Low-Rank Adaptation)

안녕하세요, MoonLight입니다.​LoRA(Low-Rank Adaptation)는 LLM을 효율적으로 Fine-Tuning하기 위한 방법 중 하나입니다.마이크로소프트 연구팀이 2021년에 발표한 논문 "LoRA: Low-Rank Adaptation of Large Language Models"에서 처음 소개되었습니다.이번 Post에서는 LoRA의 핵심 Idea와 동작 방식, 장점을 자세히 설명해 드리겠습니다.​   1. LoRA의 배경 OpenAI의 GPT, LLaMa 2, Claude 등과 같은 기반 Model 및 LLM은 텍스트 생성부터 언어 이해에 이르기까지 다양한 애플리케이션 분야에서 혁신적인 발전을 이루었습니다. ​이러한 Model들은 방대한 양의 Parameter를 활용하여 탁월한 성능을 ..

Sazabi Ver. Ka 사자비 버카 - 개봉 & 조립준비

안녕하세요, MoonLight입니다.​이번에 조립할 Kit은 바로 Sazabi Ver. Ka입니다.​지난주에 즈고크를 완성하고 오랫동안 방구석에 묵혀두었던 사자비를 드디어 열게 되었습니다.​사실 이 Kit은 작년 여름에 당근에 7만원대에 올라와 있어서 냉큼 구매해 놓고 계속 먼지만 쌓이고 있었습니다.​당시에는 하이뉴를 작업하고 있었는데, 하이뉴 끝나고 바로 사자비를 조립하지 않은 이유는 뭘랄까요..​왠지 이 Kit은 함부로 손대서는 안될 것만 같은 그런 느낌이 들어서 조금 무섭기도 하고 조심스럽게 해서 ​오랜 시간 마음의 준비가 필요했습니다.ㅎㅎ​이제 용기를 내서 명품 of 명품이라고 불리는 Sazabi Ver. Ka를 시작해 보도록 하겠습니다.​조립해 보신 분들은 아시겠지만, 박스가 진짜 어머어마하게 ..

Flash Attention : 더 빠르고 효율적인 Attention 메커니즘

안녕하세요, MoonLight입니다.​Flash Attention은 Stanford 연구진에 의해 제안되었으며, 기존 Transformer 모델의 핵심 구성 요소인 Attention 메커니즘을 개선한 기술입니다. Paperhttps://arxiv.org/pdf/2307.08691 FlashAttention GitHubhttps://github.com/Dao-AILab/flash-attention GitHub - Dao-AILab/flash-attention: Fast and memory-efficient exact attentionFast and memory-efficient exact attention. Contribute to Dao-AILab/flash-attention development by ..