[카테고리:] Shadow Fellows

“Attention is All You Need” 논문은 2017년 Google Brain 팀에서 발표한 획기적인 연구로, 자연어 처리 분야에 혁명을 일으킨 Transformer 모델을 소개한 논문입니다. 이 논문은 BERT, GPT 등 현대 자연어 처리 모델의 기반이 되는 아키텍처를 제시했다는 점에서 매우 중요한 의미를 갖습니다. 이 글에서는 논문이 발표된 후 이 논문의 1저자인 Ashish Vaswani가 어떤 연구를 하였는지 설명합니다. 개요 […]

Image source : https://www.nobelprize.org/prizes/physics/2024/hopfield/facts/ 개요 John Joseph Hopfield(이하 Hopfield)의 연구는 1980년대부터 2020년대까지 생물학적 시스템과 신경망의 계산 모델(Computational Model)에 초점을 맞추고 있습니다. 초기에는 생물학적 뉴런의 비동기 병렬 처리와 컴퓨터 시스템의 content-addressable memory를 설명했습니다. 1980년대 중반에는 비선형 아날로그 뉴런을 활용하여 최적화 문제를 해결하였고 이를 위한 신경 회로망 기반 계산 모델을 제시했습니다. 1990년대에는 후각 시스템의 동적 패턴을 탐구하며, […]

*** 전혀 닮지 않은 그림… +_+ University of Toronto의 교수인 Geoffrey Hinton은 1980년대부터 진행해 온 신경회로망과 기계학습, 인공지능 분야와 관련된 연구에서 이루어 낸 업적으로 노벨 물리학상을 공동 수상하였습니다. 이 글은 2020년 이후 AI 관련 분야의 Arxiv에 업로드된 논문들 중에서 Geoffrey Hinton이 참여한 논문들을 바탕으로 작성하였습니다. 따라서 Geoffrey Hinton의 모든 연구업적을 설명하는 것은 아님을 미리 밝혀둡니다. […]

Google DeepMind의 CEO인 Demis Hassabis가 3차원 단백질 구조 예측과 관련한 업적으로 노벨 화학상을 공동 수상하였습니다. DeepMind라고 하면, 이세돌 9단과 대국을 하였던 AlphaGo를 떠올리게 되는데요, 2020년부터 최근까지 Demis Hassabis는 인공지능 분야에서 어떤 연구를 수행했는지 알아보겠습니다. 이 글은 2020년 이후 AI 관련 분야의 Arxiv에 업로드된 논문들 중에서 Demis Hassabis가 참여한 논문들을 바탕으로 작성하였습니다. 따라서 Demis Hassabis의 모든 […]