서울대학교 전기 · 정보공학부 이정우 교수와 연구진. 윗줄 왼쪽부터 이정우 교수, 한승엽 · 이정민 · 이나경 · 서지민 연구원. 아랫줄 왼쪽부터 차현호 · 오민해 · 김수환 · 김재현 · Idris Nechnech 연구원

서울대학교 공과대학 전기·정보공학부 이정우 교수 연구팀의 논문 8편이 인공지능(AI)·기계학습 분야의 대표 국제학술대회인 ‘NeurIPS 2026’과 자연어처리 분야의 주요 국제학술대회인 ‘EMNLP 2026’에 채택됐다.

연구팀은 동영상으로 로봇의 행동을 학습할 때 환경 잡음의 영향을 줄이는 방법과 거대언어모델(LLM)의 학습용 합성 데이터를 더 다양하게 생성하는 기술 등을 제시했다. 피지컬 AI와 강화학습, 거대언어모델의 학습·추론·코드 생성, 양자 AI 등 다양한 분야에서 AI의 성능과 효율을 높이는 연구성과다.

채택된 논문 중 5편은 오는 12월 6일부터 12일까지 호주 시드니에서 열리는 NeurIPS 2026에서, 나머지 3편은 10월 24일부터 29일까지 헝가리 부다페스트에서 열리는 EMNLP 2026에서 발표될 예정이다. 이번 연구에는 이정우 교수가 이끄는 인지머신러닝 연구실과 AI 플랫폼 기업 호두에이아이(HodooAI) 등의 연구진이 참여했다.

특히 NeurIPS 2026에 채택된 연구 가운데 ‘Why Latent Actions Fail, and How to Prevent It’은 동영상 기반 로봇 행동 학습에서 행동과 무관한 환경 요인의 영향을 줄이는 방법을 다뤘다.

로봇이 동영상으로 행동을 학습할 때는 물체의 움직임뿐 아니라 배경 변화나 주변 환경의 움직임까지 함께 학습할 수 있다. 이처럼 행동과 관계없는 정보가 섞이면 로봇이 실제로 익혀야 할 행동을 정확히 파악하기 어려워진다. 연구진은 이러한 문제를 이론적으로 분석하고, 동영상의 정보를 압축해 표현하는 잠재공간에서 불필요한 잡음의 영향을 줄이는 학습 방법을 제안했다. 학습을 원하는 방향으로 유도하는 추가 비용함수를 적용한 결과, 학습 성능이 기존보다 50~70% 향상됐다.

이번 성과는 로봇이 다양한 환경에서도 행동과 관련된 정보를 더욱 안정적으로 학습하는 데 기여할 것으로 기대된다. 향후 가사도우미 로봇이나 간병 로봇 등 복잡한 환경에서 작업해야 하는 휴머노이드 로봇의 지능화 연구에도 활용될 수 있다.

강화학습 분야에서는 한승엽 연구원이 제1저자로 참여한 ‘MINT: Meeting-time INdicators for Truncation in Multi-Step Off-Policy RL’이 채택됐다. 강화학습은 AI가 시행착오를 통해 더 나은 행동을 익히는 기술이다. 연구진은 여러 단계의 경험을 활용하는 학습 과정에서 목표보상함수의 변동성을 줄이는 방법을 제안해 기존 학습 방법의 이론적 한계를 개선했다.

거대언어모델 분야의 ‘Mechanistic Circuit Identification for Controllable Data Generation’은 AI 모델의 내부 작동 원리를 분석해 학습용 합성 데이터의 다양성을 높인 연구다.

고품질 학습 데이터 확보가 중요해지면서 AI가 새로운 학습 데이터를 직접 만들어내는 합성 데이터 기술이 주목받고 있다. 다만 생성된 데이터가 비슷한 내용과 표현에 편중되면 학습에 활용하는 데 한계가 있다.

연구진은 합성 데이터의 특성을 학습 가능성, 난이도, 학습 목표와의 정합성이라는 세 가지 측면에서 분석했다. 이어 각 특성과 관련된 모델 내부의 정보 처리 경로를 파악하고, 필요한 특성을 강화하는 방식으로 데이터 생성을 제어했다. 그 결과, 생성된 데이터의 의미론적 다양성이 기존 방법보다 10% 이상 높아졌다. 이 기술은 거대언어모델의 학습 데이터 확보를 돕고, 국내 거대언어모델과 AI 파운데이션 모델의 학습 효율 및 성능을 높이는 데 활용될 것으로 기대된다.

이 밖에도 NeurIPS 2026에 채택된 연구에서는 소규모 모델의 학습 정보를 활용해 거대언어모델의 학습 설정값을 효율적으로 결정하는 방법을 제안했다. 양자 AI 분야에서는 양자 상태를 압축하는 양자회로의 최적화 방법을 제안하고, 압축된 양자 상태의 복원 가능성에 관한 이론적 근거를 최초로 제시했다.

EMNLP 2026에 채택된 3편은 거대언어모델의 추론과 코드 생성 성능 개선에 집중했다. 생성한 답변을 보정하거나 추론 과정에 일시정지 토큰을 활용하는 방법을 연구하고, 코드의 함수별 실행 결과를 학습에 반영해 코드 생성의 정확도를 높이는 방법을 제안했다.

연구팀은 관련 특허 기술을 향후 호두에이아이의 AI 플랫폼에 적용해 피지컬 AI와 자연어처리 기반 거대언어모델 시스템의 핵심 기술로 활용할 계획이다.

최근 피지컬 AI와 양자 AI 연구에 주력하고 있는 이정우 교수는 연구실 제자 5명과 함께 자연어처리 및 피지컬 AI 기업 호두에이아이를 설립한 바 있다. 이번에 채택된 논문들에는 한승엽·이정민·이나경·서지민·차현호·오민해·김수환·김재현·Idris Nechnech 연구원이 공저자로 참여했다. 이들은 현재 피지컬 AI와 거대언어모델 연구에 주력하고 있으며, 향후 학계에서 후속 연구를 이어가거나 글로벌 기업 연구소에서 연구를 수행할 계획이다. 이 밖에도 조태현·김도형·이경재·Li Zhao·홍상우·박채연·이규복·조연식·유기웅·김연군·구진우·설민식·이기호·김세환 연구원 등이 공동연구에 참여했다.

‘MINT’ 논문의 제1저자인 한승엽 연구원은 “강화학습이론 분야의 서울공대 연구수준을 세계적 수준으로 끌어올리는 데 큰 역할을 할 것”이라며 “앞으로 피지컬 AI와 거대언어모델의 성능과 안전성을 높일 수 있으리라 기대한다”고 말했다. 한 연구원은 향후 강화학습 기술의 피지컬 AI 응용 연구에 집중할 계획이다.

연구를 지도한 이정우 교수는 “세계 최고 권위의 AI 학회인 NeurIPS 2026과 EMNLP 2026에 총 8편의 논문이 채택돼 기쁘다”며 “앞으로도 혁신적인 기술 개발을 통해 서울공대의 AI 연구 역량과 국내 AI 스타트업의 기술 수준을 높이는 데 기여하겠다”고 밝혔다.

이번 연구는 한국연구재단과 정보통신기획평가원 과제의 지원을 받아 수행됐다.