연구실에서 축적한 AI 모델 경량화·최적화 연구역량, 국산 AI 모델과 AI 반도체를 연결하는 산업 성과로 이어져

경북대학교 인공지능학과 박사 졸업생 성민규 연구원(지도교수 강재모)이 인공지능 모델 최적화 전문기업 노타(Nota AI)에 재직하며, 초거대 인공지능 모델을 국산 AI 반도체에서 효율적으로 구동하기 위한 기술개발 성과에 기여했다.

이번 성과는 LG AI연구원의 초거대 언어모델인 ‘K-엑사원(EXAONE) 236B’를 퓨리오사AI의 데이터센터용 신경망처리장치(NPU)에 최적화한 것이다. K-엑사원 236B는 약 2,360억 개의 파라미터를 갖춘 전문가 혼합(Mixture of Experts·MoE) 구조의 대규모 AI 모델이다. 노타는 자체 평가를 통해 최적화된 모델의 크기를 기존보다 약 71% 줄이는 동시에, 과학 추론·지시 이해·수학 문제 해결 등 주요 평가에서 원본 모델 대비 평균 약 99.2% 수준의 정확도를 유지했다고 밝혔다.

성민규 연구원은 노타에서 모델 양자화 알고리즘 개발 / MoE 모델 분석 / NPU 맞춤형 모델 최적화 / 성능 검증 및 벤치마크 구축 등 실제 담당 업무 등을 수행하며 이번 성과 창출에 참여했다. 특히 초거대 AI 모델을 제한된 하드웨어 자원에서 구동하기 위해 모델의 연산 구조와 정확도 저하 요인을 분석하고, 국산 NPU의 특성을 고려한 최적화 기술을 적용하는 데 연구역량을 발휘했다.

초거대 AI 모델은 높은 성능을 제공하지만, 모델을 실행하기 위해 많은 메모리와 연산 자원이 필요하다는 한계가 있다. 더욱이 K-엑사원 236B와 같은 MoE 모델은 입력에 따라 일부 전문가 모델을 선택적으로 활용하기 때문에 효율성이 높지만, 양자화와 경량화 과정에서 각 전문가 모델의 성능을 안정적으로 유지하는 정교한 기술이 요구된다. 노타는 모델 전체를 다시 학습시키기보다 성능 저하 가능성이 높은 부분을 선별적으로 분석하고 최적화하는 방식으로 모델의 효율성과 정확도를 함께 확보했다.

이번 성과는 강재모교수 연구실(DeLTA LAB)에서 수행해 온 AI 모델 경량화, 하드웨어 인지형 최적화, 딥러닝 모델 압축 및 효율적 추론 기술 연구가 산업 현장의 실제 문제 해결로 확장된 사례라는 점에서 의미가 있다. 대학원 과정에서 축적한 이론적 지식과 연구 경험이 기업의 대규모 AI 인프라 구축 기술로 연결됐으며, 연구실의 전문 인재양성 역량과 산학 연계 성과를 보여주는 대표적인 사례로 평가된다.

또한 이번 기술개발은 국내에서 개발된 초거대 AI 모델과 국산 AI 반도체, AI 최적화 소프트웨어를 하나의 실행 환경으로 연결했다는 점에서도 주목할 만하다. 고성능 AI 모델을 개발하는 것뿐 아니라 이를 실제 데이터센터와 서비스 환경에서 효율적으로 운영하기 위해서는 모델·반도체·소프트웨어를 통합적으로 이해하는 융합형 전문인력이 필요하다. 이번 성과는 국내 AI 기술 생태계의 자립성과 경쟁력을 높일 수 있는 가능성을 보여줬다.

지도교수인 강재모 교수는 “이번 성과는 대학원에서 수행한 기초·응용 연구가 기업의 핵심 기술개발과 실질적인 산업 성과로 이어진 사례”라며, “앞으로도 학생들이 AI 알고리즘뿐 아니라 반도체와 시스템 환경까지 폭넓게 이해하고, 산업 현장에서 요구되는 문제를 해결할 수 있는 전문 연구자로 성장하도록 지원하겠다”고 밝혔다.

성민규 연구원은 인공지능학과 박사과정 재학 당시 딥러닝 경량화 및 VLM 기반 영상 초해상화를 연구해 왔으며, 현재 노타에서 양자화 팀 연구원으로 근무하고 있다. 향후에도 AI 모델의 성능을 유지하면서 연산량과 메모리 사용량을 절감하는 기술을 연구해 대규모 AI 모델의 실용화와 국내 AI 산업 발전에 기여할 계획이다.

강재모 교수 연구실 DelTA LAB은 앞으로도 AI 모델 최적화, 온디바이스·엣지 AI, AI 반도체 연계 기술 등 미래 산업의 핵심 분야에서 전문인력을 양성하고, 대학에서 축적된 연구성과가 기업 및 산업 현장으로 확산될 수 있도록 산학협력과 실무 중심의 연구를 지속적으로 강화할 예정이다.

자료 참고: 노타 공식 발표 및 관련 언론 보도

※ 기사 원본: 노타, LG ‘K-엑사원 236B’ 국산 NPU 최적화 성공…“성능 유지하며 모델 크기 71% 줄였다” < AI < AI < 기사본문 - 테크월드- 김승기 기자

※ 강재모 교수연구실(DeLTA LAB) 홈페이지: https://sites.google.com/view/jmkang (연구원, 대학원생, 학부연구생 상시모집)