11일 인제대학교 연구진과 글로벌 기업 관계자들이 차세대 컴퓨팅 기술과 AI 생태계 조성 방안을 논의하고 있다.(사진=인제대 제공)

인제대학교가 글로벌 기술 기업들과 함께 GPU 수급 문제의 대안으로 주목받는 NPU 기반 컴퓨팅 기술 선점에 나섰다.

인제대 AI솔루션센터는 지난 11일 ‘차세대 인공지능(AI) 인프라 구축과 NPU 기반 컴퓨팅 기술’을 주제로 기술 세미나를 개최했다고 밝혔다. 이번 세미나는 NPU(신경망처리장치) 연산 기술과 온프레미스(자체 구축형) LLM 전략을 공유하고, 지역 산업과 연계한 AI 생태계 조성 방안을 논의하고자 마련했다.

이번 행사는 인제대, 한국인공지능협회 산업 AI 융합원, AI 과학기술원, 인공지능신문이 주관하고 NUMP와 Infoboss가 공동 주최했다. 특히 텐스토렌트(Tenstorrent), 삼바노바(SambaNova), MiTAC, INFINITIX, Graid Technology, SynaXG 등 글로벌 AI 기술 기업이 대거 참여해 차세대 인프라 구축 전략을 발표했다.

세미나에서는 급증하는 AI 연산 수요를 해결할 핵심 기술로 NPU의 가능성을 집중적으로 다뤘다. 텐스토렌트 관계자는 발표를 통해 NPU 아키텍처와 AI 모델 컴파일 전략을 소개하며, 기존 GPU 중심 인프라에서 벗어나 추론 중심 AI 서비스에 최적화된 새로운 연산 패러다임을 제시했다.

이어 다양한 인프라 가속 기술도 선보였다. MiTAC은 고성능 AI 서버 운영을 위한 수랭 기반 데이터센터 기술을, INFINITIX는 GPU 자원 효율화를 위한 가상화 기술을 설명했다. Graid Technology는 데이터 입출력 가속 기술을, SynaXG는 AI 클러스터 환경의 초저지연 네트워크 기술을 공유했다.

소프트웨어 부문에서는 대규모 언어모델(LLM)을 실무 환경에 효율적으로 적용하기 위한 RAG(검색 증강 생성) 기술과 컨텍스트 엔지니어링 전략을 발표해 참석자들의 큰 관심을 끌었다.

참석한 연구진과 기업 관계자들은 AI 인프라 구축에 하드웨어 도입을 넘어 아키텍처, 데이터 인프라, 소프트웨어 플랫폼을 통합한 ‘풀스택 전략’이 필요하다는 데 공감했다. 특히 대학이 자체 데이터와 인프라를 기반으로 연구 역량을 강화하는 ‘자립형 AI 연구 환경’ 구축의 중요성을 강조했다.

김희철 인제대 AI솔루션센터장(컴퓨터AI대학장)은 “이번 세미나는 대학과 글로벌 기업이 차세대 AI 인프라의 방향성을 함께 설정한 자리”라며 “NPU 기반 컴퓨팅과 자체 구축형 LLM 전략을 통해 지역 산업과 연구 생태계가 동반 성장하는 계기를 만들겠다”고 밝혔다.