국산 NPU LLM 국내 서비스 첫 상용화

국산 npu llm 국내 서비스 첫 상용화

안녕하세요, 리키입니다. 오늘 전해 드릴 소식은 국내 기업들이 국산 기술을 활용하여 AI 분야에서 새로운 상용화 사례를 만들었다는 내용입니다.

최근 업스테이지(Upstage), 퓨리오사AI(Foria AI), 그리고 다음(Daum) 운영사인 AXZ가 협력하여 국내 최초로 ‘토종 AI 풀스택’을 상용화했다는 소식이 전해지고 있습니다. 이는 국산 인공지능 반도체에서 국산 대규모언어모델(LLM)을 가동해 실제 이용자 서비스를 제공하는 방식으로, 엔비디아 중심의 인프라 의존도를 낮추고 국내 AI 생태계를 강화하려는 시도로 보입니다.

국내 첫 ‘소버린 AI’ 상용화 사례

이번 협력은 퓨리오사AI가 개발한 2세대 신경망처리장치(NPU)인 레니게이드(RNGD)에서 업스테이지의 대규모언어모델(LLM)인 솔라(Sola)를 구동하여 다음 검색 서비스에 ‘AI 요약’ 기능을 제공하는 방식으로 이루어졌습니다. 이용자가 검색어를 입력하면, 솔라가 관련 문서를 분석하고 핵심 내용을 요약해 보여주는 서비스를 구현한 것입니다.

이러한 AI 요약 서비스의 정확성과 안정성을 확보하기 위해 기술적인 노력이 필요했습니다. 기사에서는 AI가 기존 지식을 끌어와 사실과 다른 내용을 생성하는 ‘환각’ 현상을 막기 위해 프롬프트와 작동 과정을 설계하는 ‘하네스 엔지니어링(Harness Engineering)’ 기술을 고도화했다고 전합니다.

또한, 이러한 서비스를 안정적으로 제공하기 위해서는 대규모 연산을 효율적으로 처리하는 반도체 및 소프트웨어 최적화가 중요했습니다. 퓨리오사AI 측은 레니게이드 NPU가 엔비디아의 고성능 반도체인 H200과 대등한 성능을 내면서 현재 30% 이상의 비용 절감 효과를 보이고 있다고 설명하며, 추론 비용을 더욱 낮추겠다는 목표를 가지고 있습니다.

향후 서비스 확장 및 생태계 구축

이러한 기술적 기반 위에서 국내 기업들은 서비스를 확장할 계획입니다. 다음 측은 AI 요약 기능을 쇼핑이나 맛집 검색 등 다양한 분야로 확장하고, 궁극적으로는 이용자에게 특화된 ‘1인 1에이전트’를 보급하는 것을 목표로 하고 있습니다. 예를 들어, 사용자가 매일 반복적인 정보를 검색하지 않아도 관련 뉴스를 아침에 요약해서 제공하는 식입니다.

세 기업의 대표들은 국산 AI 모델과 반도체, 그리고 실제 서비스를 연결하는 ‘소버린 AI’ 생태계가 필요하다는 점을 강조했습니다. 국제 정세를 고려할 때 전략적인 관점에서 이러한 기술 결합이 필수적이라는 의견이며, 이는 국내 AI 산업의 자립도를 높이는 중요한 발판이 될 것이라는 전망입니다.


Dc0cf48c E4d8 4df4 96a4 3da66e1db377


참고 원문: https://www.hankookilbo.com/news/article/A2026071509300001460

댓글 달기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다

위로 스크롤