안녕하세요, 리키입니다. 오늘 전해 드릴 소식은 인공지능(AI) 시장의 무게중심이 어떻게 바뀌고 있는지, 그리고 이와 관련해서 우리나라가 어떤 방향으로 나아가고 있는지를 소개해 드리려고 합니다.
AI 시대, 국산 NPU의 중요성
최근 AI 분야에서는 단순히 모델을 학습하는 단계에서 실제 서비스를 구동하는 ‘추론(Inference)’ 단계로 경쟁이 이동하고 있습니다. 이 추론 작업에 특화된 반도체인 신경망처리장치(NPU)가 주목받고 있는 상황입니다. NPU는 그래픽처리장치(GPU) 대비 전력 소모가 적고 비용 효율성이 높아 GPU 의존도를 낮출 수 있다는 장점이 있어, AI 인프라 경쟁에서 국산 NPU의 중요성이 커지고 있습니다.
정부는 이러한 국산 NPU를 AI 주권을 지키기 위한 핵심 하드웨어로 보고 공공 현장에 도입을 추진하고 있습니다. 예를 들어, 올해부터 5년간 공공이 보유한 폐쇄회로(CCTV) 시스템을 NPU 기반의 AI 모니터링 체계로 전환하는 사업이 진행되고 있으며, 국방 분야에서도 해군 CCTV를 국산 NPU 기반 관제 체계로 교체하는 사업도 시행 중입니다.
국산 LLM과 산업 생태계
기업들 사이에서도 국산 NPU 활용 움직임이 활발합니다. 국내 업체들은 국산 NPU로도 엔비디아의 GPU와 유사한 성능을 구현하고 대규모언어모델(LLM) 처리 비용을 크게 절감할 수 있음을 보여주고 있습니다. 실제로 일부 기업들은 국산 NPU를 사용하여 LLM 토큰 처리를 효율화하는 사례를 소개하며, 이는 AI 자립 가능성을 높이는 중요한 발판이 되고 있습니다.
국내 업체들은 자체 실리콘과 소프트웨어 스택을 함께 설계하여 엔비디아 제품에 대등한 성능을 구현하고, 향후 비용을 낮출 계획이라고 전하고 있습니다. 이러한 국산 NPU와 LLM의 결합은 국내 AI 산업 생태계가 더욱 자립할 수 있는 기반이 될 것으로 기대되고 있습니다.
피지컬 AI를 위한 하이퍼-AI 네트워크
나아가 정부는 산업 현장에서 실제 AI 서비스를 구현하기 위해 ‘하이퍼-AI 네트워크’ 구축에도 착수했습니다. 이는 5세대 이동통신(5G SA)과 AI 기반 무선 접속망(AI-RAN)을 결합하여 피지컬 AI 서비스를 실증하고 휴머노이드와 같은 분야로 확대하려는 목표를 가지고 있습니다.
이를 위해 SK텔레콤과 케이티(KT)가 주관 기관으로 컨소시엄을 구성하여 AI-RAN 기반의 선도망과 자율 운용 네트워크를 검증하고 있습니다. 통신 데이터를 AI가 실시간 분석해 장애를 자동 조치하는 ‘AI 코어 오케스트레이터’ 개발 등을 통해, 물리적인 세계에서 AI가 안정적으로 작동할 수 있는 환경을 확보하려는 노력이 진행되고 있습니다.