안녕하세요, 리키입니다. 오늘은 엔비디아에서 공개한 새로운 AI 모델에 대해서 이야기해 보려고 합니다. 기술적인 내용이지만 여러분께 쉽게 설명해 드리겠습니다.
엔비디아가 장시간 실행되는 AI 에이전트 시대를 염두에 두고 차세대 대형언어모델(LLM)을 공개했습니다. 바로 플래그십 모델인 ‘네모트론 3 울트라(Nemotron 3 Ultra)’를 오픈소스로 내놓은 것이죠.
이 모델의 가장 큰 특징은 단순한 챗봇을 넘어, 장시간 복잡한 작업을 수행하는 AI 에이전트를 위해 설계되었다는 점입니다. 기존의 LLM들과 비교했을 때 추론 처리량은 최대 5~6배나 높으며, 작업에 필요한 비용도 최대 30%까지 절감할 수 있다고 합니다.
네모트론 3 울트라의 구조
‘네모트론 3 울트라’는 총 5500억 개의 매개변수를 가진 초대형 전문가 혼합(MoE) 모델로 구성되어 있습니다. 이렇게 많은 지식을 효율적으로 처리하기 위해 설계된 방식이라고 이해하시면 되겠습니다.
결국 엔비디아는 AI가 단순히 짧은 질문에 답하는 것을 넘어, 실제로 장시간 동안 복잡한 임무를 수행할 수 있는 강력하고 효율적인 시스템을 만드는 데 중점을 두고 있다고 볼 수 있더군요. 앞으로 이 기술이 어떻게 발전해 나갈지 기대됩니다.
참고 원문: https://www.aitimes.com/news/articleView.html?idxno=211367