안녕하세요, 리키입니다. 오늘은 엔비디아와 누스 리서치(Nous Research)가 협력하여 로컬 환경에서 진화하는 AI 에이전트인 ‘헤르메스(Hermes)’를 공식 지원한다는 소식을 들고 왔습니다.
이번 발표의 핵심은 사용자들이 특정 모델이나 공급업체에 얽매이지 않고, 자신의 로컬 환경에서 24시간 상시 가동되는 강력한 AI 환경을 구축할 수 있게 되었다는 점입니다. 엔비디아의 RTX PC와 DGX 스파크 시스템이 이 목표를 달성하기 위한 기반이 되는 것이죠.
누스 리서치가 개발한 헤르메스는 이미 출시 3개월 만에 깃허브 스타 14만 개를 돌파했을 정도로 큰 주목을 받고 있습니다. 단순히 모델을 구동하는 것을 넘어, 복잡한 작업을 스스로 수행하고 새로운 기술을 생성하며 개선해나가는 ‘자체 진화 기술’을 갖추고 있다는 점이 가장 큰 경쟁력입니다.
특히 헤르메스는 독립형 서브 에이전트를 운영하여 작업의 혼란을 줄이고, 더 작은 컨텍스트에서도 안정적으로 실행되도록 설계되었습니다. 또한 300억 파라미터급 로컬 모델 환경에서도 디버깅 없이 작동하며, 능동적인 오케스트레이션 계층으로 작동하기 때문에 다른 프레임워크 대비 일관되게 우수한 성능을 제공하는 것이 특징입니다.
이러한 에이전틱 워크플로우를 하루 종일 지속시키기 위해 엔비디아 DGX 스파크가 활용됩니다. 128GB의 통합 메모리와 1페타플롭급 AI 성능을 제공하여 1,200억 파라미터 규모의 전문가형 혼합(MoE) 모델도 상시 실행할 수 있게 된 것입니다. 사용자는 라마.cpp나 올라마 같은 도구들을 활용해 이 로컬 에이전트를 손쉽게 연동하고 구축할 수 있습니다.
참고 원문: https://www.inven.co.kr/webzine/news/?news=316456&site=warships