안녕하세요, 리키입니다. 요즘 인공지능 분야에서 정말 빠르게 새로운 기술들이 나오고 있더군요. 오늘은 그중에서도 특히 속도와 멀티모달(다중 양식) 능력을 결합한 ‘제마 포(Gemma 4)’가 세레브라스(Cerebras)라는 하드웨어 위에서 어떻게 혁신을 일으키고 있는지 이야기해 드리려고 합니다.
세레브라스에 탑재된 제마 포의 놀라운 속도
구글 딥마인드(Google DeepMind)가 개발한 제마 포 모델이 세레브라스 인퍼런스(Inference) 플랫폼에서 이제 개인 프리뷰로 제공되고 있습니다. 이 모델은 단순히 빠른 것을 넘어, 이미지 같은 시각 정보를 입력받아 추론하는 멀티모달 능력을 갖추게 되었습니다. 특히 주목할 점은 처리 속도인데요, 제마 포는 1초에 1,500 토큰 이상을 처리할 수 있다는 겁니다. 이는 다른 경쟁 모델들과 비교했을 때 엄청난 차이입니다.
예를 들어, 가장 직접적으로 비교해 볼 만한 클로드 하이쿠(Claude Haiku) 모델은 약 100토큰/초 정도의 속도를 보이죠. 제마 포는 이보다 무려 15배나 빠른 속도로 작동합니다. 단순히 빠르다는 것을 넘어, 이런 고속 처리 능력 덕분에 복잡하고 반복적인 작업들이 실시간으로 이루어질 수 있게 된 것입니다.
멀티모달 워크플로우의 혁신
이러한 압도적인 속도는 멀티모달 및 에이전트(Agentic) 루프에서 빛을 발합니다. 보통 이런 작업들은 모델에게 한 번만 요청하는 것이 아니라, 시각 정보를 보고, 그에 대해 추론하고, 결과를 내보내고, 도구를 사용해 확인하는 과정을 반복하게 되죠. 만약 속도가 느리면 실시간 상호작용이 불가능하지만, 제마 포가 1,500 TPS를 달성하면서 이러한 루프들이 거의 즉각적으로 작동할 수 있게 된 것입니다.
이는 사용자나 에이전트가 시각적 입력(스크린샷, 차트 등)을 주고받으며 실시간으로 작업하고 피드백을 받을 수 있다는 의미입니다. 문서나 스크린샷을 모델에 넣고 즉시 핵심 내용을 요약하거나, 버그를 찾아 패치하는 등의 작업들이 기다릴 필요 없이 순식간에 처리되는 것이죠.
효율성과 개방성의 조화
제마 포 31B는 구글 딥마인드의 오픈 웨이트 제마(Gemma) 패밀리 중 플래그십 모델입니다. 이 모델은 단순히 파라미터 수가 많은 것이 아니라, 품질과 효율성에 중점을 두고 설계된 밀집형 멀티모달 모델이라는 점이 중요합니다. 모에(MoE) 모델처럼 거대한 메모리를 필요로 하지 않으면서도 높은 지능을 달성했기 때문입니다.
게다가 제마 포는 어파치 2.0 라이선스로 공개되어 있어, 개발자들이 특정 공급업체에 종속되지 않고 자유롭게 이 기술을 기반으로 새로운 애플리케이션을 구축할 수 있다는 장점도 있습니다. 시각 이해 능력을 웨이퍼급 하드웨어에서 구현했다는 것은 정말 큰 진전이며, 앞으로 이미지와 텍스트를 결합하여 대시보드를 보고 판단하고 행동하는 등의 새로운 제품 경험을 가능하게 할 것이라고 저는 생각합니다.
참고 원문: https://www.cerebras.ai/blog/gemma-4-on-cerebras-the-fastest-inference-is-now-multimodal