안녕하세요, 리키입니다. 오늘은 최근에 나온 젬마 포(Gemma 4) 12B 모델에 대해 개발자 입장에서 어떤 점이 특별한지, 그리고 이게 우리에게 어떤 의미가 있는지 차분하게 이야기해 보려고 합니다.
이번에 공개된 젬마 포 12B는 기존의 멀티모달 모델과는 완전히 다른, ‘인코더 프리(encoder-free)’ 아키텍처를 가지고 있다는 점이 가장 큰 특징입니다. 기존 모델들은 시각이나 오디오를 따로 처리하는 복잡한 과정을 거쳤는데, 이 모델은 멀티모달 데이터를 LLM의 핵심 부분으로 바로 넣어 처리하기 때문에 데이터 처리 속도(지연 시간)가 훨씬 빨라지더군요. 여러 개의 인코더를 거치지 않으니 메모리 사용도 훨씬 효율적입니다.
특히 주목할 부분은 오디오 입력 처리입니다. 이전 젬마 모델들은 오디오를 처리하기 위해 별도의 인코더를 사용했지만, 12B 모델은 처음으로 오디오 입력을 자체적으로 처리할 수 있게 되었습니다. 이는 젬마 패밀리에서 처음으로 중형 모델이 오디오를 네이티브하게 이해할 수 있게 되었다는 의미죠. 이렇게 통합된 구조 덕분에 시각, 오디오, 텍스트 정보가 같은 가중치를 공유하게 되어서, 나중에 모델을 미세 조정(파인튜닝)할 때도 훨씬 간편해진다는 장점이 있습니다.
개발자 친화적인 크기라는 점도 중요합니다. 이 모델은 16기가 바이트(VRAM)만으로도 개인 노트북에서 직접 구동할 수 있을 만큼 작게 설계되었습니다. 덕분에 고성능 GPU가 없더라도 로컬 환경에서 AI를 구동하는 것이 가능해졌습니다. 심지어 추론 속도를 극대화하기 위해 추가적인 멀티 토큰 예측(MTP) 모델까지 함께 제공해서 사용자들이 더욱 빠르게 결과를 얻을 수 있도록 배려한 것이죠.
또한, 사용자 경험 측면에서도 변화가 있습니다. 개발자들이 이 모델을 더 쉽게 접하고 실험할 수 있도록 다운로드 가능한 맥(macOS) 데스크톱 애플리케이션을 제공하기 시작했습니다. 이제 일반 사용자들도 소비재급 기기에서 음성과 시각적 상호작용을 직접 경험해 볼 수 있게 된 것입니다. 젬마 포 12B는 자동 음성 인식이나 에이전트 추론 같은 다양한 멀티모달 능력을 갖추고 있어서, 앞으로 AI 기술이 우리 생활에 들어오는 방식이 많이 달라질 것 같습니다.
참고 원문: https://developers.googleblog.com/gemma-4-12b-the-developer-guide/