1200억 파라미터로 추론 능력 향상
양자화 기술로 인프라 부담은 완화
롯데이노베이트가 AI 플랫폼 아이멤버(Aimember)의 언어 모델을 업그레이드하며 엔터프라이즈 생성형 AI 시장 공략에 박차를 가한다. <사진=롯데이노베이트> 롯데이노베이트가 자사의 기업 전용 인공지능(AI) 플랫폼 ‘아이멤버(Aimember)’를 1200억 파라미터 규모 언어 모델로 업그레이드하며 엔터프라이즈 생성형 AI 시장 공략에 박차를 가한다. 이번 고도화는 모델 크기를 키워 답변의 논리성을 강화하는 한편,최적화 기술을 통해 운영비용 효율을 높이는 데 초점을 맞췄다.
26일 롯데이노베이트에 따르면 업그레이드된 아이멤버는 파라미터 확장을 통해 복잡한 질의에 대한 맥락 파악과 답변 구성 능력을 높였다.
수능 국어 영역 기반의 ‘CSATQA’(78.31점)와 한국어 종합 능력을 평가하는 ‘해례 벤치‘(78.15점) 및 전문지식 추론 ’KMMLU-Pro‘(60.67점),수학 추론 ’HRM8K-MMMLU‘(92.98점) 등 주요 지표에서 오픈소스 모델 대비 우수한 성적을 기록하며 한국어 처리 역량을 확인했다.
기술적으로는 ‘양자화(Quantization)’ 기법을 적용해 시스템 운영 효율을 개선했다. 양자화는 거대 모델을 경량화해 구동하는 기술로,이를 통해 기존 320억 파라미터 모델용 인프라에서도 1200억 파라미터 모델급을 안정적으로 운영할 수 있게 됐다. 회사 측에 따르면 동일 그래픽처리장치(GPU) 자원 환경에서 추론 속도는 기존 대비 3배 향상됐으며,이는 실시간 업무 응답 속도 개선으로 이어졌다.
기업용 AI에 필수적인 보안성과 유연성도 확보했다. 외부 API 의존 없이 자체 인프라에서 운영되는 ‘오픈소스 기반 구축형 모델’을 채택해 데이터 보안과 컴플라이언스 대응력을 높였으며,기업별 요구에 맞춘 커스터마이징이 용이하다고 롯데이노베이트는 강조했다.
글로벌 업무환경 지원도 강화됐다. 기존 한국어 중심에서 영어와 일본어를 추가 지원하며,단순 번역을 넘어 해당 언어로 직접 조작이 가능하도록 UI와 UX를 확장했다. 이를 통해 해외 계열사와 현지 법인 도입을 위한 기반을 마련했다는 평가다.
롯데이노베이트 관계자는 “앞으로도 아이멤버의 성능과 속도,보안 수준을 지속적으로 업그레이드하는 한편,산업과 업무 특화 모델을 꾸준히 발전시켜 기업들의 AI 혁신을 이끌겠다”고 말했다.