AI 뉴스웨이브베슬AI, 업스테이지 '솔라 프로4' 글로벌 추론 인프라 제공
핵심 요약
- 베슬AI가 솔라 프로4 추론 인프라 담당
- 한국, 유럽, 미국 GPU 서버로 요청 처리
- 자체 최적화로 속도 향상과 비용 절감
본문
네오클라우드 기업 베슬AI는 8일 업스테이지의 거대언어모델 '솔라 프로4'에 글로벌 인퍼런스 인프라를 제공한다고 밝혔다. 학습을 마친 모델을 실제 서비스에서 돌려 이용자 질문에 답하는 과정이 추론이다.
플래텀에 따르면 베슬AI는 한국과 유럽, 미국 데이터센터의 GPU 서버로 전 세계 이용자의 요청을 처리했다. 데이터넷은 자체 최적화 기술로 처리 속도를 높이고 비용을 낮췄다고 전했고, 테크월드는 솔라 프로4가 글로벌 LLM 마켓플레이스 오픈라우터에서 9월 사용량이 많았다고 소개했다.