헬로티 –매일 만나는 첨단 산업, 경제, IT 소식

일반뉴스 업스테이지, AWS 플랫폼에 자사 LLM ‘솔라 프로’ 정식 출시

AWS 주요 플랫폼 탑재해 기업 대상으로 자사 맞춤형 생성형 AI 서비스 도입 지원 업스테이지는 아마존웹서비스(이하 AWS)를 통해 자사의 차세대 LLM ‘솔라 프로’를 정식 출시했다고 5일 밝혔다. 솔라 프로는 ‘아마존 베드락 마켓플레이스’, ‘아마존 세이지메이커 점프스타트’, AWS 마켓플레이스’ 등 AWS 주요 플랫폼에 탑재, 전 세계 기업을 대상으로 자사 맞춤형 생성형 AI 서비스 도입을 지원한다. 솔라 프로는 220억 매개변수(파라미터) 모델로 기존 ‘솔라 미니’(107억) 대비 두 배 이상 커지고 성능도 50% 이상 향상됐다. 금융, 법률, 헬스케어 등 다양한 산업별 전문지식을 기반으로 뛰어난 문맥 이해와 추론 능력을 갖췄다. 기업이 보유한 데이터를 학습시키면 복잡한 맞춤형 업무를 높은 정확도로 처리한다. 앞서 업스테이지는 솔라 프로 개발을 위해 AI 모델 개발·배포 서비스 '아마존 세이지메이커’를 활용해 모델 학습 시간을 크게 단축했다. 또한, ‘DUS(깊이 확장 스케일)’ 기술과 데이터 전처리 등 자체 모델링 방법론을 고도화해 단 1개의 GPU로 구동이 가능한 수준으로 경량화에 성공했다. 지난 9월 오픈소스로 공개한 ‘솔라 프로 프리뷰’ 버전은

서재창 기자

2024-12-05 13:26

일반뉴스 업스테이지, 차세대 LLM ‘솔라 프로’ 프리뷰 버전 무료 공개

프리뷰 버전은 영어만 지원하며, 입력 토큰 수도 4096자로 제한돼 업스테이지가 올 11월 출시 예정인 자사의 차세대 LLM ‘솔라 프로’의 초기 테스트용 모델인 ‘솔라 프로 프리뷰’ 버전을 오픈소스 및 무료 API를 통해 전면 공개한다고 11일 밝혔다. 솔라 프로는 솔라 LLM 시리즈의 상위 모델로, 올 11월 공식 출시를 앞두고 있다. 업스테이지는 현재 개발 중인 모델을 미리 테스트해 볼 수 있는 프리뷰 버전을 오픈소스로 공개하는 한편, API 호출 비용까지 무상 지원할 예정이다. 프리뷰 버전은 영어만 지원하며, 입력 토큰 수도 4096자로 제한된다. 솔라 프로는 220억(22B) 매개변수를 갖춰 기존 ‘솔라 미니’(107억) 대비 두 배 이상 커지고 성능도 대폭 향상됐지만, DUS(깊이 확장 스케일) 기술 등 자체 LLM 모델링 방법론을 고도화한 결과, 여전히 단 1개의 GPU에서 구동이 가능한 수준으로 경량화에 성공했다. 최근 GPU 가격 급등과 수급난으로 골머리를 앓는 기업용 AI 시장의 판도를 크게 바꿀 것으로 기대를 모은다. 솔라 프로는 인문학뿐 아니라 과학·기술·공학·수학(STEM) 종합 지식을 평가하는 ‘MMLU Pro’, 지시 이행 능력을

서재창 기자

2024-09-11 09:26