일반뉴스 삼성전자, 온디바이스 AI로 비용 절감 및 자율성 실현한다

"영역을 엣지단으로 확대해 온디바이스 AI가 기술적 혁신으로 이어질 것" 삼성전자가 스마트폰 등에서 사용하는 온디바이스 생성형 인공지능(AI)을 통해 비용을 줄이는 방안을 목표로 제시했다. 박용인 삼성전자 시스템LSI사업부 사장은 26일 서울 강남구 코엑스에서 열린 '반도체대전(SEDEX 2023)'에서 'AI 시대, 인간을 이롭게 하는 반도체'를 주제로 한 기조연설을 통해 "현재 AI는 클라우드 서버 형태로 주로 구현되고 있으며 이를 운영하는데 가장 핵심적인 두 가지 고려 요소는 총소유비용(TCO)과 성능"이라고 말했다. 박 사장은 "AI 가속기로 보통 사용되는 그래픽처리장치(GPU)의 가격이 상승하고 있고 에너지 소비가 크다는 이슈가 있다"며 "이에 따라 AI 워크로드에 최적화한 대체 가능한 프로세스인 신경망처리장치(NPU) 등의 도입이 가속화하고 있다"고 설명했다. 현재 AI 가속기, CPU, 고대역폭 메모리(HBM) 등을 묶은 하이브리드 컴퓨팅이나 기존 CPU에 네트워크 프로세서를 합친 데이터처리장치(DPU)로 진화하는 등 고성능 컴퓨팅을 위한 다양한 기술 개발이 이뤄지고 있다. 박 사장은 "AI 활용처가 늘어날수록 클라우드 운영 비용 자체는 여전히

• 서재창 기자
• 2023-10-27 11:36