LLM
크래프톤, AI 반도체 기업에 500억 직접 투자 나선다

국내 게임사 크래프톤이 인공지능(AI) 반도체 스타트업에 대규모 투자를 한다. 22일 한국경제 보도에 따르면 크래프톤은 국내 AI 반도체 스타트업인 하이퍼엑셀이 진행 중인 시리즈B 라운드에 전략적투자자(SI)로 합류한다. 투자액은 500억 원 안팎으로, 전체 조달액 1500억 원 중 1/3에 해당한다. 하이퍼엑셀은 대규모언어모델(LLM) 추론에 특화된 차세대 반도체인 언어처리장치(LPU)를 만드는 곳으로, 가전과 로봇 등 이른바 ‘온디바이스 AI’ 시장의 유망주로 꼽힌다. 시장에서는 게임회사가 반도체 기업에 직접 지분을 태우는 행보를 매우 예외적으로 받아들이고 있다. 크래프톤이 이런 파격적인 결정을 내린 이유는 결국 ‘돈’ 때문이다. 고도화된 AI 캐릭터가 유저와 실시간으로 대화하고, 개발 과정에서 AI가 코드와 이미지를 뽑아낼 때마다 서버 연산 비용이 그야말로 기하급수적으로 치솟기 때문이다. 하이퍼엑셀의 기술은 현재 글로벌 시장을 쥐고 흔드는 엔비디아의 높은 몸값과 품귀 현상을 해결할 강력한 대안이다. 구하기 힘든 고대역폭메모리(HBM) 대신 흔한 저전력D램을 사용해 가격과 전력 소모를 획기적으로 낮췄기 때문이다. 크래프톤 입장에서는 이번 투자를 통해 장기적으로 엔비디아에 목줄을 잡히지 않고, 독자적인 인프라 원가 통제권을 쥐겠다는 뜻으로 풀이된다. 진짜 픽처는 현실 세계의 기계를 움직이는 ‘피지컬 AI’에 있다. 크래프톤은 이미 배틀그라운드라는 거대한 가상 세계 안에서 AI에게 물리 법칙을 학습시키는 독보적인 인프라를 갖고 있다. 최근 쏘카와 손잡고 자율주행 합작법인 설립에 나선 것도, 미국 샌프란시스코에 로보틱스 법인을 세워 휴머노이드 로봇의 두뇌 개발에 착수한 것도 모두 같은 맥락이다. 자율주행차나 로봇이 현장에서 인간처럼 실시간으로 판단하려면 열이 안 나고 전력을 적게 먹으면서도 연산이 빠른

“작고 빠른 AI가 경쟁력” 삼성, ‘온디바이스’ 핵심 기술 공개

모델 압축·AI 실행기 등으로 최적화 전략 구현 과거 SF 영화 속 인공지능은 거대한 컴퓨터 장비나 초대형 서버로 묘사되곤 했지만, 오늘날 AI는 손 안의 기기에서도 바로 사용하는 일상의 기술이 됐다. 삼성전자 뉴스룸에 따르면, 삼성전자는 모바일 기기, 가전 등 다양한 기기에 외부 서버나 클라우드 없이 자체적으로 AI를 구동하는 ‘온디바이스 AI(On-Device AI)’ 기술을 적극 도입하며, 빠르고 안전한 AI 경험을 실현하고 있다. 서버 환경과 달리 온디바이스에서는 메모리와 연산 자원의 제약이 크다. 따라서 AI 모델의 크기를 줄이고, 기기 환경에 맞게 실행 효율을 높이는 온디바이스 AI 최적화 기술이 필수적이다. 삼성리서치 AI센터 함명주 마스터는 삼성전자 뉴스룸과의 인터뷰에서 “모델 압축, 실행 소프트웨어 최적화, 새로운 아키텍처 개발 등 온디바이스 AI 핵심 기술 전반에서 연구를 선도하고 있다”고 밝혔다. ◇ LLM을 기기 안에 넣기 위한 해법…양자화와 AI 실행 엔진 생성형 AI의 중심에는 수십억 개 연산을 수행하는 거대언어모델(LLM)이 자리 잡고 있다. 함 마스터는 “이 모델을 기기에서 그대로 구동하면 배터리 소모와 발열, 지연 발생 등 사용성 저하가 필연적”이라고 설명한다. 이에 삼성리서치는 숫자 연산을 정수 형태로 바꾸는 양자화(Quantization) 기반 모델 압축 기술을 적용해 연산량과 메모리 사용량을 크게 줄이고 있다. 함 마스터는 “고해상도 사진을 압축해도 화질이 크게 달라지지 않는 것과 같은 원리”라며, 중요한 가중치는 정밀하게 유지하고 덜 중요한 부분은 과감히 단순화해 모델 크기를 줄이면서도 정확도를 유지한다고 밝혔다. 압축 과정에서 발생할 수 있는 성능 저하를 보정하기

“상담 품질 편차 줄인다” LGU+, AI 코칭 솔루션 개발

LG유플러스가 고객센터 전화 상담 품질을 업그레이드하기 위해 대규모언어모델(LLM) 기반 상담사 코칭 설루션 ‘AI Auto QA’를 개발했다고 20일 밝혔다. AI Auto QA는 LG유플러스 상담사의 전화 상담 품질을 검수하고 피드백을 제공하는 AI 코칭 프로그램이다. 상담이 끝나면 AI가 대화를 즉시 검수해 피드백을 제공한다. 기존에는 월 평균 150만건에 달하는 전체 상담 콜을 검수하는 데 한계가 있어 일부만 사람이 품질을 검수했다. 이로 인해 평가자 간 편차로 인한 공정성 문제가 발생하거나 정확한 상담품질 측정에 어려움이 있었다. 코칭 피드백도 최대 1주가량 걸려 상담품질 개선이 늦어졌다. 고객도 상담사에 따라 상담 품질의 편차를 겪었다. LG유플러스는 이러한 문제를 해결하기 위해 AI Auto QA를 고객센터 전화상담에 적용했다. 상담사는 상담 후 사물존칭, 공감 표현 등에 대한 피드백을 바로 받는다. 예를 들어 “5G 요금제가 있으십니다”라고 말하면 AI Auto QA가 “5G 요금제가 있습니다”라고 피드백한다. 상담사는 자신이 잘못 표현한 내용이 무엇이었는지 바로 파악해 상담 능력을 개선하게 된다. 교육을 맡은 상담코치 또한 기존의 반복적 평가는 AI에게 맡기고 감성 코칭, 응대 노하우 전수에 역량을 집중할 수 있어 코칭 효율 또한 높아졌다. 이로 인해 고객가치가 커졌다. 즉각적인 코칭 피드백으로 상담사가 응대 방식을 개선하면, 고객은 보다 빠르고 높은 품질의 상담을 받으며 상담 신뢰도와 만족도가 함께 향상된다. 신규 또는 저년차 상담사도 AI 기반 품질평가 및 개인 맞춤 AI 코칭으로 빠르게 역량을 키울 수 있어, 상담사 간 고객 응대 품질 격차가

더나은미래 특별기획