SKT, 텔코 LLM 6월 출격…"똑똑한 통신서비스 제공"
통신요금 전문성 확보한 텔코 LLM 나온다
오픈AI·앤트로픽과 협업
휴먼 피드백 기반 학습 강화
입력 : 2024-04-30 10:23:12 수정 : 2024-04-30 10:23:12
[뉴스토마토 이지은 기자] 통신서비스를 잘 이해한 초거대언어모델(LLM)이 6월 출시됩니다. SK텔레콤의 A.X를 비롯해 오픈AI의 챗GPT4, 앤트로픽 클로드를 학습한 멀티LLM인데요. 텔코LLM을 통해 정확하고 빠른 통신서비스 제공 환경을 만들겠다는 포부입니다. 
 
SK텔레콤(017670)은 5G 요금제, T멤버십, 공시지원금 등 우리나라의 통신 전문 용어와 AI 윤리가치와 같은 통신사의 내부 지침을 학습한 텔코LLM을 6월 개발 완료한다고 30일 밝혔습니다. 텔코LLM은 특정 회사의 범용 LLM이 아닌 통신업에 특화된 LLM을 의미합니다. 
 
월드IT쇼 SK텔레콤 부스에 전시된 에이닷 및 텔코 LLM. (사진=뉴스토마토)
 
통신 특화 LLM을 만들기 위해 SK텔레콤은 오픈AI, 앤트로픽과 협력을 선택했습니다. 1개의 범용 LLM 보다 서비스 유형에 맞춰 골라쓸 수 있는 멀티 LLM이 유용하다고 판단한 것인데요. 에릭 데이비스 SK텔레콤 AI테크 콜라보레이션 담당은 "1개의 범용 LLM으로 통신사들이 하려는 다양한 서비스와 문제를 해결하는 것은 쉽지 않을 수 있다"고 설명했습니다. 
 
SK텔레콤은 텔코LLM을 구축하기 위해 텔코 데이터를 수집하고 비정형·정형 데이터를 선별, 정제하는 작업을 진행했습니다. 이를 기반으로 범용 LLM을 통신사 전용으로 미세조정하는 과정을 거치고, 휴먼 피드백 기반의 강화 학습(RLHF)을 한 후 최종 모델 평가를 하는 사이클을 거치는데요. 
 
가령 고객이 요금제를 문의하거나 부가서비스 변경을 요청하는 식의 상담 유형을 선택하는 영역에서 낮은 점수를 받으면 관련 데이터를 더 구축하는 방식으로 학습하는 식의 미세조정 과정을 통해 계속 고도화 합니다. 이 모든 과정을 계속 주기적으로 반복해 텔코LLM을 더 똑똑하게 만들고 있다는 것입니다. 
 
텔코LLM 구축과정. (자료=SK텔레콤)
 
SK텔레콤은 범용LLM 대비 텔코LLM은 통신 영역에서 높은 수준의 생성형 AI작업을 수행할 수 있어 활용성이 높다고도 강조했습니다. 
 
현재 고객센터에서 상담 전화 한 건을 처리하는 데 고객 상담에 약 3분, 상담 후 업무 처리하는 데 30초 이상이 소요되는데요. 텔코LLM을 도입하면 상담사가 고객과 전화하는 동안 LLM이 해결책을 상담사에게 제공하고 상담 내용을 요약해주는 등 상담 후 처리까지 소요되는 시간을 크게 단축시켜 주는 게 가능한 것이죠. 
 
텔코LLM 중 통신 관련 데이터를 입힌 클로드 버전의 경우 AI가 따라야 할 윤리원칙을 철저하게 학습하고 있고 우리나라에서 빠르게 생겨나고 있는 신조어나 한국어 욕설, 위협 폭언 식의 문맥 뉘앙스를 정확하게 파악할 수 있는 장점이 있습니다. 
 
통신사의 네트워크 인프라 운용에도 텔코LLM이 유용하다고 설명합니다. 인프라 운용자가 네트워크 모니터링 중 문제가 발생하면, 실시간으로 텔코LLM에 질문을 입력해 해결 방안을 답변으로 받아볼 수 있기 때문입니다. 이에 SK텔레콤은 향후 인프라 운용 중에 발생되는 데이터 분석과 축적된 데이터 기반의 정보 조회 등에도 텔코LLM을 확대 적용을 계획 중입니다.
 
SK텔레콤은 통신사들이 생성형 AI 애플리케이션(앱)을 효율적으로 구축, 개발할 수 있는 인텔리전스 플랫폼도 공개했습니다. 일종의 기업용 AI 개발·운용 패키지인데요. 
 
현재 SK텔레콤은 인텔리전스 플랫폼을 자사 에이닷 서비스에 적용 중인데, 적용 사례를 지속 확대한다는 계획입니다. 콜센터 콜봇, 챗봇, 유통 채널 어시스턴트, 인프라 어시스턴트, 사내 업무 혁신 등 활용이 가능한데요. SK텔레콤은 "우리나라를 비롯해 글로벌 통신사들은 물론 상담업무 등 유사한 업무특성을 가진 기업들이 텔코 LLM 인텔리전스 플랫폼을 통해 거대 플랫폼 개발에 드는 비용과 시간을 절감할 수 있을 것으로 기대한다"고 강조했습니다. 
 
이지은 기자 jieunee@etomato.com
 

ⓒ 맛있는 뉴스토마토, 무단 전재 - 재배포 금지



  • 이지은

일상생활에 도움이 되는 건강한 기사를 작성하겠습니다