▲박상원 KT AX사업부문장(전무)이 27일 서울 종로구 KT광화문빌딩 웨스트에서 열린 기자간담회에서 발언하고 있다. 사진=김나현 기자
KT가 통신요금처럼 인공지능(AI) 이용료를 청구하는 사업을 시작한다. 국내외 AI 모델 500여 개를 한곳에 모아 기업에 제공하고, 사용량에 따라 요금을 받는 방식이다. KT는 오는 30일 기업용 플랫폼 ‘토큰팩토리’를 출시하고 내년에는 개인 고객으로 사업을 확대할 계획이다.
KT는 27일 서울 종로구 KT광화문빌딩 웨스트에서 기자간담회를 열고 AI 모델 선택부터 이용량 관리, 요금 정산까지 한 번에 처리할 수 있는 ‘토큰팩토리(Token Factory)’를 공개했다. 출시 초기에는 73종의 AI 모델을 제공하고, 다음 달 글로벌 AI 모델 중개 플랫폼 ‘오픈라우터(OpenRouter)’와 연계해 500종 이상으로 확대한다.
이날 박상원 KT AX사업부문장(전무)은 “AI 시장은 이제 누가 더 좋은 모델을 만드느냐보다 누가 AI를 더 쉽고 효율적으로 활용하도록 지원하느냐의 경쟁으로 빠르게 전환되고 있다”고 말했다.
KT가 새 사업에 나선 것은 기업의 AI 사용량이 늘면서 비용 관리가 중요한 과제로 떠올랐기 때문이다. AI는 질문을 이해하고 답변을 생성할 때 처리하는 정보의 기본 단위인 ‘토큰’을 기준으로 요금을 매긴다. KT가 인용한 오픈라우터 통계에 따르면 전 세계 AI 토큰 소비량은 최근 1년 사이 약 35배 증가했다.
기업 입장에서는 업무마다 적합한 AI 모델이 다른 데다 모델별 요금도 제각각이어서 비용을 관리하기가 쉽지 않다. KT는 여러 AI 모델을 하나의 플랫폼에서 이용하도록 하고, 통신사업에서 축적한 과금 기술을 활용해 사용량을 통합 정산한다는 구상이다.
◇ AI 모델 자동 선택…이용 비용 최대 25% 절감
▲이진형 KT AX사업본부장(상무)이 27일 서울 종로구 KT광화문빌딩 웨스트에서 열린 기자간담회에서 발언하고 있다. 사진=김나현 기자
이날 간담회에서는 토큰팩토리의 주요 기능을 영상으로 시연했다. 이용자가 같은 질문을 여러 AI 모델에 입력하자 화면에는 모델별 답변과 처리 시간, 토큰 사용량이 표시됐다. 관리자는 부서별 사용량과 비용을 확인하고 예산 한도도 설정할 수 있다.
핵심 기능은 업무에 맞는 AI 모델을 자동으로 골라주는 ‘오토 모델 라우터’다. 문서 요약이나 번역처럼 단순한 업무에는 저렴한 모델을, 복잡한 분석에는 고성능 모델을 배정한다. 이용자가 답변 품질과 비용 가운데 어느 쪽을 우선할지도 설정할 수 있다.
KT는 자체 개발한 모델 선택 기술과 프롬프트 압축 기술을 적용해 AI 이용 비용을 최대 25% 줄일 수 있다고 설명했다. 프롬프트에서 불필요한 표현을 제거해 입력 토큰 수를 줄이고, 업무에 필요한 성능을 갖춘 모델 가운데 비용이 낮은 모델을 선택하는 방식이다.
이날 질의응답에서 KT 측은 “프롬프트 압축으로 약 20%, 모델 라우팅으로 약 5%의 비용을 절감했다“고 설명했다. 이는 KT 내부 시험 결과로, 실제 절감률은 이용 환경에 따라 달라질 수 있다.
토큰팩토리는 출시 초기 73종의 AI 모델을 제공한다. 이 가운데 7종은 KT가 국내 데이터센터에서 직접 운영하는 모델이다. KT 자체 개발 모델과 업스테이지 등 국내 AI 기업의 모델이 포함된다.
다음 달에는 글로벌 AI 모델 중개 플랫폼 오픈라우터와 연계해 모델 수를 500종 이상으로 늘린다. KT는 오픈라우터와 국내 최초로 공식 파트너십을 체결했다. 국내 AI 기업이 개발한 모델을 오픈라우터에 등록해 해외에 판매하는 사업도 추진한다.
이진형 KT AX사업본부장(상무)은 “통신에서 전화번호 하나로 어디든 연결해서 쓰는 것처럼 AI도 하나의 API로 여러 모델을 이용할 수 있도록 하겠다“고 말했다.
◇ 국내 AI는 7종…해외 모델은 처리 지역 달라
▲김준석 KT Agentic AI Lab장 상무, 이진형 AX사업본부장 상무, 원만호 AX플랫폼본부장 상무가 27일 서울 종로구 KT광화문빌딩 웨스트에서 열린 기자간담회에서 질의응답하고 있다. 사진=김나현 기자
기업 고객을 겨냥한 보안 기능도 갖췄다. 개인정보와 민감정보, 유해 표현을 걸러내는 자체 가드레일 기술을 적용했다. 기업별로 금칙어를 지정하거나 특정 AI 모델과 접속 IP를 제한할 수도 있다.
다만 토큰팩토리에서 제공하는 모든 AI 모델이 국내에서 데이터를 처리하는 것은 아니다.
이 본부장은 해외 모델 이용 시 데이터 처리 지역을 묻는 질문에 “대부분 모델들은 생성하는 지역들이 한국이 아닐 가능성이 크다”고 말했다. 이어 모델 제공업체와 데이터 처리 지역에 관한 정보를 고객에게 안내하겠다고 밝혔다.
출시 초기 제공되는 73종 가운데 국내 데이터센터에서 직접 추론하는 소버린 AI 모델은 7종이다. 나머지 모델은 제공업체에 따라 데이터 처리 환경이 달라질 수 있다.
KT는 국내에서 운영하는 AI 모델을 중심으로 금융과 공공시장도 공략할 계획이다. 금융권에는 국내 데이터센터의 GPU를 활용한 모델을 공급하고, 공공기관에는 관련 보안 기준에 맞춘 클라우드 환경을 제공한다는 방침이다.
◇ 기업은 종량제, 개인은 구독형…수익 모델도 공개
토큰팩토리 요금제는 ‘스탠다드’와 ‘엔터프라이즈’ 두 가지로 나뉜다. 스탠다드는 사용한 토큰만큼 요금을 내는 종량제 방식으로, 선불 크레딧 결제와 후불 정산을 지원한다.
엔터프라이즈는 기업의 이용 규모와 약정 기간에 따라 요금을 할인해 주는 방식이다. 전용망 연결과 서비스 품질 보장 등 기업별 요구에 맞춘 부가 기능도 제공한다.
KT는 올해 말까지 기업 고객 확보에 집중한 뒤 내년 3월 개인 개발자와 일반 이용자에게 서비스를 개방할 계획이다. 개인용 서비스에는 구독형 요금제를 도입한다.
이날 간담회에서는 토큰팩토리의 구체적인 수익 구조도 공개됐다. KT는 국내 데이터센터에서 GPU를 활용해 직접 AI 추론 서비스를 제공하고, 외부 모델에는 통신망과 클라우드 등 부가 서비스를 결합해 수익을 낸다는 구상이다.
이 본부장은 “일반적인 AI 모델 중개 사업자는 약 5%의 수수료를 받지만 KT는 수수료를 주력 수익 모델로 삼지 않을 것“이라며 “국내 데이터센터에서 GPU를 활용해 직접 토큰을 생산하는 것이 주요 수익 모델“이라고 설명했다.
다만 구체적인 매출 목표는 밝히지 않았다. 이 본부장은 2028년 매출 목표를 묻는 질문에 “목표 금액을 말씀드리기에는 적합한 시점이 아니다”라고 답했다.
출시를 앞두고 일부 기업과 계약을 준비하고 있지만 고객사 명단도 공개하지 않았다. KT는 연말까지 실제 서비스 이용 현황을 살펴본 뒤 계약 기업을 공개할 수 있다는 입장이다.
KT는 오는 12월 토큰팩토리의 기능을 추가로 개선하고 내년 3월 개인용 서비스를 출시할 예정이다. 국내 AI 모델의 해외 판매도 추진해 기업용 AI 구축부터 모델 공급, 이용료 정산까지 사업을 확대한다는 방침이다.
김나현 기자 knh@ekn.kr
