KT(030200)의 AX 전문 조직 AXD본부를 이끄는 김훈동 상무는 지난 10일 서울 용산 드래곤시티에서 열린 ‘Gen AI Seoul 2025’ 포럼에서 속도감 있는 AI 도입을 강조하며 이 같은 견해를 밝혔다.
|
KT는 네트워크 운영 분야에 특화된 AI에이전트인 ‘AI 마이스터’를 활용 중이다. KT는 원활한 통신망 운영을 위해 24시간 상시 네트워크 운영 체계를 갖추고 있는데, 장애나 문제가 발생하면 전문 엔지니어인 ‘마이스터’가 현장에 투입된다. 이 과정에서 AI 마이스터는 대화형 인터페이스를 통해 장애 징후 감지, 문제 해결 매뉴얼 탐색 등을 자동화해준다. 마이스터의 초동 대응을 지원하는 것이다. 실제 현장에서 새롭게 업무를 맡은 인력은 물론 몇 십년의 경력으로 네트워크 운영에 숙련된 인력들도 AI 마이스터를 유용하게 활용하고 있다.
반복 보고 작업을 효율화하기 위한 ‘마켓 센싱 리포트 에이전트’는 시장 동향 분석 보고서 작성 업무를 100% 자동화했다. 아울러 일주일 단위로 갱신되던 분석 보고서를 이틀 간격으로 받아볼 수 있게 됐고 보고의 양도 10배 이상 증가했다. 이르거나 늦은 시간에도 시장 동향을 파악할 수 있는 게 됐다.
김 상무는 AI를 민첩하게 도입하기 위해선 상용 플랫폼 기반의 ‘퀵 윈’(Quick Win, 단기간 내 눈에 보이는 성과를 도출하는 방식) 이후, 비용이나 속도 등을 고려해 최적의 하이브리드 환경 및 SLM을 활용하는 것이 현실적인 대안이라고 제안했다.
그는 “과거 ‘비용’과 ‘보안’ 이슈 때문에 온프레미스(자체 서버를 구축하는 방식) 환경에서 AX를 시도했던 기업이 많지만, 온프레미스 환경은 빠르게 변화하는 AI 시장에서 기술의 발전 속도를 따라잡기에 역부족”이라고 설명했다.
KT는 현재 SOTA(State of the art, 최신 최고 성능)급 프런티어 모델을 기반으로 고객사의 문제를 빠르게 해결하고 실질적인 결과물을 도출하는 전략을 실행하고 있다. 상용 플랫폼과 SOTA 모델을 통한 빠른 프로토타이핑 이후, 비용(Cost), 응답 속도(Latency), 처리량(Throughput), 보안(Security), 규제(Regulation) 등의 요소를 복합적으로 고려해 최적화를 시도하는 ‘선 적용-후 최적화’ 모델이다. 이를 통해 기업들은 AI 도입의 효과성을 먼저 검증한 뒤, 좀 더 실질적인 혁신을 이뤄낼 수 있게 된다.
생성형 AI의 도입은 단순한 기술 구현을 넘어, 기업 운영 패러다임 자체를 전환하는 전략적 선택이다. 김훈동 상무는 토론 말미에 “KT의 축적된 경험을 기반으로 대한민국 산업계가 직면한 과제를 해결하는 데 기여하고, 나아가 글로벌 AI 프런티어로 도약하겠다”라는 포부를 밝혔다.