AI는 샀지만 혁신은 못 샀다… 한국 기업이 AI 시대에 뒤처지는 이유 [김현아의 IT세상읽기]

[이데일리 김현아 기자] 국내 주요 기업들이 인공지능(AI) 경쟁에 사활을 걸고 있다. 수백억, 수천억 원을 들여 엔비디아 GPU를 확보하고 생성형 AI와 AI 에이전트 도입에도 속도를 내고 있다. 겉으로만 보면 글로벌 AI 경쟁에서 뒤처지지 않는 모습이다.

하지만 정작 현장의 기술 리더들이 바라보는 현실은 다르다. 최근 만난 여러 기업의 최고기술책임자(CTO)와 AI 담당 임원들은 AI 기술 자체보다 이를 받아들이는 조직의 변화와 일하는 방식의 혁신을 더 큰 과제로 꼽았다. 막대한 비용을 들여 최첨단 AI는 확보했지만, AI가 제대로 성과를 낼 수 있는 조직과 업무 방식은 여전히 과거에 머물러 있다는 것이다.

AI는 도입했지만 일하는 방식은 그대로

많은 기업이 AI 전환(AX)을 선언한다. 그러나 현장을 들여다보면 변화의 폭은 기대만큼 크지 않다.

경영진의 지시에 따라 ‘AI로 대체할 수 있는 업무’를 정리하거나, 엑셀로 처리하던 단순 반복 업무를 자동화하는 수준에 머무는 경우가 적지 않다. 데이터 통합 프로젝트를 추진하면서도 부서 간 데이터 장벽은 그대로이고, AI를 도입했지만 의사결정 방식과 업무 프로세스는 예전과 크게 다르지 않다.

AI를 새로운 방식으로 활용하는 것이 아니라 기존 업무에 AI를 덧붙이는 수준에 머무는 셈이다.

기업 경쟁력은 어떤 최신 AI 모델을 선택했느냐보다 AI가 기존 업무 방식을 바꿀 수 있도록 조직이 얼마나 유연하게 변할 준비가 돼 있느냐에 달려 있다.

AI 경쟁은 ‘속도’의 경쟁

AI 산업은 불과 몇 달 만에 시장 판도가 바뀐다. 글로벌 AI 기업들이 중시하는 것은 모든 구성원의 완벽한 합의가 아니라 중요한 순간에 빠르게 판단하고 실행하는 능력이다.

마이크로소프트는 오픈AI의 가능성을 확인한 뒤 AI 경쟁에 필요한 컴퓨팅 자원을 전략적으로 재배치하며 오픈AI 지원에 집중했다. 내부 조직의 이해관계보다 시장 선점이 중요하다고 판단한 것이다.

구글은 같은 목표를 가진 여러 팀을 경쟁시키고 성과가 낮은 프로젝트는 통합하거나 종료하는 방식으로 혁신을 이어간다. 오픈AI 역시 부서와 직급의 경계를 넘어 연구자들을 유연하게 묶어 프로젝트를 추진하는 문화로 잘 알려져 있다.

방식은 다르지만 공통점은 분명하다. 중요한 순간에 빠르게 의사결정하고, 필요한 곳에 자원을 집중한다는 점이다.

AI 전환은 단순한 정보기술(IT) 프로젝트가 아니다. 사업 구조와 자원 배분을 다시 설계하는 경영 전략이다. 결국 최고경영진이 방향을 제시하고 조직의 변화를 이끌어야 한다.

지난해부터 네이버(NAVER(035420))가 창업자 리더십을 강화하며 AI와 미래 사업에 대한 전략적 집중도를 높이는 모습 역시 AI 시대에 방향성을 제시하는 리더십의 중요성을 보여주는 사례다.

반면 국내 기업에서는 여전히 작은 의사결정 하나에도 여러 단계의 보고와 조율을 거치는 경우가 많다. 신중함은 기업 경영의 장점이지만, AI 산업에서는 지나친 신중함이 시장 선점 기회를 놓치는 원인이 될 수 있다.

구현모 전 KT(030200) 대표가 “AI 책은 쓰지 않는다. 너무 빨리 변해 금세 구문(舊文)이 되기 때문”이라고 말한 것도 AI 시대의 변화 속도를 상징적으로 보여준다.

AI 시대 인재는 ‘질문하는 사람’

조직문화의 한계는 인재 확보 과정에서도 드러난다.

국내 대기업들은 글로벌 AI 기업 출신 연구자들을 적극 영입하고 있다. 하지만 어렵게 데려온 핵심 인재가 조직에 정착하지 못하고 떠나는 사례도 적지 않다.

기존 조직의 관행과 폐쇄적인 정보 공유, 실패를 용인하지 않는 평가 문화 등이 원인으로 꼽힌다. 혁신을 기대하며 영입한 전문가에게 정작 조직은 “우리 회사 방식부터 배우라”고 요구하는 경우가 있기 때문이다.

그러나 AI 시대에 필요한 인재는 조직의 기존 방식을 그대로 따르는 사람이 아니다. 문제를 새롭게 정의하고, 기존 프로세스를 의심하며, 필요할 때는 경영진에게도 다른 의견을 제시할 수 있는 사람이다.

AI가 답을 만드는 시대에는 좋은 답을 빨리 찾는 사람보다, 무엇을 물어야 하는지 정의하는 사람이 더 큰 경쟁력을 갖는다.

질문을 불편해하는 조직에서는 결국 가장 필요한 인재가 먼저 떠난다.

AI는 돈으로 살 수 있지만 조직문화는 살 수 없다

앞으로 AI는 반복 업무를 넘어 데이터 분석과 예측, 의사결정 지원까지 기업 활동의 상당 부분을 맡게 될 것이다.

그렇다면 인간에게 남는 역할은 정답을 빠르게 계산하는 것이 아니라, 올바른 질문을 던지고 새로운 방향을 제시하는 일이다. 기업도 마찬가지다.

GPU를 몇 장 더 확보했는지가 미래 경쟁력을 결정하지 않는다. 다양한 의견을 받아들이는 조직문화, 외부 인재를 변화의 촉매로 활용하는 유연성, 실패를 감수하면서도 빠르게 실행하는 리더십이 AI 시대의 진짜 경쟁력이 된다.

완벽하게 통제된 조직만이 혁신을 만드는 것은 아니다. 일정 수준의 자율성과 실험을 허용하는 문화 역시 중요하다. 유영상 SK(034730) AI위원장이 언급한 SK의 자유로운 조직문화처럼, 조직의 자율성과 유연성이 새로운 시도를 가능하게 하는 힘이 될 수 있다.

AI 시스템은 돈으로 살 수 있다. 그러나 AI가 만들어낸 아이디어를 혁신으로 연결하는 조직문화는 돈으로 살 수 없다.

AI 시대 가장 위험한 기업은 AI 기술이 없는 기업이 아니다. AI가 던지는 불편한 질문과 구성원의 다른 의견을 받아들이지 못하는 기업이다.

AI 경쟁의 승패는 GPU의 숫자가 아니라, 불편한 질문을 끝까지 듣고 실행으로 연결할 수 있는 조직의 역량에서 갈릴 것 같다.