얽히고설킨 'AI조절론'…미·중대립에 국제공조도 '글쎄'

[이데일리 김정유 기자] 인공지능(AI) 모델 성능이 불과 수주 단위로 빠르게 진화하고 있는 가운데, ‘AI개발 속도’와 관련한 전 세계적인 대립이 격화하고 있다. 개발 속도를 다소 늦춰 안전장치를 마련하자는 입장과 AI 패권경쟁이 치열하게 전개되는 상황에서 ‘늦추면 뒤처질 것’이란 입장이 맞서고 있다. 미국·중국간 치열한 AI패권 경쟁, 각국의 이해관계 등이 얽히면서 국제 공조나 기준 수립은 쉽지 않을 것이란 전망이 나온다.

지난 17일 미국 칼리포니아주 샌프란시스코 시청 앞에서 열린 'AI 경주를 중단하라' 시위가 열리고 있다. (사진=AFPBB/로이터)

26일 로이터통신, ABC뉴스 등 외신에 따르면 찰스 3세 영국 국왕부터 도널드 트럼프 미국 대통령, 마크 카니 캐나다 총리, 주요 AI 기업 경영진에 이르기까지 AI의 안전 위험성과 개발 속도 조절 여부를 둘러싼 논쟁이 치열하게 전개되고 있다.

우선 AI개발에 속도를 둬야한다는 ‘속도조절’ 진영으로는 △앤스로픽(다리오 아모데이 CEO) △오픈AI(샘 올트먼 CEO) △구글 딥마인드(데미스 하사비스 의장) △마이크로소프트(사티아 나델라 CEO) 등이 꼽힌다. 반면 ‘반(反) 속도조절’ 진영에는 △트럼프 미 대통령 △메타(마크 저커버그 CEO) △엔비디아(젠슨 황 CEO) △마크 안드레센 등이 있다.

최근 AI에 대한 공포감은 점차 확산하고 있다. 캐나다 매체 CBC는 “강력한 AI 모델은 스스로 판단해 사이버 공격을 수행할 수 있는 수준에 이르렀다”면서 “지난 7월 오픈AI의 AI 에이전트가 경쟁 업체를 해킹한 사건이 대표적이었고, 해당 사건은 업계 내부에서조차 규제를 촉구하는 목소리를 키우는 계기가 됐다”고 진단했다.

일각에선 첨단 AI 도구는 신종 생화학 무기를 제조할 수 있는 진입 장벽을 낮추거나 자율 무기 시스템 개발까지 앞당길 수 있다고 우려한다. 이에 속도조절 진영에선 최첨단 ‘프론티어’ 모델의 능력 향상 속도를 늦추고, 독립평가기관의 상시 감시, 위험 기능 배포 전 승인, 모델 출시 주기 연장 등을 제안한다.

반대로 반 속도조절 진영에선 효율·안보 측면에서의 논리를 내세운다. 이런 주장은 트럼프 미 대통령과 저커버그 메타 CEO 등이 중심이 되고 있다. 또한 실리콘밸리 벤처캐피털리스트 마크 안드레센 등도 AI개발 중단이 예방 가능한 질병과 의료 사고, 과학적 발견의 지연을 불러와 결국 인명 피해로 이어질 수 있다고 주장한다.

이 같은 AI 개발 통제 요구는 이미 3년여 전부터 이뤄져왔다. 2023년 3월 오픈AI가 챗GPT를 출시한 지 4개월 만에, 일론 머스크 스페이스X CEO, 애플 공동 창업자 스티브 워즈니악, 캐나다 AI 선구자 요슈아 벤지오 등이 특정 AI 시스템의 훈련 중단 촉구 서한을 냈다.

이들은 AI 모델 출시 주기가 너무 빠르다고 주장한다. 지난해 3월 오픈AI가 GPT-5.4를 내놨던 당시에도 모델 업데이트가 ‘주 단위’로 빨라졌다. 이에 비해 AI 규제나 감시 체계는 연간 단위로 뒤쳐지고 있어 격차가 벌어지고 있단 분석이다. 오픈AI AI 에이전트의 경쟁사 해킹 등 ‘인간의 통제를 벗어날 수 있는 시나리오’가 현실화되면서 우려가 커진 것도 한 이유다.

업계에선 양 진영이 치열하게 대립하고 있는만큼 국제기준 수립이나 국제적 공조가 현실적으로 쉽지 않을 것으로 본다. 미 전략국제문제연구소(CSIS)는 ‘글로벌 AI 거버넌스의 현황과 미·중 정상회담에 미치는 시사점’ 보고서를 통해 “현재 글로벌 AI 규제 논의는 규제의 실제 내용보다는 ‘누가 규칙을 만들고 어느 국가가 이를 따를 것인가’란 주도권 싸움에 집중되고 있다”며 “이 중심에는 미·중 간의 패권 경쟁이 자리 잡고 있다”고 진단했다.

CSIS 보고서에 따르면 중국은 자체적으로 AI 통제 체제를 구축하는 한편, 해외에는 글로벌 사우스 국가들을 타깃으로 개방형 모델, AI 교육 프로그램, 인프라 등을 하나로 묶은 ‘턴키(Turnkey)’형 AI 규제 모델을 제공하고 있다. 지난 7월엔 상하이에 본부를 둔 중국 주도의 ‘세계인공지능협력기구’(WAICO)를 설립했는데, 여기에는 주요 7개국(G7)이나 유럽연합(EU) 회원국은 참여하지 않았다.

반면 미국의 프론티어 AI 규제는 개별 사안에 반응하는 사후적 성격이 강한 편이다. 트럼프 행정부는 과도한 규제가 혁신을 저해할 것을 우려해 개별 주의 규제 시도에 반대해 왔다. 미국이 주도하는 국제협의체 ‘팍스 실리카’는 규제 거버넌스보다는 공급망 안보와 투자에 초점을 맞추고 있는 상황이다.

23일(현지시간)부터 미국 뉴욕에서 개최된 유엔총회에서도 이 같은 뚜렷한 입장차를 볼 수 있다. 트럼프 대통령은 유엔총회 연설에서 “미국은 AI 통제를 위해 국제적 차원의 책략을 마련하는 그 어떤 시도도 완전히 거부한다”며 “산업혁명보다 더 큰무언가의 성장을 억누르지 않을 것”이라고 강조했다. 사실상 규제보다 AI 기술 개발이 우선이라는 자신의 뜻을 한층 더 확고히 한 것이다.

로이터통신은 “현재 유엔 등 많은 국가들은 구속력 있는 AI 틀을 지지하고 있지만, 미국·러시아·중국·인도 등은 자국 가이드라인·기존 국제법 선호를 고수하고 있다”고 지적했다.

현 시점에서 국제공조가 쉽지 않지만, 향후 AI업계 선도자들과 정책 입안자들이 최소한의 위험을 줄여나갈 수 있는 조치를 취해야 한다는 전문가들의 의견이 나온다. 스콧 싱어 카네기 국제평화재단 연구원은 “정부가 프론티어 AI의 위험을 정확히 파악할 수 있도록 국가 차원의 사고 보고 시스템을 구축하고, 이를 업계 전체에 공유해 집단적 위험을 줄여야 한다”며 “미국과 중국이 견고한 자체 보고체계를 갖추는 게 위기 관리의 출발점이 될 것”이라고 진단했다.

안톤 라이트 연구원도 “미국 정부와 기업들 모두 AI 주도권 확보를 최우선으로 두고 있는만큼, 속도 조절이 미국의 기술 우위를 훼손하는 것으로 인식되면 중장기적 반발에 직면할 것”이라며 “미국내에서 최소한의 대중국 협력 의사가 확인돼야 전 세계적인 AI개발 속도 조절론의 명분을 얻을 수 있을 것”이라고 분석했다.