AI 경계론은 꾸준히 제기됐다. 지난 6월 앤스로픽은 공식 블로그를 통해 AI가 ‘재귀적 자기 개선’(RSI) 단계 진입을 앞두고 있다며 속도조절을 주장했다. RSI란 AI가 인간의 개입 없이 스스로 차세대 모델을 개발하는 단계를 말한다. 7월엔 구글, 메타, 오픈AI 등 빅테크 기업 직원 1100여 명이 ‘프런티어 속도조절’이라는 공동성명을 통해 국제적 안전장치 마련을 요구했다. 이어 지난주엔 앤스로픽의 제이컵 콕슨 연구원이 소셜미디어 X에 “AI를 만드는 사람들은 이 기술이 2030년까지 인류 모두를 죽일 수 있다고 진심으로 믿고 있다”고 직격했다. 콕슨의 주장에 샘 올트먼(오픈AI), 일론 머스크(xAI), 데미스 허사비스(구글 딥마인드) 등 AI 첨단 기업의 수장들이 일제히 동조했다.
AI 규제가 곧바로 현실화할지는 불투명하다. 트럼프 대통령은 13일(현지시간) “우리는 AI에서 중국을 앞서고 있다. 솔직히 말해 나는 (그 상태를) 계속 유지하고 싶다. AI에서 승리하는 자가 승리하기 때문”이라고 말했다. AI 패권을 다투는 미국과 중국은 이른바 ‘죄수의 딜레마’에 빠져 있다. 서로 상대를 불신하기 때문에 자신에게 나쁜 결과가 올 수 있다는 걸 알면서도 오로지 ‘직진’할 수밖에 없다.
앤스로픽의 다리오 아모데이 최고경영자(CEO)는 냉전 시대 미국과 소련(현 러시아)이 맺은 핵무기 군축 협상을 모델로 제시한다. 인류 공멸을 막으려면 이번엔 미국과 중국이 AI 안전장치 구축에 손을 잡아야 한다는 의미다. 오는 24일 워싱턴에서 열리는 미·중 정상회담이 전환점이 될 것으로 보인다. AI 붐 덕에 한국 경제가 반도체 호황을 누리고 있다. AI 종말론의 파장을 주시해야 할 이유다.
