|
스미스 부회장은 구체적인 첫 단계로 AI 기술에 대한 공통의 이해와 정의를 만드는 방안을 제시했다. 그는 “어떤 것이 테스트가 필요한 프런티어 모델인지에 대해서라도 공통의 정의를 만들 수 있다면 좋은 일이 될 것”이라며 양국이 AI 안전과 관련한 모범 사례를 공유하는 방안도 거론했다. 다만 정상회담까지 시간이 얼마 남지 않았다는 점을 들어 이번 회담에서 현실적으로 가능한 합의는 이 정도일 수 있다고 선을 그었다.
미중 양국은 이미 AI 안전을 위한 정부 간 대화를 구체화하고 있다. 스콧 베선트 미국 재무장관은 전날 뉴욕에서 허리펑 중국 국무원 부총리와 만나 중대한 AI 사고가 발생했을 때 상대국에 이를 알리는 통보 체계 등을 제안했다. 양측은 AI 안전 문제를 논의하기 위한 공식 대화를 만들기로 했으며 약 두 달 뒤 중국 선전에서 후속 회의를 열기로 했다.
오는 24일 워싱턴에서 열리는 트럼프 대통령과 시 주석의 정상회담에서도 AI 거버넌스가 주요 현안 중 하나로 꼽힌다. 양국은 AI 기술 패권을 놓고 치열하게 경쟁하고 있지만 통제 불가능한 AI 에이전트나 사이버 공격 등 양쪽 모두에 위협이 될 수 있는 분야에서는 제한적인 협력 가능성을 모색하고 있다. 지난 5월 베이징 정상회담에서도 양국 정상은 정부 간 AI 대화를 시작하기로 합의했다.
스미스 부회장은 궁극적으로 AI 안전을 위한 국제적인 협력 체제가 필요하다고 강조했다. 그는 “결국 AI가 안전하도록 보장하기 위한 보다 폭넓은 다자간 노력이 있는 세계로 가야 할 것”이라며 “미국이 중국과 협력하는 것이 중요하고 동시에 동맹국들과 협력하는 것도 중요하다”고 말했다.
이날 대담에서 스미스 부회장은 최근 불거진 AI 에이전트의 통제 문제에도 상당한 시간을 할애했다. 그는 AI 에이전트가 인간이 정한 규칙을 따르지 않고 시스템을 침입하거나 속임수를 쓰는 사례를 거론하며 “안전은 지금 전체 업계에서 최우선 과제가 돼야 한다”고 강조했다. 특히 AI 기업들이 위험을 우려하면서도 경쟁 때문에 개발 속도를 늦추지 않는 상황을 겨냥해 “속도를 늦출 필요가 있다고 생각한다면 스스로 속도를 늦춰라”며 “다른 사람에게 당신을 늦춰달라고 요구하지 말라”고 말했다.
AI 모델 개발기업에만 책임을 맡겨서는 안 된다는 점도 강조했다. 스미스 부회장은 자동차가 빨라지면서 교통사고 위험이 커지자 자동차 자체뿐 아니라 신호등과 정지 표지판, 도로의 가드레일을 만들었던 사례를 들었다. AI 역시 모델 개발사뿐 아니라 데이터센터 등 인프라를 제공하는 기업과 소프트웨어 업체들이 함께 안전장치를 구축해야 한다는 설명이다.
그는 특히 기업이 AI 에이전트의 행동을 지속적으로 감시하고 명확한 규칙과 사이버보안 통제 장치를 적용해야 한다고 강조했다. 필요할 경우 에이전트의 작동을 즉각 중단할 수 있는 ‘비상 브레이크(emergency brake)’나 온·오프 스위치도 여러 단계에 걸쳐 마련해야 한다고 했다.
AI의 ‘재귀적 자기개선(recursive self-improvement)’에 대해서도 경계감을 나타냈다. 이는 인간이 모델을 추가 학습시키는 것을 넘어 AI가 스스로를 학습·개선하는 것을 의미한다. 스미스 부회장은 “대부분의 사람을 상당히 불안하게 만드는 일이라고 생각한다”며 어느 경우에 이를 허용할지, 인간 평가자가 어떻게 테스트 과정에 개입할지 논의해야 한다고 말했다. 잘못된 방향으로 움직이는 AI가 스스로 학습할 경우 같은 방향으로 더욱 빠르게 진행될 위험이 있다는 것이다.
스미스 부회장은 AI 안전을 기업의 자율규제에만 맡길 수도 없다고 강조했다. 기업의 자발적 조치와 업계 자율규제, 산업표준, 정부 규제를 적절히 결합해야 한다는 주장이다. 그는 항공기와 식품에도 안전을 위한 정부 규제가 적용된다는 점을 들며 “지구상에서 가장 강력한 기술이 우유 한 팩보다 덜 규제될 것이라고 정말 생각하는가”라고 반문했다. 그러면서 “혁신을 늦추지 않으면서도 이들을 결합할 방법을 찾을 수 있다”고 말했다.
|
