AI가 전화한다더니 사람이”…메타 ‘뮤즈’ 내부서 논란

[이데일리 신수정 기자] 메타가 새 개인용 인공지능(AI) 에이전트 ‘뮤즈(Muse)’의 전화 업무 일부를 AI가 아닌 사람이 대신 처리하도록 시험한 것으로 나타났다. 자율적으로 업무를 수행하는 AI를 표방했지만 실제로는 외부 계약직 상담원을 투입한 것이다. 직원들이 개인정보 유출 가능성을 제기하자 메타는 해당 기능을 일단 철회했다.

인도 뭄바이에서 열린 한 컨퍼런스에서 메타 플랫폼스(Meta Platforms) 로고 뒤로 사람들이 보인다. (사진=로이터)

22일 로이터통신이 입수한 메타 내부 게시물에 따르면 회사는 뮤즈가 거는 일부 전화를 외부 계약직 직원이 대신 처리하는 ‘휴먼 컨시어지’ 기능을 시험해왔다. 메타는 지난주 직원들에게 이 시험을 공개했다. 뮤즈의 전화 기능을 일반에 내놓은 직후였다.

뮤즈는 이용자를 대신해 이메일을 보내거나 쇼핑하고 여행을 예약하는 등 여러 업무를 자율적으로 처리하도록 설계된 개인용 AI 에이전트다.

전화 기능을 이용하면 미국 내 업체에 전화를 걸어 사람과 직접 대화하는 일도 뮤즈에 맡길 수 있다. 미용실을 예약하거나 매장에 특정 제품의 재고가 있는지 확인하고 여러 업체에 가격 견적을 문의하는 식이다.

하지만 실제 통화 일부를 AI가 아니라 사람이 담당하면서 메타 내부에서 개인정보 보호 문제가 제기됐다. 콜센터의 외부 계약직 직원에게 이용자의 민감한 정보가 의도하지 않게 전달될 수 있다는 우려였다.

한 직원은 내부 게시물에서 “왜 이 기능이 이런 위험을 감수할 가치가 있다고 생각하는지 이해하기 어렵다”며 “버그 하나만 생겨도 불필요한 정보가 인간 상담원에게 유출될 수 있다”고 지적했다.

실제 문제 사례도 나왔다. 한 직원은 인터넷·케이블 업체에 전화해 요금을 협상해달라고 뮤즈에 요청했다. 이후 통화 기록을 확인한 결과 전화를 담당한 인간 상담원이 통화 과정에서 인종차별적인 언급을 한 것으로 나타났다고 로이터는 전했다.

메타 슈퍼인텔리전스랩의 한 부사장은 내부 게시물에서 계약직 직원이 대신 전화를 걸 수 있다는 사실을 제대로 알리지 않은 상태에서 시험을 시작한 것은 “실수였다”고 인정했다. 이어 회사가 해당 기능을 일단 철회했다고 밝혔다.

다만 메타는 인간 상담원을 활용하는 방식 자체를 폐기한 것은 아니다. 이 부사장은 메타가 여전히 AI 전화 기능의 성능을 개선하고 있다며 일부 시험에서 사람이 직접 전화를 걸 경우 성공률을 95~98%까지 끌어올릴 수 있었다고 밝혔다. AI가 직접 전화할 때의 성공률은 이보다 낮았지만 구체적인 수치는 공개하지 않았다.

인종 관련 부적절한 발언을 신고한 직원에게도 사과했다. 해당 통화를 담당한 인간 상담원이 앞으로 메타의 어떤 프로젝트에도 참여하지 못하도록 하겠다고 밝혔다.

이번 시험은 자율형 AI 서비스를 구현하는 과정에서 기술기업들이 여전히 인간 노동에 의존하는 현실을 드러냈다. 메타는 약 10년 전에도 비슷한 시도를 했다. 당시 페이스북이라는 이름을 사용하던 메타는 메신저에서 ‘M’이라는 디지털 비서를 시험했다. 이후 언론 보도에서는 M이 처리한 업무의 약 70%를 실제로는 사람이 수행한 것으로 추산됐다.

메타는 이번 뮤즈 시험의 목적이 공개 출시에 앞서 문제를 파악하는 데 있다고 설명했다. 대니얼 로버츠 메타 대변인은 직원들의 반응이 “압도적으로 긍정적”이었다며 시험 목적은 “공개 출시에 앞서 안전과 개인정보 보호장치를 마련하고 기능을 개선할 수 있도록 피드백을 얻는 것”이라고 밝혔다.

이어 “잠재적인 전화 기능을 계속 개선하기 위해 업체들과 협력하고 있다”며 “준비가 되고 적절한 고지 방안을 갖췄을 때만 출시할 것”이라고 말했다.

뮤즈는 출시 초기 빠르게 이용자를 늘리고 있다. 시장조사업체 센서타워에 따르면 출시 이후 다운로드 횟수는 250만건을 넘어섰다. 출시 2주 만에 미국 앱 다운로드 순위 정상에도 올랐다.

메타 주가도 뮤즈 출시 이후 20% 넘게 뛰었다. 시가총액은 2000억달러 이상 늘어나 최근 7개월여 만에 최고 수준을 기록했다. 다만 22일 주가는 0.6% 하락했다.

메타는 뮤즈를 출시하면서 보안을 주요 강점으로 강조했다. 각 AI 에이전트가 독립된 보안 ‘가상머신’을 사용해 이용자별 세션을 분리하고 비밀번호 같은 민감한 정보는 별도의 보안 저장공간에 보관한다고 설명했다.

메타 직원들은 이런 보안 체계를 강조해놓고 실제 통화에 인간 상담원을 투입하면 뮤즈의 핵심 판매 포인트가 훼손될 수 있다고 내부에서 지적했다.

메타는 지난 8월부터 직원들을 대상으로 뮤즈의 전화 기능을 시험했고 앱 출시 이후 일반 이용자에게도 점진적으로 제공했다. 하지만 AI라는 사실을 들은 상대방이 통화를 거부하는 문제가 나타났다.

한 직원은 보험회사에 전화를 걸도록 뮤즈에 요청했지만 “상대방이 AI라는 말을 들으면 계속 전화를 끊는다”고 내부에 보고했다.

메타는 이런 문제를 해결하기 위해 지난주 전체 직원의 절반을 대상으로 ‘휴먼 에이전트 콜’로도 불리는 휴먼 컨시어지 기능을 활성화했다. 내부 공지에는 “뮤즈가 이제 요청을 훈련된 상담원에게 넘길 수 있으며 상담원이 직접 전화를 걸어 업무를 처리한다”고 적혔다.

참여를 원하지 않는 직원은 시험 대상에서 빠질 수 있도록 별도의 옵트아웃 그룹도 운영했다. 메타는 현재 휴먼 컨시어지 기능을 철회한 상태다. 향후 이 기능을 일반 이용자에게 실제로 제공할지는 확정되지 않았다.