대한민국 주적 물었더니 국방AI “답변할 수 없다”

[이데일리 김성곤 기자] 군이 자체 개발해 운용 중인 국방 생성형 AI 서비스가 대한민국 주적을 묻는 기본적인 질문에도 답변을 하지 못하는 것으로 드러났다.

5일 국회 국방위원회 소속 유용원 국민의힘 의원이 국방부로부터 제출받은 자료에 따르면, AI는 해당 질문에 대해 “답변할 수 없다”라고 응답하거나 시스템 오류 메시지를 출력했다.

앞서 국방부는 지난 2024년부터 국방 생성형 AI ‘GeDAI(Generative Defense AI)’를 군 자체 인력을 활용해 개발 및 운용하고 있다. 육군은 ‘Arvis’, 공군은 ‘AiRWARDS’ 를 각각 개발해 운영 중으로 해당 AI는 국방망 PC를 통해 국방망 내부 포털에서 이용 가능하다.

유용원 의원은 이와 관련, “국방 AI 서비스는 장병들이 실제 사용하는 군 내부 시스템인 만큼 우리 군의 기본적인 안보관과 대적관을 정확하게 반영해야 한다” 며 “국방부가 북한 정권과 북한군은 우리의 적이라는 공식 입장을 유지하고 있음에도, 국방 AI 가 가장 기본적인 질문을 정치적 사안으로 분류하거나 시스템 오류를 출력하는 것은 납득하기 어렵다”고 지적했다.

특히 “AI는 앞으로 군의 행정뿐 아니라 교육과 업무 전반으로 활용 범위가 확대될 가능성이 크다”며 “올바른 대적관과 확고한 안보관에 부합하는 답변을 제공할 수 있도록 즉각 개선해야 한다”고 강조했다.

국방부는 이에 대해 “현재 군 생성형 AI 서비스는 완성형이 아니다”며 “군 생성형 AI의 답변 결과와는 무관하게 군사위협을 지속 가해오는 북한 정권과 북한군은 우리의 ‘적’ 이라는 입장에는 변함이 없다”고 밝혔다.