과기정통부 ‘AI와 함께 살아갈 세상, 불안과 희망’ 발간

[이데일리 김현아 기자] 과학기술정보통신부(장관 배경훈)가 2024년 기술영향평가 결과를 종합한 ‘AI와 함께 살아갈 세상, 불안과 희망’ 책자를 23일 발간했다고 밝혔다.

이번 책자는 AI 기술 발전 속에서 안전성과 신뢰성을 핵심 주제로 삼아, 휴머노이드, 브레인(BCI), 헬스케어 분야에서 예상되는 사회적 파급효과와 정책 대응 과제를 담았다.

휴머노이드·브레인·헬스케어 AI의 기회와 위험

책자에 따르면 휴머노이드 AI는 사람과 로봇 간 의사소통 오류, 학습 과정의 오작동, 센싱 기술에 따른 개인정보 침해 우려가 주요 리스크로 꼽혔다.

브레인 AI는 뇌-컴퓨터 인터페이스(BCI)가 의료·재활 분야에서 새로운 가능성을 여는 동시에, 군사적 전용, 보안 취약성, 뇌 자극 중독 가능성이 지적됐다.

헬스케어 AI는 의료 의사결정 책임소재, 데이터 편향, 개인정보 상업적 활용, 건강 불평등 심화 등 문제가 제기됐다.

기술영향평가 결과와 핵심 정책 과제

이번 책자에는 기술영향평가 과정에서 도출된 핵심 이슈와 과제도 함께 정리됐다. 전문가와 시민들은 휴머노이드·브레인·헬스케어 AI 분야에서 세 가지 주요 이슈를 꼽았다.

첫째, 개인정보 위험이다. 휴머노이드 로봇의 센싱 과정이나 헬스케어 AI의 데이터 수집·활용 과정에서 개인정보 침해 가능성이 크다는 점이 우려로 제기됐다. 이에 따라 민감 정보 기반 기술 거버넌스를 강화해야 한다는 과제가 도출됐다.

둘째, 사고 및 오류의 책임소재 문제다. 로봇 오작동이나 의료 AI의 의사결정 오류가 발생했을 때 책임 주체가 불분명하다는 점이 핵심 위험으로 꼽혔다. 이를 해결하기 위해 미래기술 안전성 기본법 제정과 함께 책임성을 제도적으로 보장하는 장치 마련이 필요하다는 제언이 나왔다.

셋째, 일자리와 사회 변화 이슈다. 휴머노이드 로봇의 확산으로 직무 전환이 불가피해지고, 전반적으로 AI 의존도가 높아지면서 사회적 격차가 확대될 수 있다는 지적이다. 이에 대한 대응 과제로 윤리·안전 가이드라인을 수립하고 미래기술 안전성 R&D를 적극 추진해야 한다는 의견이 제시됐다.

“국민과 함께 기술 미래 설계”

임요업 과기정통부 과학기술혁신조정관은 “AI 기술의 안전성과 신뢰성 확보는 사회적 수용성과 국민 신뢰를 위한 핵심 기반”이라며 “전문가와 시민이 함께 참여하는 기술영향평가를 지속적으로 추진해, 국민과 함께 기술의 미래를 설계할 것”이라고 강조했다.

이번 책자는 과기정통부와 한국과학기술기획평가원 홈페이지에서 확인할 수 있다.