최영상 삼성전자 마스터는 26일 서울 서초동 자동차회관에서 한국산업연합포럼(KIAF)이 개최한 ‘AI 안전·거버넌스 심포지엄’에서 이 같은 반도체 소재 연구개발 방향을 소개했다.
|
최 마스터는 “반도체 소재는 여러 층의 박막으로 구성돼 7개 층 기준 물질 조합이 1억 가지를 넘지만 실제 실험은 한 달에 최대 50여개에 불과하다”고 설명했다.
연구자의 경험과 직관에 의존하는 탐색 방식으로는 수개월에서 수년이 걸리고 실패한 실험 데이터도 충분히 활용하지 못한다는 지적이다. 삼성전자는 이러한 탐색 과정에 AI를 적용해 개발 효율을 높일 계획이다.
최 마스터는 “AI를 활용해 반도체 신물질 개발 기간을 기존 5년에서 2년으로 단축하고, 유망 소재 후보 발굴 건수를 5배 이상 늘리는 한편 최적 조건 탐색을 위한 실험 횟수를 80% 이상 줄이는 것을 목표로 하고 있다”고 밝혔다. 개발 비용을 절감하고 향후 배터리 소재 등 다른 산업 분야로 활용을 확대할 수 있다는 설명이다.
이를 위한 기반이 ‘과학 AI’다. 논문·특허·사내 실험 데이터를 통합해 지식을 구조화하고, AI가 이를 토대로 유망한 가설을 생성하고 실험을 설계한 뒤 시뮬레이션으로 검증하는 체계다. 연구 과정에서 축적한 데이터를 다음 탐색과 검증에 활용하는 방식이다.
실제 장비와 연결하는 방안도 제시했다. AI 에이전트가 실험 계획을 장비에 전달하면 공정·측정·분석을 자동 수행하는 ‘자율실험실’과 연계해 연구 전 과정을 순환형으로 운영하겠다는 구상이다.
해결할 과제도 남아 있다. AI의 가설 생성과 검증 능력이 기반 대규모언어모델(LLM)의 성능에 좌우되고 실패 실험 데이터와 연구자의 경험이 충분히 데이터화되지 않았다는 점이다.
최 마스터는 시뮬레이션의 계산 복잡도와 검색증강생성(RAG)의 정확도 한계를 개선해야 한다고 설명했다. 핵심 연구 데이터는 외부 유출을 방지하기 위해 내부에 구축한 온프레미스 환경에서 처리할 필요가 있다고 강조했다.
|
백스터 부사장은 “기존 잘못된 답변이 이제는 데이터 변경이나 시스템 오작동 등 실질적 피해로 이어질 수 있다”고 말했다. AI가 검색한 데이터, 외부 도구 호출, 메모리 변경 이력을 추적해야 한다는 설명이다. 사람이 감독하더라도 반복적인 경고에 지쳐 형식적으로 승인하는 상황을 방지해야 한다고 지적했다.
그는 AI의 기능·자율성·권한을 분류하고 실제 환경에서의 성능과 잠재적 피해를 평가하는 체계를 제안했다. 특히 설계·평가, 배포 준비, 운영·개선 등 단계별로 권한을 관리하고 “AI의 자율성이 확대될 때마다 재승인하는 체계가 필요하다”고 강조했다.
임종인 고려대 정보보호대학원 명예교수는 AI를 외부에서 독립적으로 감시하고 제어할 장치가 필요하다고 밝혔다. 구체적으로 ‘인지적 제로 트러스트’, ‘독립적 킬 스위치’, ‘사이버 복원력’을 3대 안전장치로 제시했다.
이는 AI의 행동 의도를 외부에서 검증하고, 업무에 필요한 최소권한만 짧은 기간 부여하는 방식이다. 오작동이 발생하면 네트워크와 응용프로그램 인터페이스(API) 접근을 즉각 차단하고 핵심 업무를 신속히 복구할 수 있어야 한다는 것이다.
임 교수는 출시 전 안전장치 검토와 중대 사고 보고, 개발사·도입기업 간 책임 배분 기준 마련도 제안했다. 임 교수는 “AI 에이전트의 자율성이 고도화될수록 외부에서 독립적으로 감시하고 제어하는 통제 시스템 구축이 필수적”이라고 말했다.
