엔비디아, 글로벌 개방형 AI 보안 체계 구축…네이버·SKT 참여

엔비디아. (사진=이데일리)

[이데일리 한광범 기자] 엔비디아(NVIDIA)가 네이버(NAVER(035420)), SK텔레콤(017670) 등 한국 기업을 포함한 글로벌 IT·사이버보안 리더들과 함께 인공지능(AI) 보안 및 안전성 강화를 위한 개방형 협의체 ‘오픈 시큐어 AI 얼라이언스(Open Secure AI Alliance)’를 출범했다고 27일 밝혔다.

이번 얼라이언스는 리눅스 재단(Linux Foundation)이 주도하는 아크라이트(Akrites) 이니셔티브와 오픈SSF 커뮤니티의 성과를 기반으로 설립됐다. 소수 기업의 불투명한 폐쇄형 시스템에 AI 방어 체계를 의존하기보다, 누구나 연구·조정·배포할 수 있는 개방형 모델과 하네스(harness), 도구를 활용해 단일 장애점 없는 대규모 분산 사이버 방어망을 구축하겠다는 취지다.

엔비디아 측은 최근 발생한 허깅페이스(Hugging Face) 보안 사고를 대표적인 개방형 시스템 필요성 사례로 언급했다. 당시 공격자와 방어자를 구분하지 못하는 폐쇄형 AI 도구의 안전 필터로 인해 필수적인 포렌식 분석이 가로막히자, 허깅페이스가 자체 인프라에서 오픈 웨이트 모델인 ‘GLM 5.2’를 실행해 1만 7000건이 넘는 행위를 분석하고 침입을 봉쇄했다고 설명했다. 방어자가 자체 인프라에서 첨단 AI를 직접 제어하고 들여다볼 수 없을 경우 결정적인 순간 대응 능력이 제약될 수 있다는 분석이다.

오픈 시큐어 AI 얼라이언스(Open Secure AI Alliance) 참여기업들. (이미지=엔비디아 블로그)

이번 협의체에는 엔비디아를 비롯해 마이크로소프트(MS), 아도비, 시스코, 크라우드스트라이크, 데이터브릭스, HPE, IBM, 팔란티어, 팔로알토 네트웍스, 레드햇, 세일즈포스, 스페이스X AI 등 글로벌 주요 빅테크와 연구기관들이 창립 멤버로 합류했다. 한국 기업 중에서는 네이버와 SK텔레콤이 파트너로 참여해 에이전트 보호와 방어 기술 개발에 협력할 예정이다.

얼라이언스 참여 기업들은 AI 에이전트의 아이덴티티, 격리, 안전한 모델 포맷, 멀티 모델 스캐닝, 보안 코딩 워크플로우를 포함한 개방형 방어 스택 구축에 나설 계획이다.

엔비디아는 에이전트 동작의 시험·추적·감사·관리를 도울 수 있는 연구 프레임워크 ‘NVIDIA Labs Object-Oriented Agent(NOOA)’를 깃허브(GitHub)에 공개했으며, 개방형 모델 및 데이터 연구 기여를 지속하겠다고 밝혔다.

아울러 HPE는 제로 트러스트 아이덴티티 표준인 ‘SPIFFE/SPIRE’ 프로젝트를 통해 AI 에이전트의 암호학적 검증을 지원하고, 허깅페이스는 원격 코드 실행 위험을 완화하는 모델 저장 포맷 ‘Safetensors’를 파이토치 재단에 제공했다고 설명했다.

IBM과 레드햇은 디지털 서명 패치 기반의 ‘Lightwell’로 공급망 보안을 확장하며, 마이크로소프트는 버그 탐지·검증용 멀티 모델 에이전틱 스캐닝 하네스 ‘MDASH’를 활용할 방침이다. 스페이스X AI 역시 터미널 기반 AI 코딩 에이전트 ‘Grok Build’와 Grok 모델 가중치를 오픈소스로 공개할 계획인 것으로 알려졌다.

엔비디아 측은 개방형 프런티어 AI 시스템에 대한 일률적 규제가 방어 역량을 약화시키고 특정 폐쇄형 공급자에 대한 의존도를 높일 수 있다고 지적하며, 정책 입안자와 기업·정부의 적극적인 개방형 인프라 투자를 촉구했다.

엔비디아는 “비밀 유지만으로 AI 안전이 확보된다고 가정해서는 안 된다”며 “검증을 견뎌낼 만큼 강하고 방어자 커뮤니티 전체를 결집할 만큼 개방적인 시스템을 구축해 각국 정부와 산업계, 연구자들이 AI 시대를 함께 지켜나가길 기대한다”고 밝혔다.