블루포인트는 15일 서울 송파구 소피텔 앰배서더 서울에서 '제13회 블루포인트 데모데이'를 열었다. 올해 주제는 '기술낙관주의'다. 벤처캐피탈(VC) 등 업계 관계자 300여명이 참석했다. 이번 행사는 블루포인트가 과학기술정보통신부의 '기술사업화 종합전문회사'로서 여는 첫 데모데이다.
|
AI 발달이 부른 기술의 양면…낙관주의냐 비관주의냐
키노트에 나선 이 대표는 인류를 위협하는 기술로 핵무기와 기후위기, AI를 나란히 놓고 비교했다. 이 대표는 "핵은 오판했을 때 굉장히 큰 충격을 주지만 국가 간에 강한 통제가 작동하고 있고, 기후는 위험하지만 느리게 오고 있다"며 “AI는 너무 다르다. 급작스럽게 위협을 줄 수 있는데 제대로 통제될지 논의조차 되지 않고 합의도 되지 않고 있다”고 말했다.
이 대표는 AI의 위험을 두 갈래로 나눠 설명했다. 첫째는 언어다. 지금의 AI는 거대언어모델(LLM)에 기반해 있어 개념을 말로 옮기는 과정의 왜곡이 그대로 리스크가 된다는 것이다. 그는 아이작 아시모프가 1942년 단편소설 '런어라운드'에서 제시한 로봇공학 3원칙을 예로 들며 “'인간에게 해를 가하지 마라'라는 개념 정의를 언어에 기반해 정확하게 하는 건 사실상 불가능하다”고 했다.
둘째는 AI가 스스로 성능을 개선하는 '지능 폭발'이다. 이 대표는 전 오픈AI 안전 연구원 등이 참여한 AI퓨처스프로젝트가 지난 7월 공개한 보고서 ‘AI 2040’을 인용했다. 보고서는 미국이 중국과 전속력으로 개발 경쟁을 벌이면 2031년 지능 폭발이 오고 인간의 통제력이 약해진다고 봤다. 국제 합의로 속도를 조절하는 시나리오에서는 그 시점이 2039년으로 8년가량 늦춰진다. 이 대표는 "최근 정치나 국제 외교 관계 뉴스를 보면 (국제 합의는) 지금 상태로는 불가능할 것 같다"고 했다.
이 대표는 "규제나 국제 합의를 잘 이끌어내는 게 좋지만 그걸 정치나 외교에만 맡겨둘 일인가 하는 생각이 들었다"며 "여기에 더해 뭔가 더 해야 하지 않나 생각한다"고 말했다. 이어 노벨화학상으로 이어진 구글 딥마인드의 알파폴드, AI를 활용한 수학 난제 증명 사례를 들며 AI가 과학에서 이룬 진전을 짚었다. 키노트는 '기술이 남긴 문제, 기술로 해결한다'는 메시지로 이어졌다. 블루포인트는 올해 주제를 "기술이 가져올 미래를 단정하는 소모적 논쟁 대신 기술의 방향과 쓰임에 주목해야 한다는 관점"이라고 설명했다.
조선소·봉제공장·실험실로 간 AI…가드레일 기업도 무대에
이날 무대에는 블루포인트가 3년 이내 투자한 12개 팀이 4개 세션으로 나눠 올랐다. AI를 산업 현장과 연구실에 투입하는 팀과, AI가 낳는 위험을 막는 팀이 함께 발표에 나섰다. 이 대표가 키노트를 통해 주장했던 '기술낙관주의'를 실현하는 기업들이다.
카이스트 휴보랩 출신이 창업한 디든로보틱스는 조선소 선체 블록 안을 걸어 다니는 로봇 '디든 스파이더'를 선보였다. 디든은 자체 개발한 자석발로 철판에 붙어 이동하는 방식을 택했다. 국내 조선사 두 곳에 로봇을 납품했고 지난 7월에는 해외 조선소와 구매 계약을 맺었다. 한국조선해양플랜트협회에 따르면 회원사의 한국인 생산직은 최근 2년 새 1만6000명 줄었다.
리프라이즈는 봉제공장에 로봇과 공장 운영 소프트웨어를 공급한다. 의류업 노동자 1인당 설비투자액은 207만원으로 제조업 평균 1255만원의 6분의 1 수준이다. 그만큼 사람 손에 의존하는 공정이 많다. 리프라이즈가 직접 운영하는 공장은 작업자 45명과 로봇 4대로 월 최대 1만5000개를 생산한다. 다음 달부터는 매출 1조원 규모 완구 제조사와 로봇 도입 2년 프로젝트를 진행한다.
이 대표가 꼽은 AI의 과학적 성과가 계산 영역이었다면, 아스트랄큐는 실험까지 AI와 로봇에 맡긴다. 계산으로 후보 물질을 거른 뒤 계량, 혼합, 열처리, 분석까지 로봇이 사람 개입 없이 수행한다. 연간 최대 5만회 실험이 가능하고, 샘플당 실험 비용은 12달러로 기존 방식(3300달러)의 275분의 1 수준이라고 회사는 설명했다. 현재 미국 배터리 기업과 유료 개념검증(PoC)을 진행하고 있다.
에임인텔리전스는 이 대표가 키노트에서 강조한 AI 가드레일을 만드는 회사다. AI 모델을 직접 공격해 취약점을 찾는 레드티밍과 실시간 통제 플랫폼을 함께 운영한다. 지금까지 160개 이상 모델을 레드티밍했고 기업 고객은 20곳이 넘는다. 휴머노이드 로봇에 탑재해 위험 행동이 감지되면 로봇을 멈추는 가드레일도 개발했다. 지난 6월에는 미국항공우주국(NASA)의 태양 탐사선 관련 AI 챗봇에서 결함을 찾아내 해당 서비스가 중단되기도 했다.
