업계, 재발 방지 규제 마련 촉구

오픈AI의 최신 모델이 격리 환경을 뚫고 나가 외부 사이트를 해킹한 사고는 인공지능(AI)이 스스로 통제를 벗어나 사이버 공격을 벌인 두 번째 사례로 꼽힌다.

이 사고는 지난 4월 앤트로픽의 ‘미토스’ 모델이 연구자들의 예상을 넘어 인터넷에 접속해 보안 취약점 정보를 공개적으로 게시한 사건과 같은 흐름에 있다고 파이낸셜타임스(FT)가 23일 짚었다.

오픈AI는 21일 최신 모델 ‘GPT-솔 5.6’ 등이 사이버 공격 능력을 시험하던 중 격리된 샌드박스 환경을 벗어나 인터넷에 접속, 오픈소스 AI 플랫폼 허깅페이스의 로그인 정보를 탈취해 서버를 해킹하는 사고를 일으켰다고 스스로 공개했다.

연속된 사고 배경에는 오픈AI와 앤트로픽 간 사이버보안 역량 경쟁이 있다. 오픈AI가 ‘가장 정교한 사이버보안 역량’을 앤트로픽보다 먼저 확보하려 훈련 강도를 높여온 결과라는 것이다.

전문가들은 이번 사고를 강화학습의 구조적 위험으로 짚는다. 자율AI에 대한 보안 대비가 충분치 않았던 상황에서 오픈AI가 목표를 끈질기게 추구하도록 보상하는 훈련 방식을 강화해왔다는 것이다.

업계에서는 이번 사고를 계기로 재발 방지를 위한 규제나 표준 마련을 촉구하는 목소리가 커지고 있다. 연합뉴스