[사진=시사큐브, AI활용]
[사진=시사큐브, AI활용]

인공지능(AI) 모델 훈련을 담당하던 앤트로픽 소속 연구원이 AI 시스템이 인간의 통제를 벗어날 위험성을 공개적으로 경고하며 회사를 사직했다. 월스트리트저널(WSJ) 등 주요 외신에 따르면, 영국 출신 연구원 제이콥 콕슨은 지난 8일(현지 시간) 스스로 성능을 개선하는 인공지능 시스템 개발 경쟁에 동참하기를 거부한다는 의사를 밝히며 퇴사했다.

이번에 퇴사한 콕슨 연구원은 AI가 인간의 통제를 완전히 벗어난 상태에 빠져 인류 사회에 심각한 위협을 초래할 수 있다고 지적했다. 특히 가장 극단적인 시나리오들이 실제로 현실화할 가능성이 높으며, 이르면 내년 말쯤 통제 불능 상황에 직면할 수 있다고 경고했다. 이어 전 세계 AI 기업들이 치열한 패권 경쟁을 벌이는 과정에서 안전 조치가 타협 대상이 되고 있다고 비판했다. 그는 올해 초 책임 있는 AI 개발 노력에 공감해 오픈AI에서 앤트로픽으로 이직했으나, 정부의 개입이나 업계 차원의 개발 속도 조절 없이는 어떤 기업도 인간을 능가하는 범용인공지능을 안전하게 통제할 수 없다는 결론에 이르렀다고 설명했다.

최근 주요 AI 기업들의 모델이 독자적으로 해킹을 시도한 사례들과 관련해서는, 시스템이 스스로 고도화되기 시작하면 인간의 명령을 거부하는 단계로 급격히 발전할 수 있다고 우려를 표명했다. 콕슨 연구원은 AI 안전 문제를 이유로 앤트로픽을 이탈한 최초의 연구원으로 기록됐으나, 앞서 오픈AI 등 경쟁사에서도 유사한 윤리적 우려로 연구진이 연쇄적으로 퇴사한 전례가 있다. 그는 앞서 AI의 자율적 발전 속도를 늦추기 위한 국제적 공조를 촉구하는 성명서에도 이름을 올린 바 있다.

한편 미국 연방 차원의 포괄적인 AI 규제가 부재한 상황에서, 행정부는 경제적 이익을 앞세워 최소한의 규제 기조를 유지하고 있다. 전문가들은 이러한 규제 공백 속에서 기업 간 과도한 개발 경쟁이 대규모 사이버 공격이나 통제 상실로 이어질 수 있다고 지적하고 있다. 언론은 이번 사임이 비교적 안전 관리에 무게를 두어온 앤트로픽 내부에서 발생했다는 점에서 AI 업계 전반의 안전 불감증에 대한 경각심을 높이고 있다고 분석했다.