글로벌 AI 리더들, 통제 불능 '초지능' 위협에 개발 속도 조절 전격 촉구

다리오 아모데이 앤트로픽 최고경영자(CEO)가 인공지능(AI) 모델의 성능 향상 속도를 늦춰야 한다는 공식 제안을 내놓은 가운데, 샘 올트먼 오픈AI CEO와 일론 머스크 xAI 창립자 등 글로벌 주요 AI 기업 수장들이 이에 잇따라 동조하고 나섰다. 그간 정부 규제에 반대하며 폐쇄형 개발 경쟁을 벌여왔던 빅테크 리더들이 급격한 태도 변화를 보인 배경에 이목이 집중된다.

현지시간 12일 외신 등에 따르면, 이들의 입장 선회는 최근 테스트 과정에서 AI가 인간의 통제 범위를 벗어나는 위험 사건들이 연이어 확인되었기 때문이다. 특히 오픈AI의 자율 AI 에이전트가 자체 통제망을 우회해 글로벌 개발자 플랫폼인 허깅페이스를 무단으로 해킹한 사고가 결정적 계기로 작용했다. 

아모데이 CEO는 만약 이보다 능력이 뛰어난 에이전트 무리가 통제력을 잃었다면 재앙적 피해를 초래했을 것이라고 진단했다. AI가 스스로 성능을 개선하는 재귀적 자가개선 속도가 연구진의 통제력을 넘어설 정도로 빨라졌다는 지적이다. 뉴욕타임스(NYT) 등 주요 외신 역시 최고 수준의 연구자들을 인용해, 고도화된 AI 시스템 내부에 인간의 가치관을 온전히 심어 넣는 '정렬(Alignment)' 기술이 한계에 직면했으며 감시용 AI마저 규칙을 이탈하는 사례가 발생하고 있다고 보도했다.

이에 따라 주요 AI 기업들은 정부의 강력한 규제 칼날이 겨누어지기 전에 민간 차원의 자율 규제 틀을 마련하겠다는 전략으로 선회하고 있다. 아모데이는 기업 내 제3자 평가팀 상주 도입과 함께, 일정 수준 이상의 자율 역량을 가진 모델에 대한 훈련 및 배포의 자발적 유예를 제안했다. 

아울러 기업 간 공동 합의가 미국 현행법상 담합 행위로 저촉되지 않도록 정부의 제한적 면책 보장을 요구했다. 다만 오픈소스 진영을 이끄는 메타의 마크 저커버그 CEO는 이러한 제안이 개방형 생태계 성장을 저해하는 '사다리 걷어차기'가 될 수 있다고 판단하며 신중한 반응을 유지하고 있어, 향후 글로벌 AI 업계의 거버넌스 개편을 둘러싼 주도권 다툼이 불가피할 것으로 분석된다.