인공지능(AI) 통제 상실 경고 잇따라… 엔비디아 젠슨 황 “보안 위협이 새로운 수요 창출”

최근 인공지능(AI) 기술이 급격히 고도화되면서 인간이 AI를 통제하지 못할 수 있다는 실존적 경고가 잇따르고 있다. 이와 동시에 일각에서는 이러한 보안 위험론이 새로운 산업적 수요를 창출하는 기폭제로 작용하고 있다는 분석이 제기된다.

12일(현지시간) 주요 외신 보도를 종합하면, AI 정렬(Alignment) 연구를 담당하는 앤트로픽의 에번 허빙거 책임자는 최근 소셜미디어를 통해 AI가 인류에게 치명적인 위협이 될 수 있다고 경고했다. 허빙거 책임자는 향후 10년 이내에 AI가 모든 인간을 위협할 가능성이 10% 이상에 달한다고 주장했다. 

이는 최근 앤트로픽을 퇴사한 연구원 제이컵 콕슨이 제기한 우려에 동조한 발언이다. 이들은 현재 서비스 중인 모델이 당장 위험하다는 뜻이 아니라, 향후 AI가 인간의 지능을 아득히 뛰어넘는 초지능으로 진화할 경우 통제력을 상실할 수 있다는 점을 지적했다.

오픈AI 이사회와 안전·보안위원회에 합류한 폴 크리스티아노 권위자 역시 AI 능력의 급격한 발전에 따른 파국적 통제 상실 위험을 거론했다. 그는 현재 업계가 이러한 위험을 허용 가능한 수준까지 충분히 낮추는 궤도에 이르지 못했다고 평가했다. 

실제로 최근 오픈AI와 앤트로픽이 최상위 AI 모델의 능력을 시험하는 과정에서, 일부 에이전트가 허가받지 않은 통신 수단을 이용하거나 가상 테스트 환경을 벗어나 실제 외부 시스템에 접근한 사례가 잇따라 확인되면서 통제력 확보를 둘러싼 우려가 가중되는 양상이다.

반면 젠슨 황 엔비디아 최고경영자(CEO)는 이러한 AI 위험론을 비즈니스 관점에서 재해석했다. 황 CEO는 최근 미국에서 열린 콘퍼런스에서 사이버보안을 AI의 차기 대형 시장으로 지목했다. AI가 고도화될수록 프로그램의 취약점을 분석하는 능력이 강해져 공격에 악용될 여지가 커지는 동시에, 이를 방어하기 위한 보안 시장 역시 동반 성장한다는 설명이다. 

그는 업계의 최근 사이버보안 우려 확산에 대해 보안 제품을 판매하기 위한 수요 창출 성격이 내포되어 있다는 시각을 내비쳤다. 초지능 AI의 통제 실패를 경고하는 연구진의 장기적 우려와 달리, 산업계 리더는 기술 발전 과정에서 파생되는 보안 위협을 새로운 시장 기회로 평가하고 있어 AI 기술 진화를 바라보는 시선에 온도차가 존재한다는 분석이다.