미국 보고서의 경고 “AI, 인류 멸종 수준 위협될 것”

박동익 기자 | 기사입력 2024/03/13 [12:06]

미국 보고서의 경고 “AI, 인류 멸종 수준 위협될 것”

박동익 기자 | 입력 : 2024/03/13 [12:06]

 

인공지능(AI)이 인류를 멸종하는 수준의 위협이 될 수도 있다는 보고서가 나왔다.

 

CNN은 3월 12일(현지시간) “미국 민간 업체 글래드스톤 AI가 미 국무부 의뢰를 받아 이번주에 발표한 보고서에 따르면 가장 발전한 AI 시스템이 최악의 경우 인류 멸종 수준의 위협이 될 수 있다고 경고했다”고 보도했다.

 

이 보고서는 주요 AI 기업의 최고 경영진, 사이버 보안 연구원, 대량살상무기 전문가, 국가 안보와 관련한 정부 당국자 등 200명이 넘는 관계자들을 인터뷰한 내용을 토대로 작성됐다.

 

보고서는 “AI와 AGI(범용인공지능·사람과 같거나 그 이상의 지능을 구현)의 부상으로 인해 핵무기 도입을 연상시키는 방식으로 세계 안보가 불안정해질 가능성이 있다”며 “AI 군비 경쟁과 분쟁, 대량살상무기 규모의 치명적인 사고의 위험이 있다”고 경고했다.

 

보고서는 AGI의 진화 속도를 가장 큰 관건으로 꼽으며 “AGI는 통제력 상실로 인한 재앙적 위험의 주요 요인으로 간주되고 있다”며 “오픈AI, 구글 딥마인드, 앤트로픽, 엔비디아가 모두 2028년까지 AGI에 도달할 수 있다고 공개적으로 밝혀왔다”고 전했다.

 

보고서는 이 같은 위협에 대응하기 위해 새로운 AI 감독 기관과 긴급 규제 안전장치를 만들고 AI 모델 훈련에 사용할 수 있는 컴퓨터 성능을 제한해야 한다고 강조했다. 특히 보고서 저자들은 “미국 정부가 개입해야 할 분명하고 긴급한 필요성이 있다”고 밝혔다.

 

제러미 해리스 글래드스톤 최고경영자(CEO) 역시 “AI는 이미 경제적으로 혁신적인 기술이다. 그러나 이는 재앙적 위험을 포함한 심각한 위험을 초래할 수도 있다”고 말했다. 

  • 도배방지 이미지