[뉴스콤 김경목 기자] 빌 게이츠 마이크로소프트(MS) 공동 창업자가 인공지능(AI)이 악의적인 세력에 의해 활용될 경우 지금까지 경험하지 못한 수준의 대규모 위협을 초래할 수 있다며 정부 차원의 규제와 감시 강화를 촉구했다.

게이츠는 27일(현지시간)일 NBC뉴스 '미트 더 프레스' 인터뷰에서 AI가 극단적인 경우 대규모 인명 피해를 초래할 잠재력을 갖고 있다고 경고했다.

그는 "AI는 분명 10억명의 사망자를 낳는 사건을 일으킬 만큼 강력하다"고 말했다.

AI가 인류 전체를 멸종시킬 가능성을 묻는 질문에는 "100%까지 가는 것은 상당히 어렵다"면서도 "악의를 가진 사람들이 최신 AI 도구를 함께 사용하는 것만큼 강력한 무기는 지금까지 없었다"고 지적했다.

게이츠가 특히 우려한 분야는 사이버공격과 생물학적 위협이다. 고성능 AI가 공격 능력을 빠르게 확대하면서 과거에는 상당한 전문 지식과 인력, 자금이 필요했던 공격의 진입장벽을 낮출 수 있다는 것이다.

그는 테러리스트나 적대적인 국가가 AI를 악용하는 현실적인 단기 위험과 고도로 발전한 AI 자체가 통제에서 벗어날 수 있다는 장기적인 '실존적 위험'은 구분해서 접근할 필요가 있다고 강조했다.

AI 기업들의 자율적인 안전조치만으로는 이 같은 위험에 대응하기 어렵다는 입장도 밝혔다.

게이츠는 "자율규제만으로 충분하다고 생각하는 사람은 아무도 없다"며 미국 연방정부가 AI 안전장치와 감독체계를 법제화해야 한다고 주장했다.

그는 "법 집행기관과 정치인들이 안전장치와 감시가 어떤 형태여야 하는지를 결정하는 논의에 참여해야 한다"며 일정한 안전 규정은 의무화돼야 한다고 강조했다.

게이츠는 AI 규제가 기술 발전 자체를 가로막아서는 안 된다는 점도 함께 언급했다. 안전 규정이 AI 기업들에 일정한 부담을 줄 수 있지만 적절한 규제가 AI의 발전 속도를 크게 떨어뜨리지는 않을 것이라는 설명이다.

게이츠는 앞서 자신의 블로그 '게이츠 노트'에서도 AI 발전이 가져올 위험 가운데 일자리 감소와 사이버공격, 생물테러 등을 지목한 바 있다.

AI와 로봇이 인간의 업무를 빠르게 대체하더라도 일부 영역은 사람이 직접 담당하도록 하는 '휴먼 리저브드(Human Reserved)' 개념도 제안했다. 환자 간병이나 중대한 의료 진단 결과를 전달하는 업무처럼 인간의 판단과 공감이 중요한 분야는 AI로 완전히 대체하지 않는 방안을 사회적으로 논의해야 한다는 취지다.

게이츠의 경고는 최근 고성능 AI의 오·남용을 둘러싼 논란이 커지는 가운데 나왔다.

호주 정부는 지난 23일 오픈AI가 개발한 AI 에이전트가 지난 6월 호주 정부의 메디케어 통계 보고 서비스 포털에 허가 없이 접근했다고 밝혔다.

해당 시스템은 공개 자료뿐 아니라 일부 비공개 파일에도 접근했지만 현재까지 개인의 메디케어 정보가 유출됐다는 증거는 확인되지 않았다.
오픈AI가 사고 발생 약 3개월 뒤인 이달 10일에야 호주 정부에 관련 사실을 통보하면서 늑장 보고 논란도 불거졌다.

앤트로픽도 최근 공개한 위협정보 보고서를 통해 예멘에 기반을 둔 세력이 자사 AI 모델 '클로드'를 이용해 유도무기 관련 기술 개발을 시도했다고 밝혔다. 회사는 관련 계정을 차단하고 당국과 정보를 공유했다고 설명했다.

AI 안전 문제는 국제 외교·안보 의제로도 부상하고 있다.

샘 올트먼 오픈AI 최고경영자(CEO)와 다리오 아모데이 앤트로픽 CEO, 클레망 들랑그 허깅페이스 공동창업자 등은 지난 23일 유엔 안전보장이사회 회의에 참석해 고성능 AI가 초래할 위험과 국제적인 안전 기준 마련 필요성에 대해 의견을 밝혔다.

다만 도널드 트럼프 미국 행정부는 새로운 국제기구나 글로벌 규제체계를 통해 AI 개발을 제한하는 방식에는 반대한다는 입장이다.

마이클 크라치오스 백악관 과학기술정책실장은 당시 안보리에서 슈퍼지능(SI·Super Intelligence)의 발전이 시민에게 혜택을 제공하면서 자유와 삶의 방식을 보호하도록 하는 것이 미국의 우선적인 책무라고 밝혔다.

그는 기술의 빠른 발전 자체가 개발을 중단하거나 새로운 글로벌 거버넌스 체계로 AI를 제약해야 할 이유는 아니라면서 국제적인 논의가 글로벌 규제체계 구축으로 이어져서는 안 된다는 입장을 나타냈다.

게이츠의 발언은 AI 개발 속도가 빨라질수록 기술 경쟁과 함께 악용 가능성에 대비한 안전장치를 어디까지 의무화할 것인지를 둘러싼 논의도 한층 확대될 수 있음을 보여준다.

김경목 기자 kkm3416@newskom.co.kr