[디지털타임스] “결코 외면해선 안 될 위험”…‘AI 안전성’ 유엔총회 오른다
입력  2026.09.20. 

구테흐스 “AI 안전성 국제 공조로 해결해야”
올트먼, 안보리 AI 안전성 회의서 브리핑 예정
유럽 국제기준·감독체계 촉구에 미·중은 잠잠
24일 미중정상회담서 어느 수준 논의될지 주목

안토니우 구테흐스 유엔 사무총장

이번 주 유엔총회가 개막하고 24일(현지시간) 미중 정상회담이 열리면서 인공지능(AI) 안전성을 둘러싼 국제사회의 논의가 본격화한다.

그동안 AI의 위험성에 대한 경고가 AI기업 최고경영자(CEO)들을 중심으로 제기됐다면, 이번에는 유엔이라는 다자무대와 양대 AI 강국 정상이 이 문제를 다룬다는 점에서 주목된다.

안토니우 구테흐스 유엔 사무총장은 22일 유엔총회 개막에 앞서 “AI 개발 최전선에서 제기되는 우려를 외면해서는 안 된다”며 각국 정상들과 논의할 것임을 밝혔다. AI의 급속한 발전이 특정 국가나 기업만의 문제가 아니라 국제 평화와 안보, 인류 전체에 영향을 미치는 사안인 만큼 국제적 공조를 통해 대응해야 한다는 것이다.

유엔 안전보장이사회도 23일 AI와 국제 평화·안보를 주제로 회의를 연다. 프랑스가 소집한 이번 회의에는 샘 올트먼 오픈AI 최고경영자(CEO)가 참석해 AI 안전성과 국제협력에 관해 브리핑할 예정이다. AI가 군사·사이버 공격 등에 활용될 가능성과 인간이 고성능 AI에 대한 통제력을 잃을 위험 등이 주요 논점이 될 전망이다.

AI 위험에 대한 경고 수위도 높아지고 있다. ‘AI의 대부’로 불리는 제프리 힌턴 토론토대 명예교수는 지난 16일 버니 샌더스 미국 상원의원이 주최한 비공개 의회 브리핑에서 “미국 의회가 향후 1년 안에 AI에 대한 안전장치를 마련하지 못하면 인간이 통제력을 잃을 수 있다”고 경고했다. 그는 AI가 스스로 더 나은 AI를 설계하는 단계에 접근하고 있다는 점을 들어 통제력을 확보할 시간이 1년 정도밖에 남아있지 않다고 했다. 힌튼 교수는 AI 에이전트가 통제를 벗어나 AI 플랫폼 허깅페이스에 침입한 사건을 두고는 “작은 체르노빌 사고”이라고 표현하며 심각성이 간과되고 있다고 환기했다.

국제사회는 AI 모델 출시 전 안전성 평가와 독립적인 제3자 검증, 공통 안전기준, 사고 발생 시 국가 간 정보 공유 및 대응체계 등을 마련해야 한다는 요구가 커지고 있다. 유럽을 중심으로 국제적 기준과 감독체계를 구축해야 한다는 목소리도 높아지는 추세다. 하지만 안전성 논의가 곧바로 국제적 규범으로 이어질지는 미지수다. 특히 AI 기술의 선두에 있는 미국과 미국을 추격하는 중국은 안전 문제에 대한 공통의 우려를 갖고 있으면서도 AI 주도권을 놓치고 싶어하지 않는다. 첨단 AI 모델뿐 아니라 반도체, 데이터, 지식재산권 등을 둘러싼 갈등까지 겹쳐 있어 안전기준을 둘러싼 합의 역시 기술 패권 경쟁과 분리하기 어려운 상황이다.

이번 워싱턴 미중 정상회담에서도 양국은 지난 5월 베지징 회담서 AI 대화를 시작하기로 합의한 데 따라 AI를 논의 테이블에 올릴 것으로 예상은 되지만 높은 수준의 합의에 이르긴 힘들 것으로 전망된다. 트럼프 대통령은 AI 경쟁에서 중국에 뒤처져서는 안 된다는 입장을 거듭 강조해왔다.

AI 안전성을 확보하면서도 개발 속도와 기술 우위를 놓치지 않아야 하는 상충된 목표를 미국과 중국이 동시에 안고 있는 셈이다. 따라서 이번 정상회담에서는 위험관리와 정보교환 등 제한적인 협력부터 모색할 가능성이 크다. 유엔 총회와 안보리의 AI 안전성 논의도 공통의 규약 같은 합의에 이르긴 힘들 것으로 전망된다. 그러나 국제사회가 AI 안전성 논의를 처음으로 본격 의제로 올려 머리를 맞대기 시작했다는 점은 수확이다.

AI 거버넌스 전문가이자 ‘AI 세이프티 커넥트’ 공동설립자인 니콜라 미아유는 “이번 유엔 논의가 기업의 안전 약속에 국제사회가 무엇을 요구하고 누가 이를 감시할지 정하는 구상이 구체화하기 시작하는 계기가 될 수 있다”고 의미를 부여했다. 다만 논의의 출발과 실제 국제 규범의 도출 사이에는 여전히 간극이 큰 상황이다.

이규화 대기자(david@dt.co.kr)

Copyright ⓒ 디지털타임스. All rights reserved. 무단 전재 및 재배포 금지.

[편집=서울포스트, 뉴스검색제공 제외]

[NEWStory makes History - 서울포스트.seoulpost.co.kr]
Copyright ⓒ2026 서울포스트 - 무단전재,복사,재배포 금지