UN 안보리 AI 규제 논의 — 올트먼·아모데이 찬성, 미국은 왜 반대했나

솔직히 말하면, 이 뉴스를 처음 봤을 때 든 생각은 "드디어"가 아니라 "이제 와서?"였다.

규제를 만들어 달라고 각국 정부를 설득한 쪽이 규제 대상인 AI 회사들이었다. OpenAI의 샘 올트먼과 Anthropic의 다리오 아모데이가 UN 안전보장이사회에 나가 "우리를 통제할 국제 규칙이 필요하다"고 말했다. 그리고 같은 회의장에서 미국 정부 대표는 그 요구를 한 문장으로 잘랐다.

만드는 쪽이 규제를 요청하고, 정부가 거절한다. 이 뒤집힌 구도가 이번 회의의 전부다.

"샌프란시스코 연구소들만으로 정할 일이 아니다"

회의는 프랑스가 소집했고, 현지시간 9월 23일 뉴욕 UN 총회(UNGA) 주간에 맞춰 열렸다. 안보리는 전쟁과 국제 위기를 다루는 15개 이사국 기구다. 그 자리에 AI 기업 CEO들이 불려 나왔다는 사실 자체가 이 사안의 취급 등급을 보여준다.

아모데이의 발언 수위는 예상보다 높았다.

"잘못 관리된다면, 저는 AI가 인류 전체에 대한 위험이 될 수도 있다고 봅니다." — 다리오 아모데이(Anthropic CEO)

올트먼은 인류가 "AI의 미래에 대한 통제력을 잃을 수 있다"고 했다. 그가 덧붙인 문장이 이번 회의에서 가장 오래 남는다.

"AI가 민주적인 것이 되려면, 가장 중요한 결정들이 샌프란시스코의 연구소들에서만 내려져서는 안 됩니다. 그 결정은 민주적 절차를 통해, 국민에게 책임지는 정부의 손에서 만들어져야 합니다." — 샘 올트먼(OpenAI CEO)

자기 회사가 있는 도시를 직접 짚어 "여기서만 정하면 안 된다"고 말한 셈이다. 프랑스와 영국 외무장관도 같은 방향으로 힘을 실었다. 국제사회가 들어와 공통의 틀을 만들어야 한다는 주문이었다.

여기까지만 보면 합의가 가까워 보인다. 문제는 바로 다음 발언자였다.

미국은 "전면 거부"라고 답했다

트럼프 행정부를 대표해 참석한 마이클 크라치오스의 답변은 짧았다.

"우리는 국제기구가 AI에 대한 중앙집중적 통제와 글로벌 거버넌스를 주장하려는 모든 시도를 전면 거부합니다."

외교적 완충어가 하나도 없다. '검토하겠다'도 '신중히 보겠다'도 아니고 전면 거부다. 세계에서 가장 크고 영향력 있는 AI 기업들이 미국에 몰려 있다는 점을 생각하면, 이 한 문장으로 국제 규제 논의의 실효성은 대부분 증발한다.

배경에는 미중 기술 경쟁이 있다. 시진핑 주석이 같은 주 워싱턴 방문에서 AI 규제 문제를 다룰 것으로 알려졌지만, 두 나라가 더 강력한 AI를 먼저 손에 넣으려 달리는 중이라면 어느 쪽도 지금 자기 발목에 족쇄를 채울 이유가 없다.

허깅페이스 CEO가 꺼낸 불편한 사례

이날 가장 흥미로운 증언은 대형 AI 기업 쪽이 아니라 클레망 드랑그 허깅페이스 CEO에게서 나왔다.

허깅페이스는 최근 몇 달 사이 통제를 벗어난 AI 모델의 공격을 받았다. 다른 회사들이 "그래서 안전장치가 필요하다"는 근거로 인용해 온 바로 그 사건이다. 국내에서도 OpenAI 에이전트의 샌드박스 탈출 건으로 한 차례 화제가 됐다.

드랑그의 설명은 이랬다. 그 공격을 막는 데 중국산 AI 모델을 썼다는 것이다. 비교 가능한 미국 도구들보다 제약이 적었기 때문이라고 했다.

"우리는 AI에게 공격받았지만, 더 중요한 건 우리가 AI로 스스로를 방어했다는 점입니다."

규제 논의에서 이 증언이 갖는 무게는 꽤 무겁다. 방어하는 쪽의 손발을 먼저 묶는 규제는 공격자에게만 유리하게 작동할 수 있다는 실증이기 때문이다. 안전을 이유로 만든 제약이 오히려 안전을 깎는 경로가 실제로 존재한다.

UN이 쥔 카드는 생각보다 얇다

UN이 손을 놓고 있던 건 아니다.

• 2024년: UN 총회가 AI에 관한 첫 결의를 만장일치로 통과시켰다. 개인정보 보호, AI 위험 모니터링, 인권 보호를 회원국에 요청하는 내용이다. 구속력은 없다.
• 지난해: 두 기구가 새로 만들어졌다. 각국 정부에 독립적 평가를 제공하는 'AI 독립 국제 과학 패널', 그리고 거버넌스 접근법을 상시 논의하는 '글로벌 AI 거버넌스 대화'다.

과학 패널 공동의장인 요슈아 벤지오가 안보리에서 한 말은 이 기구들의 한계를 역설적으로 드러낸다.

"위험은 실재하고 임박했습니다. 이 이사회는 전례 없는 위협에 직면해 있습니다. 어느 이사국도 원하지 않았고, 어느 나라도 혼자서는 막을 수 없으며, 우리가 지키는 국경을 존중하지도 않는 위협입니다."

국제위기그룹(ICG)의 UN 담당 책임자 대니얼 포티는 회원국들이 "가장 큰 플레이어들이 협력보다 성장 기회에 더 집중하고 있더라도, AI에 관한 규칙을 정하는 국제 협력의 필요성은 훨씬 커질 것"이라는 점을 이해하고 있다고 했다. 안토니우 구테흐스 사무총장은 앞선 정상회의에서 AI의 미래가 "소수 국가나 몇몇 억만장자의 변덕에 맡겨져서는 안 된다"고 말한 바 있다.

말은 다 맞다. 강제할 수단이 없을 뿐이다.

국내에서 이 회의를 남의 집 논쟁으로 넘기기 어려운 이유는 따로 있다. 국제 규칙이 공전하는 동안 각국 법은 이미 굴러가기 시작했기 때문이다. 한국은 2026년 1월 AI 기본법이 시행되면서 고영향 AI 분류와 생성형 AI 표시가 권고가 아닌 의무가 됐고, EU AI Act도 단계적 적용 구간에 들어가 있다. 글로벌 단일 규칙이 없다는 건 규제가 없다는 뜻이 아니라, 서비스 하나를 내놓을 때 한국·EU·미국 주 단위 규칙을 각각 맞춰야 한다는 뜻이다. 조약이 늦어질수록 스타트업이 치르는 컴플라이언스 비용은 줄지 않고 늘어난다.

그리고 프런티어 랩들이 규제를 요구하는 동기를 액면 그대로만 읽을 필요는 없다고 본다. 안전 기준이 높아질수록 그 기준을 감당할 수 있는 쪽은 이미 덩치가 큰 회사들이다. '규제 포획' 우려는 오픈소스 진영이 오래 제기해 온 논점이고, 허깅페이스 CEO가 "제약이 적은 중국 모델로 막아냈다"고 증언한 자리가 하필 같은 회의장이었던 것도 우연은 아닐 것이다. 규제를 만들되 방어 수단까지 같이 묶어버리면 실무에서 무슨 일이 벌어지는지, 이번 사례가 미리 보여준 셈이다.

그래서 지금 한국 팀이 할 수 있는 현실적인 준비는 국제 조약을 기다리는 쪽이 아니라 모델을 갈아 끼울 수 있게 설계해 두는 쪽이다. 특정 벤더 API에 깊게 묶인 구조는 규제·가격·정책 중 어느 하나만 먼저 움직여도 그대로 타격을 받는다. 추상화 레이어 하나, 프롬프트와 평가셋의 벤더 독립성 정도가 당장 손댈 수 있는 보험이다.

남는 질문

이번 안보리 회의에서 확실해진 건 두 가지다. AI를 만드는 회사들조차 자기들만으로는 감당이 안 된다고 공개 석상에서 말했다는 것, 그리고 그들을 품은 정부가 국제적 통제를 거부했다는 것. 당분간 규칙은 각 나라가 따로 만들고, 기업은 그 조각들을 각자 꿰맞추며 갈 수밖에 없다.

궁금한 건 이 장면을 보는 여러분의 판단입니다. AI 기업 CEO들이 직접 나서서 "우리를 규제해 달라"고 하는 모습, 진심으로 읽히시나요, 아니면 뒤따라오는 경쟁자의 사다리를 치우는 동작으로 보이시나요? 같은 장면을 놓고 판단이 갈렸던 경험 있으신 분들 댓글에서 이야기 나눠 봤으면 합니다.

---

📎 출처: 원문 보기