AI 규제의 '기회의 창'이 닫히고 있다 — UN 40인 과학패널 첫 보고서 정리

"AI 규제요? 그건 저 멀리 정부나 대기업이 알아서 할 얘기 아닌가요?"

혹시 이런 생각, 한 번쯤 해보셨죠? 뉴스에서 'AI 거버넌스'라는 말이 나오면 왠지 나와는 상관없는, 어렵고 먼 이야기처럼 느껴지곤 해요. 저도 그랬습니다.

그런데 이번 주 UN이 내놓은 한 보고서를 읽으면서 생각이 조금 달라졌어요. 이건 사실 우리 모두의 발언권에 대한 이야기더라고요. 오늘은 그 이야기를 천천히, 함께 나눠보려 합니다.

40명의 과학자가 모여 내린 결론

먼저 이 보고서가 어디서 나왔는지부터 말씀드릴게요. 2025년, UN 총회 결의로 '독립 국제 AI 과학패널'이라는 기구가 만들어졌어요. 전 세계에서 모인 40명의 전문가로 구성된 이 패널이, 이번 주 첫 예비 보고서를 발표했습니다.

이들이 던진 메시지는 묵직했어요. 안토니우 구테흐스 UN 사무총장의 말을 그대로 옮겨볼게요.

"AI가 공유된 규칙 없이 발전할수록, 그 결과에 대해 정부와 사람들이 가질 수 있는 발언권은 줄어듭니다."

그리고 이렇게 덧붙였어요. "우리는 더 이상 '몰랐다'고 말할 수 없습니다. 과학은 이미 여기 있으니까요."

이 말이 왜 이렇게 마음에 남았을까요. 우리가 매일 쓰는 기술의 규칙을, 정작 우리는 정할 수 없게 되어간다는 뜻이었기 때문이에요.

기술은 우리 생각보다 훨씬 빨리 달리고 있어요

보고서는 지금 AI 산업이 "예외적인 속도"로 움직이고 있다고 표현했어요. 생성형 AI는 이제 소프트웨어를 직접 짜고, 거대한 데이터를 분석하고, 진짜 같은 이미지와 영상을 만들고, 심지어 과학적 발견까지 돕고 있죠.

여기서 한 걸음 더 나아간 게 '에이전트형 AI'예요. 사람이 거의 개입하지 않아도 복잡한 일을 알아서 끝내는 AI를 말합니다. 패널에 따르면, 이런 시스템이 해낼 수 있는 과제의 난이도가 몇 달마다 대략 두 배씩 커지고 있다고 해요.

이게 왜 걱정스러울까요? AI가 더 자율적으로 움직일수록, 튼튼한 안전장치가 없으면 이를 감시하고 통제하기가 점점 더 어려워지기 때문이에요.

실제로 보고서는 이미 벌어지고 있는 위험들을 짚었어요.

• 딥페이크와 학대물: AI로 만든 성착취물과 딥페이크에 여성과 아동이 유독 많이 표적이 됩니다.
• 가짜뉴스: 더 그럴듯하고, 더 잡아내기 어려운 허위정보가 공적 신뢰와 민주적 토론을 갉아먹고 있어요.
• 사이버 범죄: 범죄자들이 AI를 사기와 사회공학 공격에 쓰고 있고요.
• 환경 부담: AI를 돌리는 데이터센터가 온실가스 배출의 새로운 원천이 되고 있습니다.

그렇다고 어두운 이야기만 있는 건 아니에요

여기까지 읽으시면 마음이 좀 무거우실 것 같아요. 그런데 다행히 보고서가 '암울한 결말'만 담고 있는 건 아니었습니다.

AI가 우리에게 안겨준 선물들도 분명히 있어요. 예를 들어 AI 모델은 2억 개가 넘는 단백질의 구조를 밝혀냈어요. 이건 신약 개발, 백신 연구, 그리고 항생제 내성 문제 해결의 속도를 크게 끌어올리고 있습니다.

뿐만 아니라 식량 위기가 본격화되기 전에 미리 식량 불안을 감지해내고, 교육과 정신건강 지원, 장애가 있는 분들을 위한 도구의 문턱을 낮추는 데도 쓰이고 있어요.

그러니까 이 기술은, 잘만 다루면 정말 많은 사람을 도울 수 있는 힘을 가졌다는 거죠. 문제는 '누가, 어떻게' 그 힘을 나누느냐예요.

기울어진 운동장, 미국과 중국이 90%를 쥐고 있어요

이 대목이 개인적으로 가장 마음에 걸렸어요. 보고서는 세계 최고 수준 AI 슈퍼컴퓨터의 연산 능력 중 약 75%를 미국이, 약 15%를 중국이 쥐고 있다고 추정했어요.

두 나라를 합치면 무려 90%입니다. 그리고 가장 앞선 AI 모델들도 바로 이 두 나라에 본사를 둔 기업들이 만들고 있어요.

문제는 나머지 세계예요. 많은 개발도상국은 자기들이 쓰는 AI 시스템을 직접 만들거나 검증할 인재도, 인프라도, 자금도 부족합니다. 남이 만든 도구를 그저 받아쓸 수밖에 없는 처지인 거죠.

패널은 이 격차를 좁히려는 노력이 없다면, AI가 오히려 전 세계의 불평등을 더 벌려놓을 수 있다고 경고했어요. 기술이 발전할수록 잘 사는 나라와 그렇지 못한 나라의 거리가 멀어진다는 건, 참 아이러니한 이야기죠.

규칙을 만들고 싶어도 만들기 어려운 이유

그럼 규제를 서두르면 되지 않냐고요? 여기에도 딜레마가 있었어요. 보고서는 이를 '증거의 딜레마(evidence dilemma)'라고 불렀습니다.

입법자들은 효과적인 규칙을 쓰려면 탄탄한 데이터가 필요해요. 그런데 AI는 그 데이터가 정리되기도 전에 이미 저만치 앞서 나가버립니다. 규칙을 세울 근거를 모으는 사이, 대상이 이미 바뀌어 있는 셈이에요.

지금 전 세계에는 이미 40개가 넘는 AI 거버넌스 프레임워크가 존재해요. 숫자만 보면 많죠. 하지만 패널은 이들이 파편화되어 있고, 서로 일관되지 않으며, 실제로 작동하는지 검증된 적도 거의 없다고 지적했어요.

게다가 안전성 테스트의 상당 부분이 여전히 기술을 만드는 바로 그 기업들의 손에서 이뤄지고 있어요. 스스로가 만든 제품을 스스로 검사하는 셈이니, 독립성에 물음표가 붙을 수밖에 없죠.

그래서 패널은 이렇게 제안했어요.

1. 더 강력한 제3자 평가를 도입할 것
2. 국제적인 공조와 공유 표준을 만들 것
3. 각국이 스스로 AI를 다스릴 수 있도록 전문성과 인프라에 투자할 것

마지막으로, 함께 생각해봐요

이 모든 이야기의 핵심은 '기회의 창'이에요. 공유된 규칙으로 이 흐름을 바로잡을 시간이, 빠르게 닫혀가고 있다는 것.

마침 이 주제를 두고 국제 사회가 직접 머리를 맞대는 자리도 열려요. UN이 주관하는 '글로벌 AI 거버넌스 대화(Global Dialogue on AI Governance)'가 그것인데요. 처음으로 모든 나라가 'AI라는 테이블'에 자리를 갖고, 의미 있는 대화를 나누자는 취지의 만남이에요.

물론 회의 한 번으로 세상이 바뀌진 않겠죠. 하지만 '몰랐다'고 말할 수 없게 된 지금, 대화를 시작한다는 것 자체가 하나의 시작 아닐까 싶어요.

여러분은 어떻게 생각하세요? AI의 규칙을, 소수의 나라와 기업이 아니라 우리 모두가 함께 정해가려면 무엇이 필요할까요? 편하게 댓글로 이야기 나눠주시면 좋겠어요. 🙏

---

📎 출처: 원문 보기