AI 딥페이크가 무너뜨리는 온라인 신뢰 — 진짜와 가짜, 왜 구분 못하게 됐나

요즘 스마트폰으로 뉴스 영상 하나를 보다가 문득 멈칫한 적, 있으시죠? "이거 진짜 맞나?" 하고 한 번 더 의심하게 되는 순간 말이에요. 예전엔 눈으로 보면 믿었는데, 이제는 그 믿음마저 흔들리기 시작했습니다.

전문가들은 지금 우리가 온라인에서 '신뢰의 붕괴' 를 겪고 있다고 말합니다. AI가 만들어낸 가짜 영상과 이미지가 너무 정교해져서, 진짜와 가짜를 눈으로 구분하는 게 사실상 불가능해지고 있다는 거예요. 오늘은 그 이야기를, 조금 차분히 함께 들여다보려 합니다.

한 장의 사진에서 시작된 혼란

2026년 새해 첫 주, 트럼프 대통령의 베네수엘라 작전 직후 소셜미디어가 술렁였습니다. 대통령이 진짜 사진을 하나 공유하자, 곧바로 그 옆에 베네수엘라 지도자 니콜라스 마두로가 포박된 것처럼 보이는 AI 생성 이미지들이 우후죽순 나타난 거예요.

일론 머스크를 비롯한 유명 인사들도 AI로 만든 영상을 공유했습니다. 그 안에는 베네수엘라 사람들이 미국에 감사를 표하는 듯한 장면까지 담겨 있었죠. 진짜인지 가짜인지, 보는 사람 입장에선 도무지 알 길이 없었습니다.

사실 이런 일이 처음은 아니에요. 작년 말에도 우크라이나 병사들이 러시아군에 항복하며 사과하는 것처럼 보이는 AI 영상이 대량으로 퍼진 적이 있었습니다. 전쟁처럼 긴박하고 감정이 격해지는 순간일수록, 조작된 영상은 더 빠르고 더 깊이 파고듭니다.

총격 사건의 진실마저 흐려질 때

비슷한 시기, 미국 미니애폴리스에서는 마음 아픈 사건이 있었습니다. ICE(이민세관단속국) 경찰관이 차 안에 있던 여성에게 총을 쏜 일이었죠. 그런데 이 사건마저 온라인에서는 가짜 AI 편집 이미지가 돌기 시작했습니다.

누군가는 AI를 이용해 총을 쏜 경찰관의 마스크를 디지털로 지워버리려 했고, 또 누군가는 장면 자체를 왜곡했습니다. 진실을 밝혀야 할 순간에, 오히려 진실이 더 흐려지는 아이러니가 벌어진 거예요.

"빠르게 진행되는 뉴스 사건일수록, 조작된 미디어가 가장 큰 영향을 미칩니다."

소셜미디어 플랫폼들이 창작자에게 '참여도'로 보상을 주다 보니, 사람들은 감정을 자극하는 오래된 사진이나 영상을 다시 꺼내 재활용하기도 합니다. 자극적일수록 더 많이 퍼지고, 더 많이 퍼질수록 진실은 더 멀어지고요.

우리가 잃어가는 건 '믿는 마음'

이 문제가 무서운 건, 단순히 가짜 영상 몇 개 때문이 아닙니다. 스탠포드 소셜미디어 연구소의 제프 행콕(Jeff Hancock) 설립 이사는 이렇게 짚었습니다.

"AI를 걱정하기 시작하면서 우리의 '신뢰 기본값' 자체가 약해질 겁니다. 의심할 이유가 없어도, 예전처럼 소통을 그냥 믿던 방식이 무너지는 거죠."

즉, 가짜를 진짜로 믿게 되는 것도 문제지만, 진짜마저 가짜로 의심하게 되는 것이 더 근본적인 위기라는 이야기예요. 로드아일랜드대학교의 러네이 홉스(Renee Hobbs) 교수는 여기에 '인지적 피로'를 더합니다. 진실을 계속 확인하려는 노력 자체가 지쳐서, 어느 순간 "그냥 다 못 믿겠다"며 포기해버리는 마음. 그게 가장 위험하다고요.

눈으로는 이제 구분할 수 없다

기술은 우리가 따라잡기 벅찰 만큼 빠르게 진화하고 있습니다. UC버클리 컴퓨터과학과의 하니 파리드(Hany Farid) 교수의 연구는 냉정합니다.

"이미지나 영상을 눈으로만 보고 가짜인지 판별하는 건 사실상 불가능해질 겁니다. 이미 그 지점에 근접했거나, 도달했다고 봅니다."

더 씁쓸한 건, 사람들이 진짜를 가짜라고 오판할 확률도 그만큼 높다는 점이에요. 특히 정치적 색채가 있는 내용에서는 확증편향이 작동합니다. 내가 믿고 싶은 대로 보고, 믿기 싫은 건 "저건 조작이야"라고 밀어내는 거죠. 그렇게 정확도는 더 떨어집니다.

버팔로대학교의 시웨이 류(Siwei Lyu) 교수는 조금 다른 각도를 제시합니다.

• 많은 경우 미디어 자체는 멀쩡한데, 잘못된 맥락에 놓이거나
• 신뢰할 수 없는 사람이 올렸을 뿐이라는 것

그래서 그는 "일반적인 인식과 상식이 가장 중요한 보호 방법"이라고 말합니다. 화려한 판별 기술보다, 결국 '누가·언제·왜 올렸는지'를 차분히 살피는 상식이 우리를 지킨다는 거예요.

그래서, 우리는 어떻게 해야 할까

인스타그램 수장 애덤 모세리(Adam Mosseri)는 앞으로의 태도 변화를 이렇게 예측했습니다.

"보는 것이 당연히 진짜라고 가정하던 데서, 스스로 한 번 의심하며 시작하는 태도로 바뀔 겁니다."

경제협력개발기구(OECD)도 2029년, 15세 청소년을 대상으로 미디어·AI 문해력 평가를 발표할 예정입니다. 다음 세대가 정보를 '읽고 의심하는 힘'을 갖추도록 돕겠다는 거죠.

조금 무겁게 느껴질 수 있지만, 저는 이렇게 생각해요. 모든 걸 의심하며 지치기보다, 믿을 만한 출처를 곁에 두고 천천히 확인하는 습관을 들이는 게 우리 각자가 할 수 있는 가장 현실적인 방어라고요. 자극적인 영상 하나에 곧바로 분노하기 전에, 잠깐 숨을 고르고 "이거, 어디서 왔지?" 하고 물어보는 것. 그 작은 멈칫함이 우리를 지켜줄지도 모릅니다.

여러분은 온라인에서 가짜 정보에 속을 뻔한 경험, 있으신가요? 진짜와 가짜를 가려내기 위해 나름대로 쓰는 방법이 있다면, 댓글로 함께 나눠주세요. 서로의 지혜가 이 혼란스러운 시대에 작은 등불이 되어줄 테니까요.

---

📎 출처: 원문 보기