[기획③] 언론도 놓친 AI 영상, 시민의 ‘9가지 확인’…“확신 없으면 공유 말라”
[편집자주] 생성형 AI의 확산으로 사실과 허구의 경계가 무너지며 디지털 공론장의 ‘신뢰’가 흔들리고 있습니다. 본지는 한국언론진흥재단의 지원을 받아 기획 시리즈 
러시아 캄차카 폭설 당시 유튜브 쇼츠에 올라온 영상. 눈이 아파트 옥상까지 쌓여 사람들이 썰매를 타고 내려오는 장면에 'AI가 아니다'라는 자막이 달렸지만, 댓글에서는 시청자들이 잇따라 AI 영상이라고 지적했다. 한 이용자는 "형제가 그 지역에 사는데 2~3층까지 눈이 쌓인 곳은 없다"고 썼고, 다른 이용자는 "이 지역을 찍은 진짜 영상도 많고 눈이 엄청 온 것도 맞지만 이 영상들은 AI"라고 썼다. "AI인데 AI가 아니라고 하다니 뻔뻔하다"는 댓글도 달렸다. 사진=유튜브 캡처
인공지능(이하 AI)이 만든 가짜 재난 영상에 국내 언론이 연이어 속았다. 올해 1월 러시아 캄차카반도 폭설 때는 10층 아파트를 덮은 설벽 영상을 실제 장면처럼 보도했고, 8월 네팔 홍수 때는 AI로 생성된 것으로 판정된 전후 비교 사진을 뉴스에 썼다. 두 건 모두 팩트 체크로 거짓 판정을 받았고 해당 언론사들은 영상을 삭제하거나 정정했다.
지난 1월 캄차카반도에는 일부 지역 적설량이 2m를 넘기는 폭설이 내렸고, 캄차카 최대 도시 페트로파블롭스크-캄차츠키에도 비상사태가 선포됐다. 며칠 뒤 국내 언론은 10층 넘는 아파트 꼭대기까지 눈이 차올라 아이들이 그 위에서 썰매를 타는 영상을 내보냈다. 화면에는 “영화 아님, AI 아님”이라는 자막까지 붙었다.
하지만 오마이뉴스 팩트 체크 코너 ‘오마이팩트’가 영상들을 검증한 결과 이 모두는 거짓으로 확인됐다. 10층 건물을 눈으로 덮으려면 적설량이 최소 20~30m는 돼야 하는데 현지 보도상 최대 적설량은 2.4m에 그쳤고, 구글 지도로 확인한 이 도시의 건물 최대 높이는 4~5층이었다. 카자흐스탄과 조지아, 폴란드의 매체들도 국내 보도가 나가던 시점에 이미 같은 결론을 내놓고 있었다.
같은 일은 반년 뒤 되풀이됐다. 8월 26일 네팔 북부에서 대형 홍수가 발생한 뒤 홍수 전후를 비교하는 사진 한 장이 소셜 미디어에 퍼져 국내 언론 보도에도 활용됐다. 그러나 오마이팩트가 오픈AI의 생성 콘텐츠 확인 도구로 이 사진을 검증한 결과 AI 워터마크가 검출됐고, 이를 보도했던 언론사 중 한 곳은 해당 영상을 삭제한 뒤 사과 방송을 냈다.
지난 기획 기사 1편이 사람들이 왜 AI 허위 정보에 속는지를, 2편이 AI가 왜 틀린 답을 그럴듯하게 내놓는지를 짚었다면 이어지는 질문은 이를 어떻게 확인하냐다. 전문가들이 시민에게 권하는 확인법을 정리했다.
◆놀라움이 먼저 왔다면…감정은 의도의 단서
재난 영상은 놀라움과 공포, 연민 같은 감정을 먼저 건드린다. 캄차카 영상을 본 사람들도 그 장면이 물리적으로 가능한지 따져 보기보다 압도적 설경에 먼저 시선을 빼앗겼다.
아큐웨더는 이 영상들이 물리 법칙을 무시했다고 지적했다. 눈이 많이 오는 곳에서 살아 본 사람이라면 눈더미가 깊을수록 발이 빠진다는 것을 안다는 것이다. 전문 장비가 아니라 생활 경험이 가짜를 걸러낸 셈이다.
‘속이는 미디어, 분별하는 사고력’(인물과사상사 刊)을 쓴 오승용 강사는 “공포나 불안, 놀라움처럼 생존과 관련된 감정은 주의를 집중시키고 빠른 반응을 이끌어 낸다”며 “특정 감정을 강하게 느꼈을 때는 바로 반응하기보다 그 감정이 왜 생겼는지 스스로 물으며 제작 의도를 파악하는 습관이 필요하다”고 말했다.
이어 “2025년 옥스퍼드 올해의 단어가 ‘분노 미끼(Rage Bait)’였던 것도 감정이 콘텐츠의 소비와 확산에 중요한 요소로 작용한다는 점을 보여 준다”고 덧붙였다.
영국 의회가 시민에게 권하는 허위 정보 확인법에도 같은 항목이 들어 있다. 기사를 읽고 과도한 분노를 느꼈다면 의심해 볼 필요가 있다는 것이다.
감정이 흔들렸다면 그다음은 누가 왜 만들었는지를 묻는 단계다. 오 강사는 책에서 그가 만든 자기소개 영상을 예로 든다. 유명한 해변에서 찍었지만 사람이 한 명도 나오지 않는데, 편집으로 지웠기 때문이다. 화면에 무엇을 담았는지만큼 무엇을 제외했는지도 제작자의 의도를 드러낸다는 설명이다.
파이낸셜투데이가 정리한 AI 시대 정보 검증 9대 수칙. 기획 단계에서 정한 7대 팩트 체크를 감정 자극 의심부터 교차 검증까지 순서대로 재배열하고, 누가 왜 만들었는지 묻는 것과 확인할 수 없다면 공유하지 않는 것 두 가지를 더했다. 그래픽=김영재 기자
◆경찰 공개 사진도 AI였다…출처만으로는 부족한 이유
허위 정보 연구단체 퍼스트드래프트는 정보 혼란을 풍자부터 완전 날조까지 일곱 가지 유형으로 분류했다. 유형이 다른 만큼 검증법도 달라지는데, AI로 생성된 이미지는 워터마크 등 생성 흔적을 확인할 수 있지만 실제 사진을 다른 사건의 사진처럼 유통하는 잘못된 맥락은 이미지 자체가 진짜여서 생성 여부만으로는 가려낼 수 없다. 허위 정보를 판별하기 위해 여러 확인법을 함께 써야 하는 이유다.
본지는 기획 단계에서 정리한 ‘디지털 시민’이 되기 위한 일상속 실천 방안 7대 수칙을 재배열하고 둘을 더해 아홉 가지로 정리했다.
①감정을 건드리면 멈춘다.
②누가 올렸는지 본다.
③언제 것인지 본다.
④AI가 만들었는지 확인한다.
⑤원본을 찾는다.
⑥이미지를 되짚는다.
⑦다른 출처와 맞춰 본다.
⑧누가 왜 만들었는지 묻는다.
⑨확인할 수 없으면 공유하지 않는다.
이 가운데 ②③④는 따로 검색하지 않고도 30초면 확인할 수 있다. 출처는 계정과 도메인부터 본다. 유럽연합 집행위원회는 합법적 웹사이트를 복제해 거짓을 퍼뜨리는 이른바 ‘도플갱어’ 수법을 경고한다.
다만 출처가 공공기관이라고 해서 안심할 수는 없다. ‘AI 시대의 미디어 리터러시’(내하출판사 刊)를 펴낸 홍숙영 한세대학교 미디어영상광고학과 교수는 태국의 사례를 들었다. 경찰 관계자가 마약상 검거 사진을 AI로 변형해 경찰들이 여성 복장을 한 것처럼 만들어 공개했고, 텔레그래프와 더선, 뉴욕포스트 등 해외 언론이 이를 실제 사진으로 오인해 여장 잠입 수사를 벌였다고 보도했다는 것이다.
홍 교수는 “언론이 공공기관에서 제공한 이미지라 하더라도 진위를 철저하게 검증하지 않으면 허위 정보로 확산할 수 있음을 보여 준다”고 말했다.
날짜 확인은 옛날 사건이 현재 일처럼 유통되는 것을 막는 장치다. 미국 펜실베이니아대학교 팩트체크닷오르그가 시민에게 권하는 여덟 가지 확인법 중 하나도 게시 날짜 확인이다. 실제로 네팔 홍수 때는 과거 다른 홍수 사진이 이번 것처럼 섞여 돌았다.
AI 생성 여부는 도구로 확인할 수 있다. 오픈AI가 공개한 생성 콘텐츠 확인 도구에 이미지를 올리면 자사 도구로 만든 것인지 워터마크로 알려주고, 팬그램 같은 AI 이미지 탐지 서비스도 있다. 제작 과정과 출처를 파일에 기록하는 C2PA 표준도 확산되고 있다.
홍 교수는 다만 “생성 모델과 탐지 모델이 계속 업그레이드되므로 ‘AI 생성 확률이 낮다’는 결과가 사진의 사실성을 보증하지는 않는다”고 강조했다.
도구 없이도 살펴볼 단서도 있다. 홍 교수는 그림자와 빛의 방향, 반사면, 반복되는 배경 패턴, 건물이나 사물의 연결 관계가 자연스러운지 살피라고 권했다. 캄차카 영상을 검증한 카자흐스탄 매체도 AI 영상 속 눈더미가 9층 높이까지 쌓인 데다 표면이 비정상적으로 매끄러웠다고 짚었다. 실제 현장 사진에서는 눈이 1층을 파묻은 정도였다.
⑤⑥⑦은 검색을 거쳐야 하는 단계다.
원본 찾기는 [기획②] 알면서도 34% 틀린다…생성형 AI ‘아첨성 답변’의 함정에서 다룬 근거 확인과는 다른 문제다. 2편은 AI가 내놓은 답의 근거를 확인하라고 했지만, 여기서는 남이 만들어 보낸 콘텐츠가 원래 어떤 모습이었는지를 찾는다. 캄차카의 실제 현장 사진에는 1층이 파묻힌 집과 눈을 치우는 구조대원이 있었을 뿐 10층 설벽은 없었다.
이미지는 구글 렌즈 같은 역이미지 검색으로 출처를 되짚어 볼 수 있다. 같은 사진이 과거 다른 사건이나 장소에서 쓰인 적이 있는지 찾는 방식이다. 구글 지도의 스트리트뷰로 그 장소의 실제 모습을 대조하는 것도 같은 원리다. 다만 홍 교수는 처음부터 AI가 만든 이미지라면 원본 자체가 없어 역이미지 검색만으로는 확인이 어렵다고 짚었다.
마지막으로 다른 출처의 보도나 팩트 체크 결과와 맞춰 본다. 캄차카 영상이 국내에서 사실처럼 보도되던 시점에 해외 매체는 이를 가짜라고 판정해 놓고 있었다. 검색 한 번이면 확인할 수 있는 내용이었다.
교차 검증은 AI가 내놓은 답에도 그대로 적용된다. 다른 AI에도 같은 질문을 던져 답을 서로 비교하는 것이다. ‘생성형 AI와 미디어 리터러시’(커뮤니케이션북스 刊)의 저자인 박선미 동의대학교 미디어커뮤니케이션학과 외래교수는 “개발 국가나 학습 데이터 세트가 서로 다른 여러 인공지능 모델에 동일한 질문을 던져 공통점과 차이점을 스스로 대조해야 한다”며 “이를 일상화하면 특정 기업이나 국가의 편향에서 비롯된 왜곡을 걸러내는 역량도 높아질 것”이라고 말했다.
네팔 홍수 피해 전후를 비교한 사진을 구글 렌즈로 역검색한 결과. 8월 말 소셜 미디어에 퍼진 이 사진은 국내 언론 보도에도 사용됐다. 검색 결과 화면 상단의 'AI 개요'는 이 사진이 네팔 대홍수 전후의 극적인 대비를 보여 주는 마을 모습으로 공유됐으나 AI로 생성된 허위 이미지로 확인됐다고 알린다. 그 아래에는 팩트 체크 기관과 AI 탐지 플랫폼 분석 결과 이 사진이 실제 지형과 일치하지 않는다는 점, 실제 홍수 참사 이후 조회수를 노린 AI 조작 콘텐츠가 확산됐다는 점, 네팔 당국과 언론이 검증되지 않은 AI 재난 이미지가 유족의 고통을 가중한다며 삭제를 호소하고 있다는 점이 근거로 제시돼 있다. 사진=구글캡처
◆‘왜 만들었나’ 그리고 ‘모르면 멈춘다’…국제기관도 권고한 두 원칙
기획 단계에서 정한 일곱 가지 수칙에 두 가지를 더했다. ‘누가 왜 만들었는지 묻기’와 ‘확인할 수 없으면 공유하지 않기’다.
두 원칙 모두 국제기관의 권고와도 궤를 같이한다. 유럽연합 집행위의 정보 조작 대응 6가지 팁 중 두 번째가 출처의 자금과 배후를 확인하라는 것, 여섯 번째가 공유하기 전에 신중하게 평가하라는 것이고, 팩트체크닷오르그의 8가지 방안 중 마지막은 진위를 확신할 수 없을 때 전문가나 팩트 체크 기관에 문의하라는 것이다.
양승목 서울대 언론정보학과 명예교수는 ‘가짜의 바다에서 진짜를 알아보는 힘’(김영사 刊)에서 허위 정보 관련 미디어 리터러시 교육의 핵심을 허위 정보에 넘어가지 않는 것과 그것을 함부로 공유하지 않는 것, 두 가지로 정리했다. 양 교수는 이 가운데 공유하지 않는 쪽이 더 중요하다고 봤다.
양 교수는 “허위 정보를 진짜로 오인하는 것은 개인 차원의 문제지만, 그것이 공유돼 확산되면 사회 차원의 문제가 되고 만다”며 “내가 사실이라고 확신하지 못한다면 공유하지 않는 것이 좋다”고 말했다.
걸러낸 가짜는 해당 플랫폼에 허위 조작 정보로 신고할 수 있고, 처리 결과에 이의가 있으면 방송미디어통신심의위원회에 분쟁 조정을 신청할 수도 있다.
캄차카와 네팔 영상을 내보낸 국내 언론들은 팩트 체크 뒤 영상을 삭제하거나 정정했고, 한 곳은 사과 방송을 냈다. [기획 ①] 딥페이크 27배 폭증…AI 가짜 뉴스 ‘진실의 외관’ 입었다에서 유승철 이화여대 커뮤니케이션·미디어학부 교수가 오류를 숨기기보다 빠르고 투명하게 수정하는 것이 신뢰를 지키는 길이라고 말한 것과 맞닿은 대목이다.
◆여러 번 확인해도 결론은 ‘가능성 크다’…“확신 못하면 공유 말라”
네팔 사진을 검증한 오마이팩트는 AI 워터마크 검출, AI 탐지 서비스 판정, 역이미지 검색, 실제 현장 영상과의 대조, 홍수 전후 사진의 구조 비교까지 다섯 가지 방법을 썼다. 그러면서 다섯 방법의 한계도 함께 밝혔다. AI 탐지 서비스는 AI로 편집한 진짜 사진도 AI 이미지로 판정할 수 있고, 역검색에서 원본을 못 찾았다고 가짜라고 단정할 수는 없다는 것이다. 결론도 ‘가짜다’가 아니라 ‘AI 생성 가능성이 크다’였다.
양 교수 역시 책에서 여러 기관이 내놓은 식별 팁이 대개 비슷하다고 정리하면서, 쉬워 보이지만 결코 쉬운 일이 아니라고 덧붙였다.
통계도 같은 방향을 가리킨다. 국내 최초 팩트 체크 플랫폼이었던 SNU팩트체크는 판정 척도 여섯 단계 중 하나를 ‘판단 유보’로 뒀다. 출범 5주년인 2022년 3월까지 게시된 3720건 중 6%가 이 판정을 받았고, 두 곳 이상의 언론사가 같은 사안을 검증한 478건 가운데 43%는 판정이 서로 엇갈렸다.
시민이 알면서도 확인하지 않는 이유에 대해서는 진단이 갈렸다. 양 교수는 “많은 사람이 출처와 증거를 확인하는 일을 귀찮고 성가신 일로 생각한다”며 “감정이 판단을 앞서고, 남에게 빨리 알리고 싶은 욕구도 작용한다”고 말했다.
교육 현장의 진단은 조금 다르다. 2021년부터 5년간 강원 지역 초중고를 찾아 미디어 리터러시를 가르친 오 강사는 “학생들이 가장 어려워하는 부분은 정보를 한 번 더 확인하는 재확인 단계”라며 “알면서도 하지 않는 것보다는 검증의 필요성과 방법을 충분히 배우지 못한 경우가 더 많다”고 말했다. 몰라서 못 한다면 방법을 알리는 것이, 알면서도 안 한다면 멈출 장치를 두는 것이 과제가 되는 셈이다.
홍 교수는 시민 개인의 역할 자체에 선을 그었다. 그는 “시민에게 검증의 책임을 맡기는 것은 적절하지 않다”며 “교육 수준과 디지털 격차 등으로 인해 실현 가능성이 희박하다는 문제도 있다”고 했다. 다만 “시민이 직접 생성 이미지를 검증하기란 쉽지 않으나 AI 생성 이미지에 대한 의심을 품는 태도가 허위 정보의 양산을 막는 첫걸음이 될 수 있다”고 덧붙였다.
제도의 공백도 지적됐다. 홍 교수에 따르면 팩트체크넷 운영 재단은 해산 절차를 밟은 것으로 알려져 있고, SNU팩트체크는 2024년 8월 무기한 운영을 중단했다. 국제팩트체킹네트워크(IFCN) 인증을 받아 활동하는 국내 언론사는 고작 두 곳에 불과하다.
네 전문가에게 AI가 만든 정보가 늘어나는 시대에 시민이 지킬 원칙을 하나만 꼽아달라고 물었다. 표현은 다 달랐지만 방향은 하나였다.
박 교수는 “생성형 AI는 확률에 따라 계산할 뿐 참과 거짓을 판별하는 심판관이 아니다”며 “결과물의 신뢰도를 확정하는 책임은 인간의 영역”이라고 했다. 홍 교수는 “속도에 앞선 출처”라고 답했고, 양 교수는 “‘이게 사실일까?’ 한 번쯤 의심하고, 확신할 수 없다면 공유하지 말자”고 했다.
가짜를 잡아내라는 답은 없었다. 완벽한 판별이 전문가에게도 어려운 만큼, 시민에게 요구되는 것은 100% 적발이 아니라 공유 버튼을 누르기 전 잠시 멈추는 습관이라는 데 전문가들의 의견이 모였다.
오 강사는 매 수업 학생들에게 ‘한 번 확인해 볼게’라는 한 문장을 기억해 달라고 한다고 했다. 그는 “AI 시대의 미디어 리터러시라는 말이 어렵게 느껴진다면 ‘한 번 확인해 볼게’처럼 자신만의 쉬운 말로 원칙을 세워 보길 바란다”고 말했다.
파이낸셜투데이 김영재 기자 culture@ftoday.co.kr
저작권자 ⓒ파이낸셜투데이