대중화한 AI, 손쉽게 만들어지는 가짜뉴스·딥페이크…총력전 벌이는 선관위 [②AI와 6·3지방선거] > 갤러리

대중화한 AI, 손쉽게 만들어지는 가짜뉴스·딥페이크…총력전 벌이는 선관위 [②AI와 6·3지방선거]

페이지 정보

작성자 행복한 댓글 0건 조회 0회 작성일 26-05-28 22:32

본문

지난 3월 울산 지역 구청장 선거를 준비 중이던 더불어민주당 소속 A씨는 자신의 페이스북에 뉴스 형식의 영상을 올렸다. 여성 뉴스 앵커는 영상에서 “미국 시사주간지 타임이 올해 2026년 울산 남구 발전을 이끌 인물로 A씨를 선정했습니다. 표지에는 세계를 주목시킨 리더라는 제목과 함께”라고 말한다. 화면에는 사람들의 환호하는 모습과 A씨 모습이 등장한다.
실제 뉴스처럼 보이는 이 영상은 인공지능(AI)으로 만든 영상이다. 실제로는 타임이 A씨를 남구 발전을 이끌 인물로 선정한 적도, 이 같은 사실이 뉴스에 보도된 적도 없다. 중앙선거관리위원회는 A씨를 500만원 과태료를 부과하고 경찰에 고발했다. 경찰은 이 사건을 수사 중이다.
지난 13일 조국 조국혁신당 경기 평택을 국회의원 재선거 후보가 평택시장에서 양손에 장바구니를 들고 걸어가는 모습의 사진도 논란이 됐다. SNS에선 조 후보의 왼쪽 손이 부자연스럽다며 가짜 사진으로 홍보한다며 비판하는 게시글이 등장했다. 혁신당은 공지를 내고 “조 후보가 전통시장에서 장바구니를 든 모습으로 제작된 AI 생성 이미지는 후보 캠프가 제작·배포한 것이 아니다”라고 밝혔다.
이 사진은 누군가가 조 후보가 실제 봉사활동을 하는 영상을 캡처해 AI로 재가공한 사진이었다. 선관위 관계자는 “게시된 사진들은 유튜브, 페이스북 등 플랫폼에 삭제 요청했다”며 “추가로 올라오는 게시물도 계속 삭제 요청하고 있다”고 말했다.
6·3 지방선거는 생성형 AI가 대중화하고 치러지는 첫 번째 선거다. 25일 선관위에 따르면 이번 선거를 앞두고 선관위가 딥페이크(불법합성물)를 활용한 가짜뉴스 삭제요청을 한 사례는 지난 21일 기준으로 9268건이다. 고발은 2건, 수사의뢰는 1건, 경고는 36건이다. 2024년 22대 총선 당시 적발 건수(389건)보다 압도적으로 늘었다. 누구나 AI를 활용해 손쉽게 영상과 사진을 조작해 가짜뉴스를 만들 수 있는 시대가 도래한 결과로 해석된다.
선관위는 이번 선거에서 AI를 활용한 가짜뉴스와의 전쟁을 선포했다. 440여명 규모 특별대응팀을 구성해 모니터링 등을 통해 딥페이크 영상 단속에 집중하고 있다. 선관위는 국립과학수사연구원 및 한국전자기술연구원과 함께 딥페이크 식별 프로그램 ‘아이기스’를 공동 개발했다. 아이기스를 통해 가짜 영상을 확인해 경미하면 삭제 요청을 하고, 중대 선거범죄일 경우 고발 등 무관용 원칙을 적용한다. 선관위 관계자는 “AI 기술을 활용한 가짜뉴스는 짧은 시간 내에 빠르게 확산될 수 있어 파급력이 매우 크다”며 “신속히 삭제해 조기에 차단하는 것이 무엇보다 중요하다”고 말했다.
2022년 20대 대선 때 당시 국민의힘 대표였던 이준석 개혁신당 대표는 AI로 윤석열 전 대통령을 본뜬 가상의 인플루어서인 이른바 ‘AI 윤석열’을 만들었다. 어떤 질문에도 척척 대답을 내놓는 AI 윤석열은 화제가 됐지만 선거에서 AI 기술 규제 필요성이 대두됐다. 이후 같은 해 6월 지방선거에서 일부 국민의힘 후보들이 AI로 윤 전 대통령이 자신을 지지한다는 가짜 영상을 만들면서 논란이 됐다. 당시 처벌 조항이 없어 논란이 커졌고 2023년 12월 공직선거법 제82조8 신설로 이어졌다.
공직선거법 제82조의8은 선거일 전 90일부터 실제와 구분하기 어려운 AI를 활용한 음향·이미지·영상의 제작·편집·유포를 금지한다. 선거운동을 위해 AI 영상 등을 만드는 것은 물론 퍼뜨리거나 SNS에 게시하는 행위 역시 모두 안 된다는 뜻이다. 어길 시 7년 이하의 징역 또는 1000만원 이상 5000만원 이하 벌금에 처한다. 선거일 90일 이전엔 허용되지만, AI로 만든 정보라는 점을 명확히 표시해야 한다.
AI를 활용해 가상의 만화 캐릭터 등을 만들어서 공약 등을 설명할 수는 있다. AI를 통해 선거 전략을 수립하거나 공약을 만들기 위한 분석 틀 등으로도 활용할 수 있다. 실제 후보로 헷갈릴 수 있는 선거운동 사진·영상을 AI로 만들어선 안 되고 음성·음악에 AI를 활용해선 안 된다는 의미다. AI 기술은 더 발전했지만 역반응으로 규제는 더 강력해진 셈이다.
일각에선 원천적으로 선거운동에 AI 활용을 금지한 것은 과도하다는 목소리가 나온다. 안철수 국민의힘 의원은 지난 19일 페이스북에 “시대 변화를 제대로 담아내지 못한 낡은 규제가 미래 기술의 활용을 막고 있다”며 “악의적 딥페이크는 단호히 막되, AI 기술 혁신과 표현의 자유 역시 함께 보장되는 방향으로 제도 개선이 이뤄져야 한다”고 적었다. 지방선거에 출마한 개혁신당 한 후보는 통화에서 “로고송은 가짜뉴스가 될 가능성도 적은 데 AI를 활용할 수 없다”며 “돈이 없는 후보 입장에선 아쉬운 지점”이라고 말했다.
반면 AI로 만든 가짜영상이 선거 승패에 영향을 주기 때문에 촘촘한 규제가 필요하다는 의견도 강하다. 김민석 국무총리는 지난 20일 AI 가짜뉴스에 대한 무관용 원칙을 강조하며 “AI를 악용한 딥페이크 등 선거범죄는 국민의 합리적 판단을 흐리게 한다”고 했다. 선관위 관계자는 “정치적 표현의 자유 보장, AI 선거운동의 장점 등을 종합적으로 고려해 규제를 현실화하는 제도 개선이 필요하다”고 말했다.
최휘영 문화체육관광부 장관이 미국 대중음악 시상식 ‘아메리칸 뮤직 어워즈’(American Music Awards·이하 AMA)에서 주요 부문을 수상한 K팝 아티스트들에게 축하와 격려의 뜻을 전했다.
문체부는 최 장관이 전날 열린 ‘제52회 AMA’에서 다수의 트로피를 차지한 그룹 방탄소년단(BTS), 캣츠아이, 헌트릭스(이재, 오드리 누나, 레이 아미) 등에 축전을 전달했다고 27일 밝혔다.
최 장관은 “이번 성과는 전 세계 음악계에 방탄소년단의 완전한 복귀를 알리고 대체 불가능한 존재감을 다시 한번 각인시켰다는 점에서 의미가 크다”며 “이번 시상식에서 최고 영예인 ‘올해의 아티스트(Artist of theYear)’ 등 3개 부문을 수상한 것은 대중음악사에 뜻깊은 발자취로 남을 것”이라고 축하했다.
올해 AMA에서는 방탄소년단과 캣츠아이, 헌트릭스, 트와이스 등 케이팝 총 4개 팀이 11개 부문에서 상을 받았다. 방탄소년단은 ‘올해의 아티스트’를 포함해 3개 부문에서, 캣츠아이는 ‘올해의 신인(New Artist of the Year)’을 포함해 3개 부문에서, 헌트릭스와 <케이팝 데몬 헌터스>는 ‘올해의 노래(Song of the Year)’를 포함해 4개 부문에서 수상의 영예를 안았다.
최 장관은 “이제 K팝은 일시적인 유행을 넘어 전 세계 음악 산업의 패러다임을 이끄는 주류 문화이자 희망과 연대의 상징으로 확고히 자리매김했다”라며 “K팝의 눈부신 성과가 지속될 수 있도록 대중음악의 저변을 넓히고 산업 생태계를 더욱 건강하게 만들겠다”라고 밝혔다.
AMA는 1974년부터 시작된 미국의 대중 음악계의 주요 시상식 중 하나다. 방탄소년단은 해당 시상식에서 2021년 아시아 가수 최초로 ‘올해의 아티스트’로 선정된 뒤 완전체로 복귀해 2026년 다시 ‘올해의 아티스트’로 선정됐다.

이전글유튜브 조회수 구매 혁신당 “정치 혁신 쇄빙선”, 개혁신당 “사표가 아니라 종자”…사전투표 독려 메시지 26.05.28
다음글서울탐정사무소 이혼전문변호사 26.05.28

댓글목록

등록된 댓글이 없습니다.

대중화한 AI, 손쉽게 만들어지는 가짜뉴스·딥페이크…총력전 벌이는 선관위 [②AI와 6·3지방선거] > 갤러리

인기검색어

갤러리