개러지밴드강좌 ‘딥페이크 범죄’ AI로 잡아낸다…행안부·국과수, 분석모델 개발 > 갤러리

개러지밴드강좌 ‘딥페이크 범죄’ AI로 잡아낸다…행안부·국과수, 분석모델 개발

페이지 정보

작성자 행복한 댓글 0건 조회 4회 작성일 25-08-03 06:01

본문

개러지밴드강좌 #1. 제21대 대통령 선거 기간 중 특정 후보가 하지 않은 발언을 마치 실제 한 것처럼 조작된 영상이 온라인에 유포됐다. 국립과학수사연구원은 ‘AI 딥페이크 분석모델’을 통해 인물 음성의 미세한 비일치성을 즉각 탐지해 ‘딥페이크’라는 명확한 감정 결과를 신속히 수사기관에 제공했고, 이를 통해 유권자에게 큰 혼란을 줄 수 있는 상황을 조기에 차단했다.
#2. SNS에서 확보한 지인의 얼굴을 나체 이미지에 합성해 온라인 메신저에 유포한 사건이 발생했다. 국과수는 해당 유포물에 대해 정밀 분석한 후 합성된 얼굴의 경계면에서 나타나는 왜곡을 포착해 ‘딥페이크’임을 규명했다. 감정 결과는 허위 영상의 신속한 차단과 수사 착수를 위한 결정적 과학 증거로 활용됐다.
행정안전부와 국과수가 공동 개발한 AI 딥페이크 분석모델을 통해 딥페이크를 규명한 사례들이다. 딥페이크는 AI 기술을 이용해 사진이나 영상에 다른 이미지를 중첩·결합해 실제와 매우 흡사한 가짜 이미지나 영상을 만드는 기술을 말한다.
딥페이크 기술을 악용한 이미지와 영상 등이 온라인에 유포되면서 사회적 문제가 되고 있다. 방송통신심의위원회에 따르면 딥페이크 성범죄 영상물 시정 요구는 2022년 3574건, 2023년 7187건, 지난해 2만3107건 등으로 크게 늘었다.
행안부는 수사기관의 관련 증거물 분석 등 효과적인 대응을 위해 딥페이크 의심 이미지·영상·음성의 진위를 판별하는 분석 모델을 개발해 지난 4월 검증을 마쳤다.
모델 개발 과정에서 공개 데이터 세트와 자체 제작 콘텐츠 등 딥페이크 데이터 약 231만건을 활용했다. 분석 모델은 딥페이크 흔적을 자동으로 탐지하고, 변조 의심 파일의 합성 확률과 시간별 변조율을 예측해 딥페이크 여부를 신속히 판단한다. 특히 이 모델은 눈·코·입 등 신체 부위별 탐지 능력과 데이터가 일부 손실된 증거물에 대해서도 뛰어난 분석 능력을 갖췄다고 행안부는 설명했다.
모델은 경찰청 등 수사기관의 의뢰를 받아 지난 5∼6월 21대 대통령 후보 관련 선거범죄 13건, 디지털 성범죄 2건 등 총 딥페이크 관련 범죄 15건에 대한 감정을 수행했고, 그 결과 딥페이크 감정을 성공적으로 수행했다고 행안부는 설명했다.
행안부는 이 분석 모델을 여성가족부, 방송통신위원회 등에도 단계적으로 제공해 각 기관의 딥페이크 콘텐츠 탐지 및 대응 역량 강화를 지원할 예정이다.
이봉우 국립과학수사연구원장은 “빠르게 변화하는 첨단 기술 환경에 선제적으로 대응해 국민이 신뢰할 수 있는 과학 수사체계를 구축하겠다”고 말했다.
이용석 행안부 디지털 정부혁신실장은 “앞으로도 행안부는 AI와 데이터분석을 국민의 안전과 민생 안정을 위한 행정 분야에 적극적으로 도입해 나갈 것”이라고 강조했다.
폭염이 이어지면서 전남 지역 바다 수온도 크게 올라가면서 어민들이 양식 중인 어류를 바다에 긴급방류하고 있다. 물고기들이 양식장에 갇혀 떼죽임당하는 것을 막기 위해 미리 풀어주는 것이다.
전남도는 “지난 29일까지 여수 지역 6개 어가 양식장에서 기르고 있는 조피볼락(우럭) 42만 마리를 긴급방류했다”고 30일 밝혔다. 여수지역 해역에는 조피볼락을 기르는 양식장이 모여있다.
국립수산과학원은 전국적인 폭염의 영향으로 수온이 빠르게 상승하자 전남 여자만과 득량만, 도암만, 함평만에 고수온 경보를 발령했다.
함평만 수온은 30.8도를 기록했고 여자만은 29.6도, 여수 군내 인근 해역은 27.9도를 기록했다. 전남의 다른 해역에도 고수온 주의보가 내려져 있다.
전남도는 연안 수온이 오르기 시작하자 지난 23일 양식중이던 조피볼락 10만 마리를 처음으로 방류했다. 방류 전에는 전염병 감사 등도 실시한다. 긴급방류를 한 양식장에는 5000만원 이내의 재난지원금이 지급된다.
도는 긴급방류를 신청한 여수와 고흥, 신안 등 22개 어가 양식장에서 기르고 있는 조피볼락 157만 마리를 순차적으로 인근 해역에 방류할 예정이다.
조피볼락은 고수온에 약한 대표적인 어종이다. 조피볼락은 수온 15∼18도 사이에서 잘 자란다. 수온이 23도 이상 올라가면 먹이 섭취가 극지 저하되며 25도 이상이면 생리기능이 현저히 떨어진다.
높은 수온은 어류에게 극도의 스트레스를 줘 면역력도 감소시킨다. 양식장 어류를 미리 풀어줘 불볕더위로 인한 떼죽음을 막고 인근 해역의 어족 자원도 늘릴 수 있다는 게 전남도의 설명이다.
전남도 관계자는 “폭염으로 인한 고수온이 나타나고 있는 만큼 취약 어종은 조기 출하하고 양식장 먹이 공급 중단. 액화 산소공급 등 현장 지도를 강화하고 있다”고 밝혔다.
‘환차익으로 매월 5% 수익을 보장하겠다’며 2400여명에게 투자금 1400억원을 받아 가로챈 일당이 경찰에 붙잡혔다.
경기남부경찰청 반부패·경제범죄수사대는 사기, 유사수신, 방문판매법 위반 혐의로 사설 외환 증거금 거래(FX) 업체 총책 60대 A씨와 관리책 60대 B씨를 구속해 검찰에 송치했다고 29일 밝혔다. 이 업체 조직원 26명에 대해서는 방문판매법 위반 혐의로 불구속 입건했다.
A씨 등은 2021년 9월부터 지난해 6월까지 “FX 상품에 투자하면 매월 5%의 수익을 낼 수 있다”며 투자자를 모집했다. 이후 2400여명으로부터 투자금 1400억원을 받아 챙긴 혐의를 받는다.
FX 마진거래란 투자금을 증거금으로 입금한 뒤 외화 환율의 등락을 예측하고, 이에 따른 차익을 통해 수익을 실현하는 금융거래 상품의 일종이다. 국내에서는 금융투자업 인가를 받은 제도권 증권사만이 판매할 수 있어 사설 FX 마진거래 업체는 모두 불법이다.
경찰에 따르면 A씨는 외형적으로 번듯한 모양새를 갖추기 위해 싱가포르에 FX 마진거래 투자상품 판매 법인을, 말레이시아에는 이 거래를 위해 필요한 선물사 법인을 각각 설립했다. B씨는 투자자를 모집하고 관리하는 국내 법인을 세워 전국에 7개 지사를 두고 운영하면서, 투자 상품을 홍보하고 신규 투자자를 모았다. 나머지 일당은 각 지역 지사장, 상위 직급자 등의 역할을 맡아 투자 강의를 하는 등 조직적인 범행을 지속했다.
이들 범행은 수익금 지급 여력이 떨어진 지난해 6월 피해자가 발생해 경찰에 고소장이 접수되면서 알려지게 됐다.
10여년 전부터 FX 마진거래를 하며 수익을 내온 A씨는 더 큰 돈을 벌기 위해 방문판매 업계에서 잔뼈가 굵은 B씨와 손잡고 투자자를 끌어모아 이번 사건을 저질렀던 것으로 파악됐다. 현재까지 피해자 42명(피해액 70억원)을 상대로 조사한 경찰은 향후 신고 접수가 더 늘어날 것으로 보고 있다.
니콜라 푸생의 <아르카디아의 목자>는 서양 예술사에서 ‘죽음’에 대한 성찰로 유명한 그림이다. 평화로운 평원을 배경으로 세 청년과 한 여성이 석관을 둘러싸고 있는데, 석관의 문구가 이 그림의 핵심이다. ‘아르카디아에도 나는 있다(Et in Arcadia Ego)’. 어떤 이상향이나 목가적인 세계라도 죽음을 피할 수 없다는 ‘메멘토 모리(Memento Mori, 죽음을 기억하라)’의 메시지를 던지는 것이다.
동명의 연극 <아르카디아>는 영국 시골의 대저택인 시들리파크에서 1809년과 현대를 오가며 다양한 층위의 이야기를 엮어내는 지적인 작품이다. 수학과 자연에 천재적인 통찰을 보여주는 소녀 토마시나와 가정교사 셉티머스가 학문을 탐구하는 19세기의 모습, 그리고 같은 저택에서 이들의 흔적을 추적하는 현대 연구자들을 교차시키며 삶의 진실에 다가가는 과정을 보여준다.
“육욕적인 포옹이란 게 뭐야?” 이야기는 토마시나의 질문과 그에 대한 셉티머스의 눙치는 답변으로부터 시작해 시공간을 넘나들며 정교한 퍼즐처럼 맞물려 전개된다. 19세기 시들리파크에선 셉티머스의 친구로 설정된 영국 낭만주의 시인 바이런과 저택 거주자들 사이의 소동극이 펼쳐지는 한편, 토마시나가 시대를 앞질러 카오스 이론, 열역학 제2법칙(엔트로피)과 같은 개념을 깨닫는 이야기가 그려진다. 현대의 인물들은 바이런에 얽힌 미스터리를 좇는 동시에 토마시나와 셉티머스의 흔적을 더듬으며 인간 존재 더 나아가 우주의 본질을 탐구하게 된다.
객석을 사이에 둔 무대에는 기다란 테이블과 의자만 놓여있다. 무대는 단촐하지만, 등장인물들이 쏟아내는 과학, 철학, 문학, 역사, 예술, 사랑에 대한 깊이있는 질문은 관객들을 이야기로 몰입시킨다. 병렬적으로 진행되는 이야기의 구조를 관통하는 상징은 ‘엔트로피’다. 열은 차가운 곳으로 가고, 시간은 흐르며 되돌릴 수 없다는 자연의 법칙은 삶의 불확실성에 대한 철학적 성찰로 확장된다. 극에서 암시되는 토마시나의 비극과 맞물려 애틋한 여운을 남긴다.
영국 유명 극작가 톰 스토파드가 1993년 발표한 이 작품은 묘하게 2014년 나온 영화 <인터스텔라>를 떠올리게도 한다. 영화에서 블랙홀 내부의 쿠퍼가 과거의 자신과 딸에게 신호를 보내는 장면에서 느껴지는 정서가 연극과도 겹쳐져 감상 포인트가 될 것 같다. 이중 시간대로 전개되던 이야기는 마지막에 이르러 무대 위에서 과거와 현재의 인물들이 함께 존재하게 된다. 서로를 인식하지 못한 채 각자의 삶을 살아가는 연출이 아름답다.
<아르카디아>는 “우리가 중요해지는 건, 알고 싶어 하기 때문이야”라고 과학적 탐구에서 삶의 의미를 끌어낸다. “우리는 모두 사라질 운명이라는 거지.” 시간은 결코 거스를 수 없고 모든 것은 마지막 순간에 이르게 된다. 하지만 그 시간 속에서 사랑과 삶의 흔적들은 남게 된다. 그리고 특정한 순간, 특정한 공간에 함께 할 수 있다는 것 자체가 삶의 의미가 될 수 있다. 아르코예술극장 소극장에서 8월3일까지.

댓글목록

등록된 댓글이 없습니다.

개러지밴드강좌 ‘딥페이크 범죄’ AI로 잡아낸다…행안부·국과수, 분석모델 개발 > 갤러리

인기검색어

갤러리