성평등부 , 삭제요청 자동화 등 3대 핵심 기술 도입
앞으로 디지털 성범죄 피해 영상을 인공지능(AI)이 실시간 탐지해 자동으로 삭제요청까지 하는 시스템이 도입된다.
성평등가족부는 1일 디지털 성범죄 피해자 보호를 위해 삭제요청 자동화,AI 기반 아동·청소년 성착취 대응,딥페이크 탐지 등 3대 핵심 기술을 도입했다고 밝혔다.
이번 시스템 도입으로 기존 수동적이고 사후적인 피해자 보호의 한계를 보완해 디지털 성범죄 대응체계를 자동화·지능화하여 대응 속도와 정확도를 대폭 높였다. 우선 피해영상물 삭제요청을 자동화해 약 2만 개의 사이트에 대한 삭제요청부터 처리 이력 관리까지 전 과정을 자동화하고, 건당 처리 시간을 1분 이내로 단축된다.
이를 통해 중앙디지털성범죄피해자지원센터의 삭제지원시스템을 미국 국립실종학대아동방지센터(NCMEC), 글로벌 콘텐츠 전송 네트워크(CDN) 사업자 클라우드플레어와 연계해 우회 접속 인터넷주소(URL)에 대한 대량 자동 삭제요청도 가능해졌다.
아울러 구글 콘텐츠 삭제 양식과 전기통신사업법 신고 양식도 자동 작성·발송하도록 개선했으며, 신고 종사자가 정신적으로 소진되지 않도록 예방하기 위해 NCMEC 사례를 참고한 촬영물 필터(회색조 처리) 기능도 도입했다.
또 아동·청소년 성착취 대응 시스템도 구축됐다. 이 시스템은 SNS와 랜덤채팅 앱 등에서 아동·청소년 성착취물과 유인 정보를 24시간 자동 수집·분석해 신고와 삭제요청까지 수행한다. 특히 국내 최초로 랜덤채팅 앱 데이터 자동 수집 기술을 적용해 기존 중앙 디성센터삭제지원시스템과 연계하여 사각지대에 있던 성인사이트에 대한 유포 현황 탐지와 자동 삭제요청이 가능해진다.
시스템 구축 이후 25일 동안 시범운영 결과 종사자 1인당 일평균 수집 건수가 아동·청소년 성착취물은 2.7배 이상, 성착취 유인정보는 80배 이상으로 대폭 증가한 것으로 나타났다
성평등부는 시스템 본격 운영을 통해 아동·청소년 성착취물은 신속하게 선제적 삭제 지원하고, 성착취 유인정보는 신고 및 전문 상담원이 개입하는 '온라인 아웃리치'를 병행해 통합지원을 강화할 예정이다.
아울러 AI 기반 딥페이크 탐지 솔루션을 도입해 육안으로 판별이 어려웠던 합성물을 정확히 식별할 수 있게 되어 온라인 모니터링 중 합성·편집물로 의심되는 영상물 발견시 딥페이크 탐지 솔루션으로 피해자가 인지하지 못한 합성물도 찾아내 추가 유포를 사전 차단할 수 있게 됐다.
원민경 성평등부 장관은 "기술 발전에 따라 진화하는 디지털 성범죄에 맞서 더 강력하고 신속한 대응이 필요한 시점"이라며 "AI 기술을 현장에 도입해 대응 속도와 정확도를 높이고 촘촘한 지원체계를 구축해 피해자의 신속한 일상 회복을 위해 앞장설 것"이라고 말했다.
성평등가족부는 1일 디지털 성범죄 피해자 보호를 위해 삭제요청 자동화,AI 기반 아동·청소년 성착취 대응,딥페이크 탐지 등 3대 핵심 기술을 도입했다고 밝혔다.
이번 시스템 도입으로 기존 수동적이고 사후적인 피해자 보호의 한계를 보완해 디지털 성범죄 대응체계를 자동화·지능화하여 대응 속도와 정확도를 대폭 높였다. 우선 피해영상물 삭제요청을 자동화해 약 2만 개의 사이트에 대한 삭제요청부터 처리 이력 관리까지 전 과정을 자동화하고, 건당 처리 시간을 1분 이내로 단축된다.
|
아울러 구글 콘텐츠 삭제 양식과 전기통신사업법 신고 양식도 자동 작성·발송하도록 개선했으며, 신고 종사자가 정신적으로 소진되지 않도록 예방하기 위해 NCMEC 사례를 참고한 촬영물 필터(회색조 처리) 기능도 도입했다.
또 아동·청소년 성착취 대응 시스템도 구축됐다. 이 시스템은 SNS와 랜덤채팅 앱 등에서 아동·청소년 성착취물과 유인 정보를 24시간 자동 수집·분석해 신고와 삭제요청까지 수행한다. 특히 국내 최초로 랜덤채팅 앱 데이터 자동 수집 기술을 적용해 기존 중앙 디성센터삭제지원시스템과 연계하여 사각지대에 있던 성인사이트에 대한 유포 현황 탐지와 자동 삭제요청이 가능해진다.
시스템 구축 이후 25일 동안 시범운영 결과 종사자 1인당 일평균 수집 건수가 아동·청소년 성착취물은 2.7배 이상, 성착취 유인정보는 80배 이상으로 대폭 증가한 것으로 나타났다
|
아울러 AI 기반 딥페이크 탐지 솔루션을 도입해 육안으로 판별이 어려웠던 합성물을 정확히 식별할 수 있게 되어 온라인 모니터링 중 합성·편집물로 의심되는 영상물 발견시 딥페이크 탐지 솔루션으로 피해자가 인지하지 못한 합성물도 찾아내 추가 유포를 사전 차단할 수 있게 됐다.
원민경 성평등부 장관은 "기술 발전에 따라 진화하는 디지털 성범죄에 맞서 더 강력하고 신속한 대응이 필요한 시점"이라며 "AI 기술을 현장에 도입해 대응 속도와 정확도를 높이고 촘촘한 지원체계를 구축해 피해자의 신속한 일상 회복을 위해 앞장설 것"이라고 말했다.
