‘ㅈㄱㅁㄴ’ 콕 집어냈다…AI 도입 6개월, 성착취물 삭제 10배 껑충
koko
ㅈㄱㅁㄴ.
지난해 12월 한국여성인권진흥원 중앙디지털성범죄피해자지원센터(이하 중앙디성센터)가 구축한 ‘아동·청소년 온라인 성착취 탐지·신고 시스템’에 한글 초성 4글자가 걸렸다. 인공지능(AI) 시스템을 도입한 이 누리집은 초성 네 글자가 포함된 게시물을 성착취 유인정보로 분류했다. ‘조건만남’의 초성이기 때문이다. 이어 관련 게시물이 아동·청소년을 대상으로 하는지, 여러 곳에 반복 게시된 글인지 등을 분석했다. 이런 과정을 거친 게시물은 중앙디성센터 삭제기술팀 담당자에게로 보내졌고, 담당자는 인공지능(AI) 분석 내용을 재검토해 신고 여부를 최종 결정했다.
10일 중앙디성센터는 인공지능(AI) 기반 아동·청소년 온라인 성착취물 탐지·신고 시스템의 운영성과를 공개했다. 이날 설명회 내용을 보면, 아동·청소년 온라인 성착취 탐지 신고 시스템에 인공지능(AI)을 도입한 뒤 종사자 1명이 하루에 평균 처리하는 삭제 요청 건수가 20.8건에서 202.1건으로 9.7배 늘었다. 중앙디성센터가 지난해 한 해 삭제지원한 4만5438건과 비교하면 AI 시스템 도입 뒤인 지난 4월∼9월 삭제 지원 건수는 만6210건으로 2배 이상 늘었다. 앞서 중앙디성센터가 구축해온 성착취물 키워드와 탐지·신고 매뉴얼, 게시글과 사진 등 4만 건을 학습시킨 결과다.
중앙디성센터는 내년까지 인공지능(AI) 탐지 대상 플랫폼을 확대하고, 대화의 흐름과 맥락까지 분석하는 기술을 개발할 계획이다. 현재 키워드와 이미지 중심의 탐지 방식에서 한걸음 더 나아가 온라인 그루밍과 같은 성착취 유인 행위까지 찾아낸다는 구상이다.
댓글목록
댓글
disp81 작성일
조건....인듯?
댓글
파이리 작성일
일잘하네
댓글
코아코 작성일
긍정적인 활용법
댓글
ㅇ제천대성ㅇ 작성일
ㅈㄱㅁㄴ이 뮈지??
댓글
빙글빙글 작성일
ㅋ 좋네