아동복지위원회(CWC)는 6일 화요일 아동 학대 및 착취의 새로운 경향, 즉 인공 지능(AI)의 사용에 대해 부모와 보호자에게 경고했다. 이는 아동 자살이라는 "끔찍한" 결과를 초래하는 원인 중 하나라고 지적했다. 

CWC 전무이사 안젤로 타팔레스는 파식시에서 열린 더 안전한 인터넷의 날(Safer Internet Day) 컨퍼런스에서 "1월 31일 현재 PNP(필리핀 경찰) 여성아동보호센터로부터 받은 정보를 바탕으로 필리핀에서는 AI CSAEM(아동 성적 학대 또는 착취 자료)이나 CSAM(아동 성적 학대 자료)에 대한 보고 사례가 없습니다.”라고 말했다.

타팔레스는 AI가 생성한 20,000개 이상의 CSAEM이 포함된 다크 웹사이트를 조사한 영국의 비정부 기구의 연구를 인용하면서 이러한 AI 생성 자료가 이미 다른 국가에서 확산되고 있다고 지적했다.

그는 온라인 성적 학대 또는 아동 착취 위반자는 빈곤과 저개발에 의해 주도되는 반면, 그러한 자료의 확산자는 "매우 지능적이고 기술적인 새로운 유형의 위반자"라고 지적했다.

그는 "그들은 AI 생성 CSAEM을 만들기 위해 소프트웨어와 하드웨어를 구입할 재정이 있습니다. 이들은 아이들을 만질 배짱이 없고 아이들의 누드 사진을 찍을 배짱이 없는 사람들일 수도 있지만, 욕심 때문에 이런 자료를 만들 수 있는 기술적 지식을 갖고 있는 사람들일 수도 있다.”고 말했다.
그는 인식 제고, 책임감 있는 인터넷 사용 장려, 성인, 특히 부모와 보호자에 대한 적절한 교육은 CWC가 이 문제를 효과적으로 해결하기 위해 추진하는 조치라며 "우리는 부모, 심지어 학교 교직원, 지도 상담사, 교사, 학교 행정관에게도 책임감 있는 인터넷 시민이 되도록 가르쳐야 합니다.”라고 말했다. 그는 또한 부모들에게 자녀의 사진을 "불필요하게" 온라인에 게시하지 말라고 조언했다.

최근 IJM(International Justice Mission)이 발표한 피해 규모(Scale of Harm) 보고서에서 연구원들은 2022년에 약 50만 명의 필리핀 어린이가 라이브 스트리밍을 통해 온라인으로 인신매매된 사실을 확인했다.

연구에서는 이러한 활동이 아동의 친척이나 아는 사람에 의해 성 착취 자료를 제작하는 경우가 많다고 덧붙였다.

IJM은 이러한 위기가 어떤 경우에는 어머니들이 가해에 연루되는 복잡한 사회 구조에 내재되어 있다고 지적했다.

타팔레스는 필리핀 경찰 여성 및 아동 보호 센터의 데이터를 기반으로 2023년에 신고된 아동 권리 침해 사례가 17,600건 이상이라고 언급했다.

타팔레스는 "보고된 사례 중 상당 부분은 새로운 OSAEC(온라인 성적 학대 및 아동 착취)와 CSAEC법에 대한 온라인 위반이기도 합니다. PNP에 따르면 2023년 11월까지 1,000명 이상의 피해자가 신고되었으며 현재 300명 이상의 가해자가 법무부(DOJ)에 의해 기소되고 있습니다."라고 말했다.

그는 또한 PLDT와 Smart가 아동 성적 학대가 포함된 URL이나 웹사이트 902,000개를 차단했다는 데이터를 인용했다.

그는 "작년에 이러한 웹사이트에서 216만 건의 액세스 시도를 차단했으며 2021년에 아동 보호 프로그램을 시작한 이후 이러한 웹사이트나 아동 성적 학대 및 착취 자료에 대한 17억 건의 액세스 시도를 차단했습니다"라고 덧붙였다.

2022년 7월, OSAEC와 CSAEM은 필리핀 어린이를 대상으로 하는 월드와이드 웹 개발로 인한 위험을 방지하기 위해 제정되었다.

타팔레스는 "우리는 이 특정 법안이 광범위한 그물을 던질 것이라고 확신하며, 모든 유형의 OSAEC는 물론 AI, OSAEC 및 CSAEM까지 포괄한다는 점에서 이전 법률에 비해 더 많은 사람들을 기소할 수 있을 것입니다. 또한 성착취 사기와 AI가 만든 사기를 포함하는 인터넷 기반 성적 학대도 다루었습니다."라고 말했다.

그는 법무부, 검찰, 법원이 아동이나 아동의 가족이 어떤 이유로든 사건을 철회하는 경우에는 거부 진술서를 존중하지 않을 것이라고 덧붙였다.

ChildFund Alliance는 온라인 안전의 중요성을 인식하여 안전한 인터넷의 날 컨퍼런스를 개최했다.
ChildFund Alliance의 사이먼 와이트 이사회 의장은 "2022년 5월에 온라인 아동 안전 이니셔티브인 WEB Safe & Wise를 시작했을 때 ChildFund Alliance가 이를 해결하기 위해 노력한 위협입니다. 우리는 디지털 연결이 아동을 광범위한 심각한 위협에 노출시킨다는 사실을 그때도 알았고 지금도 더 많이 알고 있습니다.”라고 말했다.

그는 그들의 캠페인이 디지털 세계에서 어린이와 청소년이 보호받고, 안전하며, 지원받을 수 있도록 노력하고 있으며, 그들의 건강한 발달, 어린이와 청소년은 안전하고 윤리적이며 책임감 있게 온라인 활동에 참여할 수 있는 능력을 갖춘 효과적인 디지털 시민이라고 덧붙였다. 

온라인 안전 및 아동 권리 분야의 글로벌 전문가, ChildFund 아동 자문위원회 회원, 정부 관계자, 지역 사회 지도자 및 관련 기관 회원은 의견을 공유하고 모든 어린이가 온라인에서 안전하게 참여하고 연결할 수 있도록 하는 솔루션을 제안했다.

80년 이상 동안 Child Fund Alliance의 11개 아동 중심 개발 및 인도주의 단체로 구성된 글로벌 네트워크는 70개국의 약 3,600만 명의 어린이와 가족에게 다가가 모든 어린이가 자신의 권리를 누리고 복지를 향상시킬 수 있도록 보장해 왔다. 

마닐라서울편집부