유럽연합 집행위원회, AI 기반 아동 학대 범죄화 제안

생성적 AI의 광범위한 성장은 국회의원들에게 아동 성적 학대 피해자에 대한 범죄 신고를 촉진하고 관련 지원을 제공하기 위해 규정을 검토해야 한다는 명확한 동기를 부여했습니다.

유럽연합 집행위원회(European Commission)는 기술 발전에 대응하여 법률을 업데이트하기 위해 아동 성적 학대(CSA)를 묘사하는 인공 지능(AI) 생성 이미지와 딥페이크를 범죄화하는 것을 고려하고 있다고 발표했습니다.

이 제안에는 실시간 스트리밍 아동 성적 학대에 대한 새로운 형사 범죄 도입이 포함됩니다. 또한 “소아성애 매뉴얼”의 소지 및 교환을 범죄화하려고 합니다. 제안서에는 아동 학대에 사용되는 AI 챗봇도 언급됐다.

위원회는 제안을 통해 2011년 규칙을 업데이트하여 위반 행위에 대한 의무 신고에 대한 변경 사항을 제안하는 것을 목표로 하고 있습니다. 이러한 조치는 아동 성적 학대 예방, 온라인 위험 인식 강화, 피해자에 대한 범죄 신고 촉진, 재정적 보상 권리를 포함한 지원 제공을 목표로 하는 광범위한 패키지의 일부입니다.

 

제안 이전에 실시된 위원회의 영향 평가에서는 아동 성적 학대에 대한 새로운 기회를 창출하는 요인으로 온라인 존재 증가와 "최신 기술 개발"을 강조했습니다. 어린이의 온라인 안전 위험을 해결하기 위해 이 제안은 회원국이 "인식 제고"에 투자하도록 권장합니다.

이 기술이 아동 성적 학대 자료(CSAM)를 만드는 데 오용될 수 있다는 우려가 있습니다. 이러한 인공 콘텐츠가 법 집행 기관의 실제 피해자 식별을 복잡하게 만들고 기존 규정을 검토할 필요성을 부각시킬 수 있다는 우려가 커지고 있습니다.

그러나 제안의 최종 형태는 유럽의회와 유럽이사회에서 결정됩니다. 위원회에 따르면 CSA 퇴치에 관한 현행 지침을 수정하는 데 합의하면 해당 지침은 EU 공식 저널에 게재된 지 20일 후에 발효될 것입니다.

일반 입법 절차에 따라 유럽연합 집행위원회가 제안을 제출하면 유럽의회와 각료회의가 이를 승인하거나 수정할 수 있습니다. 불일치가 지속되면 두 사람 모두 수정안을 제안할 수 있습니다. 협상이 이어지며, 결론이 나면 두 기관 모두 최종 버전에 대해 찬성 또는 반대 투표를 할 수 있습니다.

2022년 5월에 위원회는 CSAM을 감지 및 신고하고 아동을 대상으로 하는 그루밍 활동을 식별하기 위해 자동화된 기술을 사용하는 디지털 서비스의 의무에 초점을 맞춘 추가 법안을 제안했습니다. 위원회에 따르면 현재 제안은 2022년 규정 제안을 보완합니다.

그러나 개인 메시지 스캔 제안이 도입된 지 2년도 채 되지 않아 딥페이크와 AI 생성 이미지의 위험성에 대한 인식이 크게 높아졌습니다.