유럽연합 집행위원회, 선거에 대한 AI 잘못된 정보 지침에 대한 의견 구함

이 지침은 다가오는 5월 유럽 선거에서 생성 AI와 딥페이크가 제기하는 민주적 위협을 줄이는 것을 목표로 합니다.

 

유럽연합 집행위원회는 다가오는 유럽 선거를 잘못된 정보로부터 보호하기 위해 TikTok, X, Facebook과 같은 기술 플랫폼에 인공 지능(AI) 생성 콘텐츠를 탐지하도록 요구할 것입니다.

위원회는 초대형 온라인 플랫폼(VLOP) 및 초대형 온라인 검색 엔진(VLOSE)에 대해 제안된 선거 보안 지침에 대한 공개 협의를 시작했습니다. 권장 사항은 생성 AI와 딥페이크가 야기하는 민주적 위협을 줄이는 것을 목표로 합니다.

초안 지침은 생성 AI 콘텐츠와 관련된 구체적인 조치, 선거 행사 전후 위험 완화 계획, 유럽의회 선거에 대한 명확한 지침 제공 등 선거 관련 위험을 해결하기 위한 가능한 조치의 예를 제공합니다.

생성적 AI는 정치 행위자, 사건의 허위 묘사, 선거 여론 조사, 맥락 또는 내러티브에 관한 허위, 오해의 소지가 있는 합성 콘텐츠를 생성하고 전파함으로써 유권자를 오도하거나 선거 과정을 조작할 수 있습니다.

 

현재 3월 7일까지 유럽연합에서 공개 협의가 진행 중인 선거 보안 지침 초안에서는 생성 AI로 생성된 콘텐츠의 잠재적인 부정확성에 대해 관련 플랫폼의 사용자에게 경고할 것을 권장합니다.

초안에 따르면 지침은 또한 사용자에게 권위 있는 정보 출처를 안내할 것을 제안하고 거대 기술 기업이 사용자 행동에 상당한 영향을 미칠 수 있는 오해의 소지가 있는 콘텐츠의 생성을 방지하기 위한 보호 장치를 구현해야 한다고 명시하고 있습니다.

AI 생성 텍스트에서 현재 권장 사항은 VLOP/VLOSE가 "가능한 경우 사용자가 신뢰성을 확인하고 정보의 맥락을 더욱 맥락화할 수 있도록 입력 데이터로 사용되는 정보의 구체적인 소스를 생성된 출력에 표시"하는 것입니다.

위험 완화를 위한 지침 초안에서 제안된 "모범 사례"는 EU가 최근 승인한 입법 제안인 AI법과 구속력이 없는 AI 조약에서 영감을 얻었습니다.

2023년 생성 AI의 입소문이 급증하면서 대규모 언어 모델과 같은 고급 AI 시스템에 대한 우려가 대두되면서 OpenAI의 ChatGPT와 같은 도구가 널리 알려지게 되었습니다.

위원회는 기업들이 EU의 콘텐츠 조정법인 디지털 서비스법에 따라 조작된 콘텐츠에 라벨을 지정해야 하는 시기가 정확히 언제인지 밝히지 않았습니다.

그러나 회사 블로그 게시물에서 Meta는 앞으로 몇 달 안에 Facebook, Instagram 및 Threads에 AI 생성 콘텐츠에 관한 새로운 지침을 도입할 계획을 발표했습니다. 메타데이터 또는 의도적인 워터마킹을 통해 AI 생성으로 인식된 모든 콘텐츠에는 눈에 보이는 라벨이 표시됩니다.