기술 분야의 가장 큰 이름을 가진 미국 AI 안전 컨소시엄 공개

미국은 마이크로소프트(MS), 메타(Meta), 엔비디아(Nvidia), 구글(Google) 등 AI 안전 컨소시엄에 참여할 올스타 기술 기업 목록을 공개하며 이번 계획을 “최초”라고 불렀다.

 

미국 상무부는 2월 8일 기술 산업계 각계각층의 수많은 참가자들로 구성된 AI 안전 연구소 컨소시엄(AISIC) 창설을 발표했습니다.

상무부 장관 지나 라이몬도(Gina Raimondo)는 컨소시엄의 목표가 "AI 창작자와 사용자, 학계, 정부 및 산업 연구자, 시민 사회 단체를 통합하여 안전하고 신뢰할 수 있는 인공 지능(AI)을 만드는 환경을 조성하는 것"이라고 말했습니다.

“미국 정부는 위험을 완화하고 AI의 엄청난 잠재력을 활용하는 데 필요한 표준을 설정하고 도구를 개발하는 데 중요한 역할을 합니다. Biden 대통령은 안전 표준 설정과 혁신 생태계 보호라는 두 가지 주요 목표를 달성하기 위해 모든 수단을 동원하라고 지시했습니다.”
AISIC은 레드팀 구성을 위한 지침 개발, AI 기능 평가, 위험 관리, 안전 및 보안, 합성 콘텐츠 워터마킹 등을 담당하게 됩니다. 이 중 후자가 핵심 문제입니다.

광고
Markets Pro로 프리미엄 거래 경험을 즐겨보세요. 최대 70% 설날 할인으로 지금 시작해보세요!

기원 후
컨소시엄은 Microsoft, Google, Meta, Apple, OpenAI, Anthropic, Adobe, Nvidia, GitHub, Frontier Model Forum, Hewlett Packard Enterprise, IMB 등을 포함하여 업계에서 가장 큰 이름을 지닌 200명 이상의 회원으로 구성되어 있습니다.

공식 발표에 따르면 이는 업계 표준에 대해 "같은 생각을 가진 국가"의 조직과 협력할 비영리 단체와 함께 주 및 지방 정부와 함께 "현재까지 설립된 테스트 및 평가 팀의 최대 규모"를 나타냅니다. .

이러한 개발은 2023년 10월 말 바이든 대통령의 AI 안전에 대한 행정 명령의 결과로 설립된 미국 AI 안전 연구소(USAISI)의 창설에 따른 것입니다.

라이몬도는 바이든의 행정명령이 안전하고 책임감 있는 AI의 개발과 배치에서 미국이 선두에 머물도록 보장할 것이라고 말했습니다.

백악관 부비서실장 브루스 리드(Bruce Reed)는 AI를 따라잡는다는 것은 다음과 같다고 말했습니다.

"...우리는 빠르게 움직여 정부, 민간 부문, 학계에 이르기까지 모든 사람이 같은 방향으로 나아가도록 해야 합니다."
리드는 최근 1월 30일 백악관 AI 위원회를 소집하여 행정 명령에 따른 조치를 어떻게 이행했는지에 대한 보고를 들었습니다. 이로 인해 미국이 "행정 명령의 첫 3개월 동안 예정된 많은 요구 사항을 충족하거나 초과했다"는 사실이 업데이트된 사실 시트가 작성되었습니다.