미 국방부, 'AI vs 반 AI 전투' 예고

미국 국방부는 AI와 대응 AI 간의 전투를 예상하면서 공격에 대한 회복력과 데이터 처리를 위해 AI를 구현하고 훈련하기 위한 여러 목표를 정의했습니다.

 

미국 국방부(DOD)가 지난 1월 25일 성명을 통해 인공지능(AI) 활용 개시를 개략적으로 설명하며 AI와 대AI(counter-AI)의 전쟁을 예고했다.

이 성명은 Google 국방 포럼에서 국방부 사이버 범죄 센터 전무이사인 Jude R. Sunderbruch의 연설에 이어 나온 것입니다. 본질적으로 이러한 '대항 AI'와의 '전투'는 AI 시스템의 조작 시도를 식별하고 차단하는 동시에 그러한 공격에 탄력적인 AI 시스템을 만드는 것을 의미합니다.

"적들은 매일 우리의 경계와 보안을 넘어서려고 노력하고 있습니다. 그들은 '빛의 속도'로 움직이고 있습니다. 그들은 광섬유 네트워크를 사용하고 있으며 한 VPS에서 다른 VPS로 즉시 이동할 수 있으므로 AI를 활용하여 앞서나가는 것이 필수적입니다."

Sunderbruch는 이 “전투”가 “진실”이 무엇인지에 대한 중요한 질문을 제기할 것이라고 말했습니다. 그는 또한 이를 '군비 경쟁'이 아니라 '전략적 경쟁'이라고 부르겠다고 말했습니다.

2023년 12월 Meta의 AI 책임자인 Yann LeCun이 "AI 전쟁"이 진행되고 있다고 말했을 때 개발자 공간에서도 비슷한 정서가 울려 퍼졌습니다.

국방부는 미국이 AI 분야에서 발전할 수 있는 좋은 위치에 있다고 믿으며 단기 목표는 현재 사용 가능한 AI 도구를 사용하고 이를 정부가 다른 사용 가능한 정보와 계층화한 정보에 적용하는 것이라고 말했습니다.

 

"다양한 유용한 정보"로 AI 모델을 훈련하고 위협 및 취약성 분석을 위한 AI 도구를 적용하는 것도 국방부가 추구할 두 가지 목표라고 언급했습니다.

역시 패널에 참석한 국방 정보 시스템국(Defense Information Systems Agency)의 정보 책임자인 Richard Leach 육군 대령은 의사 결정자에게 제공되는 "데이터 쓰나미"를 처리하는 데 있어 AI의 역할을 강조했습니다.

"AI가 핵심 정보를 식별하고 기본 분석 중 일부를 수행하게 하세요. 분석가는 시간, 자원, 인력을 낭비하지 않도록 어려운 문제에 집중할 수 있습니다."
리치는 AI를 사용하는 것이 변화하고 진화하는 디지털 환경을 이해하는 데 중요할 것이라고 말했습니다. "누군가가 네트워크를 변경할 때마다 패치를 업데이트하거나 네트워크를 재구성할 때마다 환경과 전투 공간이 변경됩니다."라고 그는 말했습니다.

미국 정부는 AI 시스템을 어떻게 활용하고 규제할 수 있는지 적극적으로 모색해 왔다. 바이든 행정부는 지난 10월 30일 6가지 새로운 AI 안전 및 보안 기준을 수립하는 행정명령을 내렸다.

1월 10일 미국 법 집행관은 AI가 해킹, 사기, 돈세탁을 촉진하는 데 도움이 될 가능성이 있다고 경고했습니다. 이러한 범죄를 저지하는 데 필요한 기술의 진입 장벽을 낮추기 때문입니다.