• 미국 국방부 2024년 AI 예산: 18억 달러
• 2026년 AI·자율 시스템 요청 예산: 134억 달러
• NATO 및 유럽 국가들: 국방 AI 투자 대폭 확대

전 세계적으로 본격적인 AI 국방 경쟁(AI arms race) 이 시작되는 중.

• AI 환각(Hallucination)
• 데이터 조작 및 학습 오염
• 프롬프트 공격
• GPS 스푸핑
• 위성 통신 장애
• 공급망 해킹 (SolarWinds 사례 등)

이러한 위협은 단순한 기술 문제가 아니라 실제 작전 실패로 직결될 수 있는 리스크.

현재 대부분의 국방 AI 시스템은 암호학적 검증 없이 ‘신뢰’에 의존해 운영.

현재 대부분의 국방 AI 시스템은 결과가 올바르게 계산되었는지, 데이터가 조작되지 않았는지, 그리고 프로토콜을 정확히 따랐는지를 증명할 수 있는 구조를 갖추지 못한 채 운영는 중. 이러한 ‘검증 없는 신뢰’ 구조는 AI가 핵심 인프라로 자리 잡을수록 치명적인 한계로 작용.

AI 국방 시대는 이미 시작되었습니다. 이제 필요한 것은 더 많은 자동화가 아니라 AI가 만들어내는 모든 결과를 증명할 수 있는 검증 인프라입니다.

라그랑주의 사업 개발 책임자인 브라이언도 스피치를 진행했는데요, AI 데모와 실제 배포 간의 격차를 지적하며 행사를 시작했습니다.

딥페이크 제거, AI 기반 금융 의사 결정, 에이전트 정확도 및 규정 준수와 같은 사례를 통해 AI 시스템이 규제가 엄격한 고위험 환경에서 작동할 때 검증 가능성이 왜 중요한지에 초점을 맞췄습니다.

• 검증 가능한 추론
• 자율적 의사결정 로그의 무결성
• 배포된 AI에 대한 암호화 보장
• 핵심 임무 시스템에 대한 책임성 확보