현대 전쟁에서 인공지능(AI)의 역할이 급증하면서, AI 시스템 운용에 있어 '인간 개입(humans in the loop)'의 중요성에 대한 논의가 활발하다. AI는 표적 생성, 미사일 조정 등 핵심적인 군사 작전에 깊이 관여하며 그 영향력을 확대하고 있다. 그러나 일각에서는 이러한 인간 개입이 실질적인 통제력을 발휘하기 어렵다는 비판적 시각이 제기되고 있다. AI 시스템의 본질적인 특성 때문에 인간의 감독이 사실상 환상에 불과할 수 있다는 주장이다. 핵심적인 문제는 AI 시스템이 종종 '블랙박스(black boxes)'처럼 작동한다는 점이다. 이는 AI가 복잡한 알고리즘을 통해 의사결정을 내리지만, 그 과정과 의도를 인간이 명확하게 이해하기 어렵다는 의미다. 수많은 데이터와 심층 학습을 거쳐 도출된 AI의 판단은 인간의 직관이나 논리적 추론으로는 파악하기 힘든 경우가 많다. 이러한 불투명성으로 인해 인간 운용자는 AI가 특정 결정을 내린 이유를 정확히 알 수 없으며, 그 결과가 예상치 못한 방향으로 흘러갈 때 효과적으로 개입하거나 수정하기 어렵게 된다. AI의 의도를 이해하지 못하는 상황에서 '인간 개입'은 형식적인 절차에 그칠 가능성이 크다. 특히 전쟁과 같이 생명과 직결되는 민감한 영역에서 AI가 자율적으로 표적을 식별하고 공격을 지시하는 상황이 발생할 경우, 인간의 최종 승인 과정이 AI의 복잡한 판단을 충분히 검토하고 제어할 수 있을지에 대한 근본적인 의문이 제기된다. 이러한 논의는 AI 기술 발전 속도에 맞춰 군사 전략 및 정책 수립에 있어 인간의 역할과 책임 범위를 재정립해야 할 필요성을 시사한다. 단순히 '인간이 최종 결정한다'는 원칙만으로는 AI 전쟁 시대의 복잡성을 해결하기 어렵다는 인식이 확산되고 있다. 결국 AI 기반 전쟁 시스템에서 인간의 실질적인 통제력 확보는 기술적, 철학적 난제를 안고 있으며, 이에 대한 심도 깊은 성찰과 새로운 접근 방식 모색이 요구된다. 출처: https://www.technologyreview.com/2026/04/16/1136029/humans-in-the-loop-ai-war-illusion/