외교저널 (Diplomacy Journal) 이길주 외교부 출입 기자 | 인공지능이 산업혁명을 넘어 국가안보와 국제질서를 재편하는 핵심 전략자산으로 부상한 가운데, 세계 최대 종교 공동체인 바티칸이 인류를 향해 의미 있는 경고를 던졌다.

 

레오 14세는 즉위 후 첫 회칙인 『Magnifica Humanitas(위대한 인간성)』​을 통해 AI가 인간의 존엄을 침해하거나 생명과 죽음을 결정하는 자율무기 체계로 발전해서는 안 된다고 강조하며, 국제사회가 AI 군사화에 대한 새로운 윤리와 규범을 마련해야 한다고 촉구했다.

 

"인공지능(AI)은 인간을 섬겨야지, 인간을 지배해서는 안 된다."

 

교황이 AI를 첫 회칙의 핵심 의제로 삼은 것은 AI가 더 이상 산업기술의 영역이 아니라 인간의 존엄, 국제법, 전쟁윤리, 외교질서를 동시에 뒤흔드는 문명사적 과제가 되었음을 의미한다. 특히 회칙 발표 현장에는 군사 AI 활용 문제를 놓고 미국 정부와 공개적으로 이견을 보여온 생성형 AI 기업 앤트로픽 공동창업자(크리스토퍼 올라)가 함께 자리하면서 종교계와 첨단기술 산업계가 AI 군비 경쟁에 대해 공통된 위기의식을 공유하고 있음을 상징적으로 보여주었다.

 

"AI는 인간의 지성을 대체하는 것이 아니라 인간의 존엄을 보호해야 한다."
— 레오 14세, 회칙 Magnifica Humanitas

 

 

AI가 바꾸는 전쟁…현대전의 새로운 패러다임

AI는 이제 드론을 조종하거나 정보를 분석하는 보조 기술이 아니다. 위성영상 분석, 표적 식별, 전장 상황 예측, 공격 우선순위 결정까지 AI가 수행하는 시대가 시작됐다.

 

대표적인 사례가 미국 국방부의 '프로젝트 메이븐(Project Maven)'이다.

 

AI는 수백만 장의 위성영상과 감시 데이터를 실시간으로 분석해 적의 움직임을 탐지하고 공격 대상 후보를 자동으로 선별한다. 최근에는 생성형 AI 기술이 접목되면서 표적 분석 시간이 과거 수일에서 수분 단위로 단축되고 있다는 평가가 나온다.

전쟁의 속도는 이제 인간의 사고 속도가 아니라 알고리즘의 연산 속도에 의해 결정되고 있다. 군사 전문가들이 이것을 '전쟁의 속도 혁명(Speed Revolution)'이라고 부르는 이유이다.

 

인간은 '루프 안'에서 '루프 위'로 밀려난다

군사 AI 논쟁에서 가장 중요한 변화는 인간의 역할이다.

 

기존의 군사 시스템은 'Human in the Loop', 즉 인간이 AI의 판단을 검토하고 최종적으로 무기 사용을 승인하는 구조였다.

그러나 AI의 분석 속도가 인간보다 압도적으로 빨라지면서 인간은 점차 'Human on the Loop', 즉 AI가 내린 결정을 단순히 감시하거나 승인하는 감독자로 바뀌고 있다. 실제 중동 분쟁에서는 AI가 제시한 표적을 정보장교가 약 20초 만에 승인했다는 사례가 국제사회에 큰 충격을 안겼다.

 

문제는 이러한 과정에서 발생하는 '자동화 편향(Automation Bias)'​ 의사 결정에 있다.

컴퓨터가 제시한 분석 결과를 객관적이고 정확한 것으로 믿게 되면서 인간은 스스로 판단하고 검증하는 능력을 점차 상실할 수 있다. 결국 인간이 AI를 통제한다고 생각하지만 실제로는 AI의 판단을 승인하는 절차적 존재로 전락할 위험이 커지고 있는 것이다.

 

AI 시대의 새로운 권력…국가와 빅테크의 충돌

AI 군비 경쟁은 국가 간 경쟁만이 아니다.

 

생성형 AI를 개발하는 글로벌 빅테크 기업들은 자사 AI가 대규모 감시체계나 완전자율무기에 활용되는 것에 일정한 제한을 요구하고 있다. 반면 각국 정부는 국가안보를 이유로 AI 활용 범위를 확대하려 한다.

 

냉전 시대 핵기술은 국가가 독점했지만 AI는 민간 기업이 기술혁신을 주도한다는 점에서 상황은 근본적으로 다르다. 이제 AI 시대의 국가안보는 정부와 기술기업이 동시에 전략 행위자가 되는 새로운 국제정치 구조를 만들어내고 있다. 기술을 가진 기업과 군사력을 가진 국가 사이의 이해관계 충돌은 앞으로 외교안보 분야의 새로운 핵심 이슈가 될 가능성이 크다.

 

규칙 없는 AI 군비 경쟁…국제사회는 뒤처지고 있다

AI 기술은 매달 진화하고 있지만 국제 규범은 그 속도를 따라가지 못하고 있다. 냉전 시대 핵무기 경쟁은 핵확산금지조약(NPT), 전략무기제한협정(SALT), 전략무기감축협정(START) 등을 통해 최소한의 통제 장치를 마련했다.

 

반면 군사 AI에는 아직 국제적으로 구속력 있는 규범이나 검증 체계, 책임 원칙이 사실상 존재하지 않는다.

 

유엔에서는 자율무기체계(LAWS)에 대한 국제규범 논의가 계속되고 있지만 미국·중국·러시아 등 주요 군사 강국의 이해관계가 충돌하면서 실질적인 진전은 매우 더디다. 기술은 분 단위로 발전하지만 국제협상은 연 단위로 움직이는 현실 때문이다. 이 간극이야말로 AI 시대 국제안보가 직면한 가장 큰 위험 요소가 될 것이다.

 

 

AI 시대의 외교는 '기술 거버넌스' 경쟁이다

21세기 국제질서는 더 이상 군사력과 경제력만으로 결정되지 않는다. AI를 누가 개발하고, 어떻게 통제하며, 어떤 국제규범 아래 사용할 것인가가 새로운 국가경쟁력이 되고 있다.

 

이러한 점에서 바티칸이 발표한 『Magnifica Humanitas』 (위대한 인간성) 는 단순한 종교 문서 이상의 의미를 갖는다. 교황청은 이번 회칙에서 "AI 무장해제(Disarm Artificial Intelligence)"라는 표현까지 사용하며 인간의 통제를 벗어난 자율무기 체계에 깊은 우려를 표명했다.

 

교황이 강조한 'AI의 무장 해제'는 기술 발전 자체를 부정하는 것이 아니라 인간의 생명과 존엄에 대한 최종 판단권을 기계에 넘겨서는 안 된다는 윤리적 선언인 것이다.

 

이는 AI 시대 국제질서가 지향해야 할 핵심 원칙이기도 하다.

 

대한민국 역시 AI 강국을 지향하는 동시에 국제 AI 거버넌스 구축과 자율무기 규범 형성에 적극 참여하는 '규범 선도국(Middle Power)' 전략을 모색해야 한다. AI 시대의 진정한 경쟁은 더 강력한 알고리즘을 만드는 것이 아니다. 인간의 존엄과 책임을 끝까지 지켜낼 수 있는 국제질서를 설계하는 국가가 미래를 주도하게 될 것이다.