피스모모 평화/교육연구소는 2026년에 주목할 만한 보고서나 글, 논문 등을 <TEPI Brief 테피 브리프>에 담아 소개합니다. TEPI Brief 테피 브리프 #2는 존 윌리엄스 교수가 <군사윤리저널>에 발표한 <중대되는 자율성과 군사행위에 대한 도덕적 책임의 정치학>입니다. 요약 및 정리에는 황용하 피스모모 평화/교육 연구소 연구위원이 수고하셨습니다. 원문은 여기에서 다운로드받으실 수 있습니다. 저자 소개 존 윌리엄스영국 더럼대학교 국제관계학과 교수. 주요 연구 분야는 영국 학파, 글로벌 IR 및 탈식민주의 연구, 드론과 자율살상무기체계 등 현대전의 기술적 변화와 전쟁 윤리이다. 이번 브리프의 주제인 자율살상무기체계 관련 또 다른 연구로는 Locating LAWS: Lethal Autonomous Weapons, Epistemic Space and 'Meaningful Human' Control (2021), Democracy and Regulating Autonomous Weapons: Biting the Bullet while Missing the Point? (2015) 등이 있다. LAWS를 포함한 AI의 군사적 도입을 강제하는 두 가지 구조적 동인본 논문은 자율살상무기체계(Lethal Autonomous Weapons Systems, LAWS)에 관한 논쟁이 실제로는 무시하기어려운 정치적·경제적 구조적 역학 속에서 이루어지고 있음을 주장한다. 1. 안보 딜레마가 선택을 봉쇄한다. 국가 간 경쟁(미국의 "중국 견제, 러시아 억제" 우선순위)과 비국가 행위자(이를 비롯해 비국가 테러 집단에 안전한 피난처를 제공하는 국가) 위협은 AI 기반 무기를 필수적일 뿐 아니라 도덕적으로 책임 있는 행위로 정당화하는 구조적 현실로 제시된다. 미국 국가안보 문서와 분석가들이 이러한 군사 능력 개발에 "선택의 여지가 없다"고 주장하는 사례에서 드러난다.2. 자본주의가 불가피성을 강화한다.AI가 자본주의 세계경제에 통합되어 성장·혁신·수익성을 주도함에 따라, 군사 AI 개발은 광범위한 기술 진보의 불가피한 연장선으로 틀 지어진다. 민간 부문에서 주도하는 AI 혁신은 자연스럽게 군사 분야로 전이된다. 명시적으로 미 국방부는 스스로를 상용 AI 발전의 "빠른 추종자(fast-follower)"로 규정하고 있다. 이러한 경제적·기술적 흐름을 거부하는 것은 심각한 국가적 손실로 이어질 것이라는 공포 또한 존재한다. 주요 문제점: 도덕적 책임의 형해화(形骸化)이러한 구조적 동인이 수용됨에 따라, LAWS의 개발 및 배치에 대한 도덕적 책임을 윤리적 문제로 다루기보다당연한 배경 조건으로 취급함으로써, 도덕적 책임과 책무성 논의는 다음과 같이 왜곡되고 있다. 1. 책임 범위의 축소: 개발과 배치 자체에 대한 정치적 선택권이 사라졌다고 가정함으로써, 인간의 도덕적 책임은무기 사용의 순간(표적 식별 및 교전)으로만 한정된다.2. 절차적/공리주의적 접근: 책임의 개념이 국제인도법 원칙(차별성, 비례성)을 준수했는지에 대한 기술적·절차적 확인으로 좁혀지고 있다. 이는 무기 사용의 근본적인 도덕적 정당성보다는 '임무 성공'과 '규정 준수'라는 운용적 가치를 우선시하게 만든다.3. 덕 윤리의 실종: 용기, 무기에 대한 깊은 이해, 성찰적 도덕 판단은 본질적으로 인간적 덕목으로서 알고리즘화될 수 없다. 무기체계의 자율성은 사전에 예측 불가능한 의사결정과 행동을 전제로 한다. 이로 인해 운용자가 무기를 완전히 이해하는 것이 복잡성 차원을 넘어 원천적으로 불가능해질 때, 도덕적 덕성을 발휘하기란 훨씬 더 난해한 과제가 된다. 사례 연구: 미국의 드론 운용본 논문은 미국의 드론 공격 경험을 핵심 선례로 활용한다. 드론 공격에 대한 도덕적 책임이 '알카에다 및 연계 세력의 테러 감행 능력 축소'라는 임무 성공 기준과 절차적 준수를 중심으로 틀 지어졌으며, 민간인 피해 평가는 종종 완전히 배제되었다. 국제인도법 준수는 대개 기술적이고 절차적인 문제로 치부되었으며, 2010년 이전 미군의 전투피해평가는 민간인 사상자를 거의 고려하지 않고 임무 우선순위 충족에 초점을 맞추었다. 내부 책무성 심사는 미군 데이터만을 사용하였고, 현장 방문이나 기타 검증은 수행하지 않았으며, 오직 "중대한 과실이나 악의"만이 징계의 근거가 되었다. 존 윌리엄스 교수는 LAWS가 이와 동일한 궤적을 따를 것이나, 핵심 결정에 대한 인간의 관여는 더욱 줄어들 것이라고 주장한다. 결론 및 제언존 윌리엄스 교수는 책임 공백 논쟁의 프레임을 반드시 넓혀야 한다고 주장한다. 정부전문가그룹(GGE) 내의 주요 민주주의 국가들은 탈맥락화된 국제인도법 원칙의 설명 속에 LAWS를 가두려 하고 있다. 드론의 군사적 이용 역사는 이러한 방식이 도덕적 책임을 절차적인 문제로 전락시키고, 책무성을 극히 기술적인 과정으로 만들어버릴 위험이 있음을 시사한다. 결과적으로 가해자를 처벌하거나, 피해를 입은 이들에게 배상, 회복, 또는 그들과의 공감대를 형성할 가능성은 점점 더 희박해진다. 또한, 위 언급한 구조적 힘들을 도덕적으로 불변하는 전제로 깔아둔 채 오직 사용 시점의 책무성만을 논하는 것은 가장 중요한 윤리적 질문들 즉, ‘민주주의 국가가 LAWS를 과연 개발하고 배치해야 하는가, 그리고 그러한 선택은 어떤 정치적 조건 하에서 이루어지는가’ 를 외면하는 결과를 낳는다. 본 논문은 이러한 구조적 역동성 자체를 윤리적 분석의 대상으로 명확히 인식해야 한다고 촉구하며, 이것이 선행되지 않는다면 책임 공백 논쟁은 AI 기반 군사력에 의해 피해를 입은 이들에게 아무런 실효성 없는, 극히 기술적인 말장난에 그치고 말 것이라고 경고한다. 이 논문을 소개하는 이유 존 윌리엄스 교수의 본 논문은 LAWS에 대한 기술 결정론적 시각에서 벗어나 해당 무기체계가 어떻게 전장으로들어오게 되었는지를 구조적으로 분석하고, 결과적으로 더 포괄적이고 맥락적인 책임 공백 논의를 주문한다. 특히LAWS로 인한 폭력 이후 책임의 소재를 파악하고 가해자를 처벌하는 것 뿐만 아니라, 피해자 및 알고리즘에서소외된 자들에게도 관심을 기울여야 함을 역설한다. 따라서 본 논문은 기존 LAWS 논의를 지배하고 있는국제인도법 합치 여부에서 나아가 LAWS 운용 전과 후 맥락으로 책임 공백 논의의 시각을 넓힘으로써 LAWS가국제사회에 미치는 정치적, 윤리적 영향을 포괄적으로 파악할 수 있게 돕는다. PDF로 보기
