본 자료는 인공지능 자율무기(킬러 로봇)의 개발과 사용을 금지하기 위해 결성된국제 시민사회 연합체 스탑킬러로봇(Stop Killer Robots)의 보고서<Digital Dehumanisation and Automated Harm>를 번역한 것입니다. 원문은 여기서 보실 수 있습니다. 서론 인간화는 인간의 특성, 개성, 존엄성을 부정하거나 박탈하는 과정으로 이해된다. 또한 비인간화는 과정이나 장소와 같은 대상에서 인간의 참여나 상호작용을 제거하거나 축소하는 것으로도 이해된다. 디지털 비인간화는 디지털 기술의 사용을 통해 발생하는 비인간화이다. 이는 ‘인간이 데이터로 축소되어, 그 데이터를 기반으로 인간의 삶에 부정적인 영향을 미치는 결정이나 행동이 이루어지는 과정’이며, 오늘날 무력 사용에 있어 점점 더 큰 문제로 대두되고 있다.² 자동화된 유해 행위는 디지털 비인간화 과정에서 발생하는 실질적인 유해 행위, 즉 이러한 처리의 부정적인 결과와 영향이다. 자동화된 유해 행위는 사생활 침해부터 프로파일링, 잠재적 부상이나 사망에 이르기까지 광범위하게 존재한다. 무력 충돌 및 안보 상황에서 자동화된 유해 행위는 부당한 체포, 자의적 구금, 부상, 사망 등을 포함하지만 이에 국한되지는 않는다. 점점 더 접근하기 쉬워지는 기술에 힘입어 전 세계 군대와 비국가 행위자들은 최근 몇 년 동안 다양한 임무 수행을 위해 여러 형태의 디지털 기술을 도입해 왔다. 특히 국내 경찰, 국경 통제 기관, 이민 당국을 포함한 수많은 안보 관련 기관들이 자동화 및 자율 디지털 기술을 사용하는 사례가 급증했다. 프로파일링을 위한 생체 인식 기술(예: 얼굴 인식 기술), 예측 치안 기술, 무력 충돌 상황에서의 AI 기반 ‘의사 결정 지원 시스템’ 사용, 자율 기능을 갖춘 무기 시스템 등은 국내외에서 널리 사용되고 있으며 이에 대한 보도도 활발히 이루어지고 있다. 이러한 기술의 사용은 ‘국내’ 또는 ‘비군사’ 영역과 분쟁 지역 및 기타 군사화된 공간에서 분명한 연관성을 보인다. 이전에도 그 경계는 모호했지만, 이러한 새로운 발전으로 행정 국가 및 경찰권 기술과 전쟁 기술 사이의 인위적인 분리가 그 어느 때보다 명확해졌다.³ 유엔 사무총장은 최근 군사 영역에서의 인공지능(AI)에 관한 보고서에서 “오늘날 분쟁에서 보고되는 AI 사용 사례들은 인간의 통제와 인구 밀집 지역에서의 적대 행위를 조장하는 AI의 역할에 대한 우려를 불러일으킨다”고 지적하며, “민간 AI 애플리케이션의 군사 영역 통합 가능성은 점점 더 큰 우려를 낳고 있다. AI 기술의 본질적으로 용도 변경이 가능한 특성은 감독, 투명성 및 책임성에 어려움을 초래한다”고 주장했다.⁴ 예를 들어, 안면 인식 기술, AI 기반 ‘의사결정 지원 시스템’, 그리고 점점 더 자율적인 기능을 갖춘 무기 시스템의 사용은 “잠재적인 인간 목표물을 고려하고 존중해야 할 실제 생명으로 대하기보다는 처리해야 할 데이터 포인트로 축소시킨다”는 점에서 디지털 비인간화 경향과 전쟁에서 디지털 기술에 대한 의존도 증가를 보여준다.⁵실제로 이러한 기술 중 일부는 일상생활에 점점 더 널리 보급되고 있다. 이러한 시스템을 구축하고 운영하는 민간 기업과 국가 기관이 수집하고 저장하는 데이터는 종종 더욱 명백하게 보안이 요구되는 환경에서 사용되는 시스템을 학습시키고 정보를 제공하는 데 사용되는 데이터와 동일하다. 목차 ⦁ 서론⦁ 무력 충돌과 안보 상황의 상호작용⦁ 디지털 비인간화 및 자동화된 유해 행위 과정 ៰ 생체 인식 기술, 특히 얼굴 인식 기술의 사용 ៰ 기타 디지털 감시 기술⦁ AI 기반 ‘의사결정 지원 시스템’ 활용 ៰ 이스라엘의 분쟁 상황에서의 AI-DSS 사용 ៰ 미국의 분쟁 상황에서의 AI-DSS 사용 ៰ AI-DSS의 다른 활용 사례⦁ 자율 기능을 갖춘 무기 시스템의 개발 및 사용⦁ 결론: 디지털 비인간화와 무력 사용 자동화의 파급 효과⦁ 권고 사항⦁ 후주 저자스탑킬러로봇 (Stop Killer Robots) ‘스탑 킬러 로봇(Stop Killer Robots)’은 인간의 통제 없이 스스로 공격 대상을 찾아 살상하는 인공지능 자율무기(킬러 로봇)의 개발과 사용을 금지하기 위해 결성된 국제 시민사회 연합체다. 번역이대훈 (피스모모 평화/교육 연구소(TEPI) 소장) 피스모모 홈페이지를 통해 한국어 번역본을 다운로드 받으실 수 있습니다.
