기록: 김한민영 (TEPI 연구위원)정리: 김가연 (TEPI 연구실장) 7월의 마지막 날, TEPI 연구소 세미나는 "가자지구에서의 제노사이드, 그리고 AI 군사적 이용"에 대한 깊은 대화가 오갔습니다. 황용하 연구위원의 꼼꼼한 발제로 시작된 TEPI 정례세미나 자리였는데요. TEPI 연구위원들과 관련 분야 활동가, 연구자 분들이 모여주셨어요. 어떤 논의가 있었는지 간략히 소개드립니다. 1년 가까이 지속되고 있는 가자지구에서 수많은 민간인, 특히 어린이와 여성들이 사망하고 고통을 당하고 있습니다. 그야말로 '지옥' 같은 상황인데요. 더욱 심각한 것은 AI가 무기에 적용되고, 실제로 사용되고 있다는 사실입니다. 이에 황용하 연구위원은 이스라엘이 가자지구에서 '타겟'을 식별하기 위해 사용하고 있는 인공지능 무기체계를 팩트 중심으로 공유하고, 인공지능과 무기가 결합하는 데서 드러나고 있는 문제점과 앞으로의 쟁점 등을 짚어주었습니다. 이스라엘 정부는 이미 오랜 기간동안 팔레스타인을 대상으로하는 감시/통제 체제에 인공지능을 접목시켜왔습니다. 미사일 방어체계인 아이언돔은 물론이고, 페가수스 감시 해킹 프로그램, 서안지구 헤브론 검문소에 설치된 '레드 울프' AI 안면 인식 시스템 등 팔레스타인 주민들을 통제하고 있습니다. 팔레스타인을 대상으로 거대한 '실험'을 진행하고 있었다고 말할 수 있는데요. 이번 가자지구에서의 학살에서는 공격 대상을 식별하고 결정하는 데 AI를 이용한 시스템이 적용되어 논란이 되고 있습니다. The Gospel(가자지구 내 특정 건물이나 지역의 기반시설 식별), Lavender(하마스 요원은 물론, 하마스와 관련된 인물들을 타겟으로 분류), Where’s daddy (하마스 및 무장단체 구성원이 가족들과 집에 있을 때 공격/사살) 등의 체계가 사용되고 있는데요. AI가 확보한 타겟이 실제로 살상 대상이 되는지 결정하는 마지막 단계에서만 사람의 결정이 개입됩니다. 알려진 바로는 약 20초만을 할애하여 타겟이 여성인지 남성인지만 판단한 뒤 사살 승인을 내린다고 합니다. 여기에는 최대 20%에 달하는 오공격 가능성이 있어서 민간인 학살 가능성이 더욱 커진 상태입니다. 무서운 것은 이스라엘이 감시 정보 장비를 설계하고 판매하는 글로벌 군사 강국이 되는 데에 이러한 '실전 경험'이 바탕이 되었다는 사실이죠. 이스라엘은 치명적자율살상무기(LAWs)규제에 소극적인 태도로 일관하고 있고요. 또한 미국의 군사 원조를 받는 제 1위 국가로, 전쟁 개시 이후 군사적, 경제적인 결속은 더욱 강해져서 110억 달러에 이르는 군사 원조가 확정된 상황입니다. 이에 인공지능과 무기의 결합을 규제할 방안, 그리고 윤리적인 책임의 기준을 놓고 국제사회는 물론 각 국가와 시민사회에서 신속한 논의가 필요한 상황이지만, 아직 뚜렷한 대응이 이루어지지 않고 있습니다. 이어 황용하 연구위원이 던져 주신 쟁점들, 즉, 의미있는 인간통제 (Meaningful Human Control)는 무엇일까? 무엇을 규제해야 하는가 (프로그램 혹은 행위를 규제해야 하는가), 어떻게 신뢰를 구축할 것인가(비공식 다자 대화 증진, 선언적 노력, 책임 규범 강화 등)를 놓고 뜨거운 토론이 이어졌습니다. 특히 어떤 존재를 '살상이 가능한 대상'으로 식별하는 인공지능 살상 체계의 기반에는 인간과 비인간존재를 종으로 나누고, 특정한 종을 '죽어도 되는 존재'로 구별하는 철학적인 문제가 깔려있는 것이 아니냐는 문제의식, 더불어 포스트휴머니즘의 문제의식을 인공지능과 무기체계의 연결에서 짚어내야 한다는 논의도 대두되었습니다. 다음 정례세미나는 10월에 진행됩니다.기후위기와 전쟁위기로 삶의 공간이 위축되는 요즘이야말로,더 많은 연결로 변화의 시작점을 모색해야 할 때인 것 같아요. 새로운 만남을 기대하며, 다음 세미나도 미리 초대드리겠습니다.
