지난 7월, 글로벌 노벨상 수상자 총회가 채택한 <로마 선언 - 문턱에 선 인류: 인공지능과 핵무기에 관한 선언>을 TEPI 황용하 연구위원께서 번역해주셨습니다. 전문(前文) 인류는 역사상 결정적인 순간에 서 있다. 핵 시대의 여명이 밝은 지 80 여 년이 지난 지금, 그리고 인공지능 시대의 문턱에서, 우리는 전례없는 도전에 직면해 있다. 과학의 진보가 이토록 놀라운 기회를 제공하는 동시에 우리의 공동 미래에 이토록 심대한 위험을 초래한 적은 일찍이 없었다. 핵무기가 처음 개발되었을 때, 세계는 영구적인 공포의 역학 속에서 살지 않을 기회를 가지고 있었다. 우리는 그 기회를 놓쳤고, 그 결과 인류는 핵 절멸의 벼랑 끝에서 살아왔다. 인공지능에서도 이와 유사한 위험이 나타나고 있다. 핵 체계에 내장된 인공지능은 위기 상황에서 인간의 판단을 위한 시간을 거의 남겨두지 않거나, 심지어 그 판단을 대체해버린다. 이 기술은 핵무장국들이 서로 경쟁하는 맥락 자체를 바꾸어 놓는다. 인공지능은 대규모 실업을 초래하고 핵무장국 간의 경제적 경쟁을 격화시킬 가능성이 높다. 인공지능은 민간 및 전략 핵심 기반시설을 무너뜨릴 수 있는 사이버 공격의 능력을 증대시킨다. 인공지능은 정보전을 가능하게 한다. 평화는 공유된 현실에 달려 있다. 사실이 없으면 진실이 있을 수 없고, 진실이 없으면 신뢰가 있을 수 없으며, 신뢰가 없으면 국가 간의 대화도, 검증도, 자제도 있을 수 없다. 가장 진보된 인공지능 역량, 컴퓨팅 자원, 데이터 인프라는 소수의 국가와 기업에 점점 더 집중되고 있으며, 이는 심각한 힘의 비대칭과 협력에 대한 제한된 유인을 낳고 있다. 인공지능은 경제적, 군사적, 사회적 혼란을 초래하는 기술이며, 인류 역사상 유례없는 속도로 발전하고 있다. 악화되는 핵무기 경쟁의 한가운데서, 우리는 그에 못지않게 위험한 인공지능 경쟁에 발을 들이고있다. 교황 레오 14 세는 여러 종교 전통이 공유하는 가치를 상기시키며 인류에게 "무장 해제되고 무장을 해제시키는 평화"를 향해 나아갈 것을 촉구했다. 우리는 지속 가능한 안보가 공포, 지배, 또는 상호 파괴의 항구적 위협 위에 세워질 수 있다는 믿음을 거부한다. 안보는 상호 파괴의 현실 위에 무한정 의존할 수 없다. 현재 세대와 미래 세대에 대한 공동의 책임을 인식하며, 우리는 다음의 원칙들을 채택한다. 1. 다가오는 군비 경쟁의 무장 해제 우리는 인공지능이 이전의 핵무기와 마찬가지로 전략적 경쟁의 장이 되고 있음을 인식한다. 우리는 각국 정부, 최첨단 인공지능 개발자, 연구자, 그리고 국제사회가 이익 공유 메커니즘, 인류의 복지에 기여하는 인공지능 응용 프로그램의 증진, 가장 불안정을 초래하는 응용 분야에 대한 자제 등의 거버넌스 방안을 통해 지금 즉시 행동에 나서, 아직 선택권이 우리에게 있는 동안 이러한 위험을 줄여나갈 것을 촉구한다. 우리는 인공지능과 핵무기 모두에서 군비 경쟁이 다음 세기 또한 규정하기 전에 그것을 무장 해제해야 한다. 2. 책임 있는 개발 인공지능 개발자는 자사 모델의 행동을 이끄는 원칙을 투명하게 공개해야 하며, 그러한 원칙에 대한 모델의 준수 여부에 대해 책임과 법적 책무를 져야 한다. 인공지능은 국제법과 인권 존중을 포함하여 인류의 이익에 부합하도록 개발되고 감시되어야 한다. 나아가, 어떠한 조직도 감시할 수단, 그리고 필요시 중단시킬 수단 없이 인공지능 시스템의 완전 자동화된 재귀적 자기 개선을 시작해서는 안 되며, 어떠한 정부도 이를 허용해서는 안 된다. 3. 인공지능의 책임 있는 사용 자동화된 시스템이 핵무기 발사에 관한 최종 결정을 내려서는 결코 안 된다. 우리는 의미 있는 인간의 통제가 유지될 수 있도록, 핵 지휘·통제·발사 체계에 인공지능을 무모하게 통합하는 것을 금지하는 국제 조약의 채택을 촉구한다. 우리는 사이버 작전 및 핵심 핵 기반시설에 대한 공격에서 인공지능이 악의적으로 사용되는 것을 반드시 막아야 한다. 핵무장국들은 자국의 핵전력이 인공지능에 의한 승인되지 않은 통제나 조작에 취약해지지 않도록 오류 방지 검토를 실시해야 한다. 우리는 인류의 복지를 향상시키고, 과학 및 의학의 발전을 가속화하며, 환경을 보호하고, 회복력을 강화하며, 평화와 지속가능한 발전, 그리고 공동선을 증진하기 위한 인공지능의 책임있는 개발과 사용을 장려한다. 4. 책임 있는 거버넌스 우리는 각국 정부, 기업, 국제기구가 검증 체계와 견고한 내부·외부 평가와 같은 공동의 메커니즘을 마련함으로써 최첨단 인공지능 개발의 조율된 둔화를 가능하게 할 것을 촉구한다. 우리는 유엔 독립 국제 인공지능 과학패널을 지지하며, *마그니피카 후마니타스의 정신에 따른 다른 노력들의 증진을 지지한다. 우리는 인공지능의 국제 거버넌스를 위한 새로운 제도적 경로를 제안하고 향후 글로벌 거버넌스 구상을 실행하기 위한 확장 연구와 대화를 촉구한다. *마그니피카 후마니타스(Magnifica Humanitas): 2026년 5월 25일에 발표된 교황 레오 14세의 첫 번째 회칙으로, "인공지능 시대에 인간을 보호하는 것"을 주제로 다루고 있다. 5. 책임 있는 리더십 우리는 우리가 직면한 과제들이 결국 다음 세대의 지도자들에 의해 해결될 것임을 인식한다. 젊은이들은 교육, 멘토링, 세대 간 협력, 그리고 모든 지역·문화·공동체를 아우르는 포용적 참여를 통해 핵무기, 인공지능, 그리고 기타 잠재적인 파국적 위협에 관여할 수 있는 힘을 부여받아야 한다. 우리는 윤리적 책임감, 비판적 사고, 미디어 및 인공지능 리터러시, 그리고 평화의 문화를 함양하는 교육 이니셔티브를 증진해야 한다. 우리는 인류가 서로 연결된 수많은 위협에 직면해 있으며, 그로 인한 의도치 않은 결과가 종종 해당 기술에 대한 접근권이나 통제권이 없는 이들에게 영향을 미친다는 점을 인정한다. 우리는 핵무기, 통제받지 않는 인공지능, 그리고 기타 실존적 위협에 대한 이해와 대응을 증진하기 위해 데이터를 성장시키는 디지털 공유지를 촉구한다. 6. 핵군축 우리는 합의되고 시한이 정해진 틀 안에서 핵무기의 검증 가능하고 되돌릴 수 없는 폐기로 이어지는 긴급하고 지속적이며 성실한 협상을 촉구한다. 국제사회는 핵무기를 영구적인 안보 수단으로 정상화하는 것을 거부해야 하며, 핵확산금지조약(NPT)과 핵무기금지조약(TPNW)에 구현된 인도주의적·법적 규범을 강화해야 한다. 우리는 핵무장국들이 새롭게 재개된 군비 경쟁과 자국 무기고의 확장을 중단하고, 군비통제 및 군축에 관한 양자 및 다자간 협상을 재개하며, 국제법상의 의무와 공약을 이행할 것을 촉구한다. 각국은 검증 가능한 자제와 감축을 추구해야 하며, 경계태세 수준을 낮추고, 의사결정 시간을 연장하며, 경고 즉시 발사 및 즉각 보복 태세에서 벗어나고, 안보 독트린에서 핵무기의 역할을 축소하며, 위기 커뮤니케이션을 강화하고, 핵 지휘·통제·통신 체계에 대한 사이버 작전을 방지하며, 오해·오판·의도치 않은 확전을 막기 위한 협력을 구축해야 한다. 핵보유국들은 핵무기의 역할을 축소하고 선제 사용 및 파국적 전쟁의 가능성을 낮추는 정책과 독트린을 증진해야 한다. "우리는 인간으로서 인간에게 호소한다: 그대들의 인간성을 기억하고, 나머지는 잊으라." - 버트런드 러셀 & 알베르트 아인슈타인 - 한국어 번역본은 여기서 다운로드하실 수 있습니다. 인류의 존엄을 지키는 <로마 선언> 원문을 보고 서명에 동참하시려면 여기를 클릭해 주세요.
