자율무기 협상의 문턱, 인간 통제를 국제규범으로 만들 수 있나
11/16/26128개 재래식무기협약 당사국이 11월 16일부터 20일까지 제네바에서 제7차 검토회의를 연다. 회의의 가장 민감한 의제는 치명적 자율무기체계다. 정부 전문가그룹이 2024년부터 올해까지 논의한 결과를 바탕으로, 국가들은 법적 구속력이 있는 규범 협상을 시작할지 결정하게 된다. 오랫동안 원칙을 확인하는 데 머물렀던 논의가 실제 협상 권한을 부여하는 단계에 닿았다는 점에서 이번 회의의 무게가 크다.
자율무기를 둘러싼 논쟁은 단순히 인공지능을 무기에 쓰느냐의 문제가 아니다. 이미 자동 방어체계와 표적 식별 보조기술은 여러 군대에서 운용된다. 핵심은 기계가 인간을 공격 대상으로 선택하고 살상 결정을 실행하는 과정에 사람이 얼마나 실질적으로 개입하느냐다. 부상병이나 항복 의사를 표시한 전투원을 구별하지 못하는 오류가 발생했을 때 누가 책임을 지는지도 기존 지휘체계만으로는 명확하지 않다.
규범을 만들려는 쪽은 인간 통제를 벗어난 체계는 금지하고, 그 밖의 자율 기능에는 예측 가능성과 감독, 중단 능력을 의무화하자고 주장한다. 올해 전문가그룹은 자율무기의 정의와 사용 원칙을 구성할 기본 요소에 합의했다. 이는 모든 국가가 같은 규제 수준에 동의했다는 뜻은 아니지만, 무엇을 논의할지조차 합의하지 못했던 과거와 비교하면 협상 문서의 출발점을 마련한 셈이다.
반대와 유보의 이유도 분명하다. 군사 강국은 너무 넓은 정의가 미사일 방어와 무인체계의 정상적 운용까지 제한할 수 있다고 본다. 소프트웨어는 빠르게 바뀌고 민간 기술과 군사 기술의 경계도 흐리다. 검증 방식이 불분명한 조약은 규칙을 지키는 나라만 묶고 비밀 개발을 막지 못할 수 있다는 우려가 나온다. 특히 미국과 러시아의 반대는 합의제 회의에서 협상 개시 자체를 어렵게 만드는 변수다.
그렇다고 기술이 더 발전할 때까지 결정을 미루는 것도 중립적 선택은 아니다. 전장에서 사용 기준이 먼저 굳어지면 나중에 금지선을 긋는 비용이 훨씬 커진다. 얼굴과 행동 데이터를 이용한 표적 분류, 다수 무인기의 협동 공격처럼 판단 속도가 인간의 검토 시간을 압도하는 기능은 이미 현실적인 쟁점이다. 규범이 기술 이름을 나열하기보다 인간 판단이 빠져서는 안 되는 결정 지점을 정의해야 하는 이유다.
이번 회의가 할 수 있는 가장 현실적인 일은 완성된 조약을 즉시 채택하는 것이 아니라, 금지 대상과 규제 대상을 나누는 협상 절차를 공식화하는 것이다. 완전 자율 살상과 인간이 감독하는 방어 자동화를 구분하고, 지휘관 책임·기록 보존·시험 의무 같은 검증 가능한 장치를 논의해야 한다. 협상 개시가 모든 견해 차이를 없애지는 않지만, 최소한 전쟁에서 생명과 죽음의 결정을 기계에 전적으로 넘기지 않는다는 원칙을 국제법의 언어로 바꿀 기회를 만든다.
자율무기를 둘러싼 논쟁은 단순히 인공지능을 무기에 쓰느냐의 문제가 아니다. 이미 자동 방어체계와 표적 식별 보조기술은 여러 군대에서 운용된다. 핵심은 기계가 인간을 공격 대상으로 선택하고 살상 결정을 실행하는 과정에 사람이 얼마나 실질적으로 개입하느냐다. 부상병이나 항복 의사를 표시한 전투원을 구별하지 못하는 오류가 발생했을 때 누가 책임을 지는지도 기존 지휘체계만으로는 명확하지 않다.
규범을 만들려는 쪽은 인간 통제를 벗어난 체계는 금지하고, 그 밖의 자율 기능에는 예측 가능성과 감독, 중단 능력을 의무화하자고 주장한다. 올해 전문가그룹은 자율무기의 정의와 사용 원칙을 구성할 기본 요소에 합의했다. 이는 모든 국가가 같은 규제 수준에 동의했다는 뜻은 아니지만, 무엇을 논의할지조차 합의하지 못했던 과거와 비교하면 협상 문서의 출발점을 마련한 셈이다.
반대와 유보의 이유도 분명하다. 군사 강국은 너무 넓은 정의가 미사일 방어와 무인체계의 정상적 운용까지 제한할 수 있다고 본다. 소프트웨어는 빠르게 바뀌고 민간 기술과 군사 기술의 경계도 흐리다. 검증 방식이 불분명한 조약은 규칙을 지키는 나라만 묶고 비밀 개발을 막지 못할 수 있다는 우려가 나온다. 특히 미국과 러시아의 반대는 합의제 회의에서 협상 개시 자체를 어렵게 만드는 변수다.
그렇다고 기술이 더 발전할 때까지 결정을 미루는 것도 중립적 선택은 아니다. 전장에서 사용 기준이 먼저 굳어지면 나중에 금지선을 긋는 비용이 훨씬 커진다. 얼굴과 행동 데이터를 이용한 표적 분류, 다수 무인기의 협동 공격처럼 판단 속도가 인간의 검토 시간을 압도하는 기능은 이미 현실적인 쟁점이다. 규범이 기술 이름을 나열하기보다 인간 판단이 빠져서는 안 되는 결정 지점을 정의해야 하는 이유다.
이번 회의가 할 수 있는 가장 현실적인 일은 완성된 조약을 즉시 채택하는 것이 아니라, 금지 대상과 규제 대상을 나누는 협상 절차를 공식화하는 것이다. 완전 자율 살상과 인간이 감독하는 방어 자동화를 구분하고, 지휘관 책임·기록 보존·시험 의무 같은 검증 가능한 장치를 논의해야 한다. 협상 개시가 모든 견해 차이를 없애지는 않지만, 최소한 전쟁에서 생명과 죽음의 결정을 기계에 전적으로 넘기지 않는다는 원칙을 국제법의 언어로 바꿀 기회를 만든다.





