AI 기반의 무기는 효율적이라는 이유로 군사 작전에 도입되고 있습니다. 이러한 기술이 초래할 심각한 리스크를 어떻게 규제할지, 윤리적 차원의 논의가 충분히 진행되지도 않은 채로 이미 AI는 현재진행중인 전쟁에서 살상무기로 이용되고 있습니다. 

우크라이나와 가자 지구에서 AI가 무기와 결합하여 살상에 사용되고 있다는 소식은 여러 매체를 통해 전해졌습니다. 2021년 리비아 내전에서 사용되어 인간의 감독 없이 자율적으로 민병대를 공격한 터키의 카르구-2 드론 역시 AI 무기의 무서운 현실을 잘 보여줍니다.

안토니오 구테레스 유엔 사무총장은 2026년까지 인공지능과 관련한 사무총장 보고서를 작성하도록 했고, 인공지능 무기화와 관련한 국제 시민단체들의 의견을 한 차례 수렴한 바 있습니다. 유엔인권이사회에서도 인공지능 무기화에 대한 규제 논의가 진행중에 있고, 한국정부의 주도로 시작된 국제회의체인 ‘인공지능의 책임있는 군사적 이용(REAIM)’은 국제사회의 인공지능의 군사적 이용과 관련한 규제를 논의하고 있습니다. 

AI 시스템은 민간인과 전투원을 구분하지 못하거나 잘못된 데이터를 바탕으로 비인도적이고 잘못된 결정을 내릴 수 있습니다. 그 ‘잘못된 결정’으로 무고한 생명을 잃을 위험은 크게 증가됩니다. AI 무기의 결정이 비례성의 원칙과 구별의 원칙과 같은 국제인도법(IHL)의 핵심 원칙에 부합하지 않을 가능성 또한 큽니다. 인공지능의 윤리적 위험을 최소화하고, 인공지능이 도덕적 책임 회피에 이용되지 않도록 강력한 국제 규제와 감독이 필요한 이유가 여기에 있습니다. 

그러나 AI와 무기산업 모두 시민들의 접근성이 높지 않은 전문성의 영역으로 시민들의 감시나 통제 바깥에 놓여있습니다. AI의 군사적 이용에 대한 윤리적이고 인도주의적인 공식 조사가 거의 부재한 상황에서 효율성의 관점으로만 판단할 수는 없습니다. 산적해 있는 윤리적 문제를 시급히 해결하고 AI가 기본적인 인권과 인도주의 원칙을 침해하지 않도록 엄격한 규정을 마련해야 합니다. 

피스모모는 AI의 윤리적, 인도주의적 위험을 인지하며, 지난 2021년 5월, <평화의 권리: 첨단기술 평화권 애드보카시>라는 제목의 보고서를 출간한 바 있습니다. 그 사이 인공지능의 무기화는 급속도로 진전되었습니다. 2024년 11월 17일, 조금 더 깊은 논의의 자리인 “AI 디스토피아 – 인공지능 무기화에 대해 지금 나눠야 할 이야기(11/17)” 를 준비하고 있습니다. 

AI 무기화가 어디까지 진전되었는지, 그에 대한 국제사회의 대응은 어느 정도 준비되었는지, AI가 인권과 평화에 초래할 위협과 AI 군사화가 이 지구에서 살아가는 존재들의 평화롭게 살 권리에 미칠 영향을 조명하고자 합니다. 발표를 준비해 오는 분들과 참석자들이 자신의 경험과 전문성, 각기 다른 시선과 질문을 나눔으로써 풍성하게 서로 배우며, 평화를 만들어가는 대안을 모색하는 자리에 초대합니다.

🟣일시

2024년 11월 17일(일) 오후 1:30 – 6:00  

🟣 프로그램

기조강연 : 토비월시( Prof. Toby Walsh, 호주 뉴사우스웨일즈 대학교 인공지능 석좌교수) 

토론: 사이 부로토(Sai Bourothu, 자동화된 의사결정 연구소 연구원)

토론: 김동표 (아시아경제 콘텐츠편집2팀장)

토론: 오병일 (진보네트워크 대표)

사회: 문아영 (피스모모 대표)

🟣장소

삼청동 블루스퀘어 (블루웍스, 서울시 종로구 북촌로 125-6)  

🟣참가비 – 5천원 

 우리은행 1005-784-160519 (예금주: 사단법인 피스모모)

피스모모 회원은 무료로 참여하실 수 있습니다:)

(회원가입: https://peacemomo.org/becoming-momo/)

참가비 입금 순으로 참가가 확정되는 점 양해 부탁드립니다.

프로그램 시작 이후에는 참가비 환불이 어렵습니다.

🟣주최

피스모모

🟣후원

프리드리히 에버트 재단  

🟣문의

피스모모 리서치랩 가연

gayeon@peacemomo.org

02-6351-0904​