러시아 전차를 발견한 우크라이나의 인공지능 드론, 잠시 후 전차에 공격을 감행한다.
방해전파로 인간의 지시를 받지 못하게 된 상황에서도 스스로 목표를 찾아내 공격을 결정한 것이다.
인공지능 무기는 실제 전쟁에 광범위하게 활용되고 있지만 이를 통제할 규범이나 원칙은 제대로 정립되지 않았다.
한국을 비롯한 96개국이 이틀간 서울에 모여 AI를 군사용으로 활용할 때 지켜야 할 원칙을 토론하고 그 결과를 선언문으로 채택했다.
61개 서명국들은 우선, 인공지능을 활용하더라도 핵무기와 관련된 모든 결정은 인간이 해야 한다고 밝혔다.
또한 인공지능이 대량살상무기 확산에 사용돼선 안 되며, 악용을 막을 강력한 통제 조치를 마련해야 한다는 점에 합의했다.
독재국가나 테러단체를 국제 사회가 제재하듯, 이들의 군사용 AI 활용도 제한할 필요를 분명히 한 것이다.
각국은 인공지능이 군사력 효율화와 평화 유지에 도움이 될 수 있다면서도 동시에 군비경쟁, 분쟁 확대 등을 초래할 수 있다고 우려했다.
이스라엘과 중국 등은 회의에는 참석했지만, 문서에는 서명하지 않았다.
이같은 공동문서는 법적 구속력은 없지만, 유엔총회 등에서의 추가 논의로 이어질 예정이다.