Sistemele militare capabile să identifice, aleagă și atace singure o persoană se apropie de realitate, avertizează ONU și Comitetul Internațional al Crucii Roșii. Cele două organizații cer reguli internaționale obligatorii pentru ca decizia de a folosi forța letală să rămână sub controlul unui om.
Secretarul general al ONU, António Guterres, și președinta Comitetului Internațional al Crucii Roșii, Mirjana Spoljaric, spun că omenirea este aproape de „țintirea autonomă a oamenilor de către mașini”. Ei consideră că depășirea acestei „linii roșii morale” trebuie împiedicată printr-un acord internațional.
Unde este folosită deja inteligența artificială
Sistemele militare asistate de inteligență artificială sunt deja prezente în conflictele din Ucraina, Sudan, Gaza, Iran și zona Golfului. Ele pot analiza imagini, identifica vehicule, urmări deplasări și propune ținte, fără ca toate să funcționeze însă complet autonom.
Unele armate folosesc și sisteme automate pentru interceptarea rachetelor, în special la bordul navelor militare. Până acum, nu există dovezi clare că arme complet autonome au selectat și atacat singure persoane.
Riscurile deciziilor automate
O eroare de interpretare poate transforma un civil într-o țintă. O persoană rănită, un militar care încearcă să se predea sau un civil care ține un obiect în mână ar putea fi clasificați greșit drept amenințări, iar atacul nu ar mai putea fi oprit după declanșare.
Este neclar și cine ar răspunde pentru victimele provocate de o astfel de armă. Responsabilitatea ar putea fi atribuită programatorului, producătorului, comandantului militar sau statului care a utilizat sistemul, ceea ce ar complica inclusiv anchetele privind eventuale crime de război.
Inteligența artificială poate avea roluri militare precum logistica, securitatea și protejarea soldaților, dar și automatizarea unor decizii cu efecte ireversibile. Tocmai această trecere de la sprijin tehnic la folosirea autonomă a forței letale provoacă îngrijorarea organizațiilor internaționale.
Negocieri programate la Geneva
Statele urmează să discute la Geneva posibile reglementări noi, iar ONU și Crucea Roșie cer ca negocierile oficiale să înceapă în noiembrie. Obiectivul este interzicerea sistemelor care operează fără un control uman suficient și stabilirea unor limite înainte ca armele autonome să devină obișnuite pe câmpurile de luptă.