Robots assassins: "Confiar en algoritmes per atacar persones deshumanitzarà la guerra i erosionarà la nostra humanitat"

Els governs haurien de recuperar el temps perdut i començar urgentment les negociacions per a un nou tractat que permeti mantenir un significatiu control humà sobre l'ús de la força, va assenyalar Human Rights Watch en un comunicat. Representants d'aproximadament 50 països es reuniran el 3 d'agost de 2021 a la seu de les Nacions Unides a Ginebra per celebrar la seva primera reunió diplomàtica oficial sobre sistemes d'armes autònomes letals, o "robots assassins", en gairebé un any.

L'informe de 17 pàgines, "Àrees of Alignment: Common Visions for a Killer Robots Treaty" ( "Àrees d'alineació: visions comuns per a un tractat contra els robots assassins"), publicat conjuntament per Human Rights Watch i la Clínica Internacional de Drets Humans de la Facultat de Dret de Harvard, descriu fortes objeccions a delegar les decisions de vida i mort en les màquines expressades pels governs en l'última reunió oficial de la Convenció sobre Armes Convencionals (CCW, per les sigles en anglès) en aquesta reunió, celebrada al setembre de 2020, es van presentar propostes de molts països per negociar un nou tractat internacional que prohibeixi i restringeixi les armes autònomes.

Dron de guerra israeliana volant sobre el West Bank @ep

"És necessari ampliar el dret internacional per crear noves normes que garanteixin el control humà i la rendició de comptes en l'ús de la força", va dir Bonnie Docherty, investigadora principal de la Divisió d'Armes de Human Rights Watch i directora associada de conflictes armats i protecció civil a la Clínica Internacional de Drets Humans de Harvard. "Les preocupacions morals, legals i de seguretat fonamentals que plantegen els sistemes d'armes autònomes justifiquen una resposta ferma i urgent en forma d'un nou tractat internacional".

Gairebé 100 països han expressat públicament la seva opinió sobre els robots assassins des de 2013. La majoria ha demanat repetidament un nou tractat internacional per mantenir un control humà significatiu sobre l'ús de la força, inclosos 31 que han sol·licitat explícitament la prohibició dels sistemes letals de armes autònomes. No obstant això, un petit nombre de països militarment avançats - sobretot Israel, Rússia i els Estats Units - consideren prematura qualsevol mesura per crear una llei internacional. Estan invertint molt en aplicacions militars d'intel·ligència artificial i desenvolupant sistemes d'armes autònomes d'aire, terra i mar.

Els governs han expressat el seu suport a la prohibició dels sistemes autònoms que són legalment o moralment inacceptables. Hi ha un gran interès per prohibir els sistemes d'armes que, per la seva naturalesa, seleccionen i ataquen objectius sense un control humà significatiu, inclosos els sistemes complexos que utilitzen algoritmes d'aprenentatge automàtic per produir efectes imprevisibles o inexplicables. També es demana que es prohibeixin els sistemes d'armes antipersona que es basen en perfils derivats de dades biomètriques i d'un altre tipus recollits per sensors per identificar, seleccionar i atacar individus o categories de persones.

"Matar o ferir a persones basant-se en dades recollides per sensors i processats per màquines violaria la dignitat humana", va dir Docherty. "Confiar en algoritmes per atacar persones deshumanitzarà la guerra i erosionarà la nostra humanitat".

Molts països han proposat complementar aquestes prohibicions amb reglaments que garanteixin que tots els altres sistemes d'armes autònomes només s'utilitzin amb un control humà significatiu, van dir els grups. Per "control humà significatiu" s'entén que la tecnologia sigui comprensible i predictible i que les seves operacions estiguin limitades en l'espai i el temps.

Un informe d'octubre de 2020 elaborat per Human Rights Watch i la Clínica Internacional de Drets Humans recomanava elements per a un nou tractat sobre robots assassins que coincideixen en gran mesura amb les propostes realitzades pels països que van participar en la reunió de setembre de 2020.

Les decisions en la Convenció sobre Armes Convencionals es prenen per consens, el que permet que uns pocs països - o fins i tot un de sol - bloquegin un acord buscat per la majoria. No obstant això, no cal negociar un nou tractat sota els auspicis de la Convenció sobre Armes Convencionals, i hi ha indicis que els líders polítics estan ansiosos per avançar i aconseguir un resultat més ràpid i durador.

Al juliol, el ministre neozelandès de Desarmament i Control d'Armes, Phil Twyford, va advertir que les actuals converses diplomàtiques "no estan donant resultats" i va suggerir als que es preocupen per la perspectiva dels sistemes d'armes autònomes que es reuneixin i "dissenyin alguna cosa veritablement adequat per al propòsit ". I va afegir: "Per a molts de nosaltres, la idea que un ordinador pugui identificar i atacar un objectiu de forma autònoma és inconcebible".

Un ampli i creixent nombre de països, institucions, empreses privades i particulars han reiterat el seu desig que es prohibeixin els sistemes d'armes autònomes letals. Al maig, el Comitè Internacional de la Creu Roja (CICR) va instar els països a negociar un tractat internacional per prohibir els sistemes d'armes autònomes que siguin imprevisibles o que apuntin a les persones, i que establissin regulacions per garantir el control humà sobre altres sistemes. Des 2018, el secretari general de les Nacions Unides, António Guterres, ha instat els Estats a prohibir els sistemes d'armes que puguin, per si mateixos, apuntar i atacar als éssers humans, qualificant-los de "moralment repugnants i políticament inacceptables".

Els 31 països que exigeixen la prohibició dels robots assassins són Algèria, Argentina, Àustria, Bolívia, Brasil, Xile, Xina (només l'ús), Colòmbia, Costa Rica, Cuba, Equador, El Salvador, Egipte, Ghana, Guatemala, Iraq , Jordània, Mèxic, el Marroc, Namíbia, Nicaragua, Pakistan, l'Estat de Palestina, Panamà, Perú, Uganda, el Vaticà, Veneçuela, Djibouti i Zimbabwe.

Human Rights Watch és cofundadora de la Campanya de Prohibició de Robots Assassins, la coalició de més de 180 organitzacions no governamentals de 67 països que advoca per un tractat que mantingui un control humà significatiu sobre l'ús de la força i prohibeixi els sistemes d'armes que operen sense aquest control.

"És factible i essencial posar un límit a les problemàtiques tecnologies emergents mitjançant la negociació d'un nou tractat internacional per mantenir un control humà significatiu sobre l'ús de la força", va dir Docherty. "No ha d'haver més retards".