Els perills de la intel·ligència artificial

Pablo Rodríguez Canfranc
Economista

intel·ligència artificial


La capacitat que té la intel·ligència artificial per automatitzar tasques abans realitzades per humans augmenta el potencial de fer mal en el cas de ser usada amb fins maliciosos, com, per exemple, per dur a terme ciberatacs.


El desenvolupament de sistemes intel·ligents que aprenen sols pot portar canvis en gairebé tots els sectors econòmics, des de la producció manufacturera fins a la salut, des de l'atenció al client en les empreses comercials fins al transport autònom de mercaderies i persones.


No obstant això, la societat acull la intel·ligència artificial amb no poc por i incertesa, principalment pel seu caràcter disruptiu i la seva capacitat per substituir treballadors humans destruint d'aquesta manera un elevat volum de llocs de treball. Però aquest no és l'únic perill de l'automatització, també és de témer l'ús maliciós que pot dur-se a terme amb la intel·ligència artificial.


Un recent informe ha estudiat la possibilitat que la intel·ligència artificial sigui utilitzada per amenaçar la seguretat i causar dany. El treball porta el títol de The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation i està signat per institucions de prestigi com la Universitat d'Oxford, el Future of Humanity Institute, Centre of the Study of Existential Risk, Center for a New American Security, l'Electronic Frontier Foundation i OpenAI. Bàsicament, analitza els principals riscos que implica un ús malintencionat de la IA i planteja recomanacions per poder prevenir-los.


Segons el parer dels autors, la intel·ligència artificial pot alterar el panorama actual d'amenaces de tres maneres:


- Augmentant les amenaces existents. A l'abaratir-se el cost de realitzar un atac, ja que s'automatitzen nombroses funcions que abans havien de realitzar els humans, augmenta notablement el nombre d'actors que ara poden fer-ho.


- Introduint noves amenaces. Poden sorgir nous atacs en possibilitar la IA la realització de tasques que abans eren impracticables per als humans. Paral·lelament, la IA permet analitzar les vulnerabilitats dels sistemes de defensa.


- Canviant el caràcter de les amenaces. Els atacs poden ser ara més efectius, més precisos en assolir l'objectiu i més difícils d'atribuir a un agent concret.


D'altra banda, tres són també els àmbits de seguretat estudiats:


- La seguretat digital. Gràcies a la intel·ligència artificial, els ciberatacs podran ser molt efectius a molt gran escala. Es parla de la possibilitat que es produeixin més amenaces relacionades amb les estafes basades en suplantació de personalitat i robatori de dades personals (spear phishing) o els atacs que s'aprofiten de la vulnerabilitat humana, del programari i dels sistemes d'intel·ligència artificial.


- La seguretat física. Consisteix en utilitzar la IA per automatitzar els atacs amb drones i altres sistemes físics. També es considera la possibilitat de rebre atacs que subverteixin sistemes ciberfísicos, per exemple, portar al fet que un cotxe autònom s'estavelli.


- Seguretat política. La manipulació social i la invasió de la privacitat es poden dur a terme mitjançant l'anàlisi d'ingents quantitats de dades personals, la persuasió mitjançant propaganda dirigida i l'engany, per exemple, mitjançant la manipulació de vídeos. A més, poden produir-se nous tipus d'amenaces que s'aprofitin de la capacitat de la IA per analitzar el comportament humà, els estats d'ànim i les creences.


De cara a prevenir aquest tipus d'amenaces, l'informe ofereix una sèrie de recomanacions:


1. Els legisladors han de col·laborar amb els tècnics i investigadors per poder prevenir i mitigar els possibles usos maliciosos de la intel·ligència artificial.


2. Els investigadors i els enginyers han de considerar seriosament el doble ús que pot tenir el resultat del seu treball, tenint sempre en compte la possibilitat real que es realitzi un mal ús de les aplicacions que desenvolupen en el camp de la IA.


3.Hay d'identificar bones pràctiques en àrees de recerca que han desenvolupat mètodes eficients per gestionar les qüestions relacionades amb el doble ús de la tecnologia, com la seguretat informàtica, i traslladar-les al camp de la intel·ligència artificial.


4.Ampliar el rang de grups d'interès i experts implicats en els debats relacionats amb aquestes amenaces.

Sense comentarios

Escriu el teu comentari




No s'admeten comentaris que vulnerin les lleis espanyoles o injuriants. Reservat el dret d'esborrar qualsevol comentari que considerem fora de tema.


Més autors
Opinadors
Llegir edició a: ESPAÑOL | ENGLISH