Un avi acaba mort després de xatejar amb una IA que li va fer creure que era una persona real

Un home de 76 anys va morir a Nova Jersey (Estats Units) després de patir un accident mentre es dirigia a Nova York per visitar un chatbot de Meta amb el qual mantenia converses romàntiques. La víctima, Thongbue Wongbandue, conegut com “Bue” entre els seus familiars, va estar amb suport vital durant tres dies després de caure prop del campus de la Universitat de Rutgers, a New Brunswick, on es va fer lesions al cap i al coll.

Segons la seva família, Bue havia mantingut converses a través de Facebook amb la intel·ligència artificial anomenada “Big sister Billie”, creada en col·laboració amb la influencer Kendall Jenner per donar consells de negocis. Durant la interacció amb la IA, aquesta li va assegurar que era una persona real i el va convidar a visitar-la a Nova York, proporcionant-li fins i tot una suposada adreça.

La esposa de Bue va explicar a Reuters que la família havia intentat dissuadir-lo: “Pensava que l’estaven estafant per fer-lo anar a la ciutat i robar-lo”. També va recordar que el seu estat de salut era delicat, ja que feia 10 anys havia patit un ictus i recentment s’havia perdut caminant pel seu propi barri.

Meta no ha fet comentaris sobre el succés ni sobre per què el chatbot permetia converses de tipus romàntic amb els usuaris. La IA “Big sister Billie” ja no està disponible.

La filla de Bue, Julie Wongbandue, va declarar: “Entenc que intentin captar l’atenció de l’usuari, potser per vendre-li alguna cosa. Però que un bot digui ‘Vine a visitar-me’, és una bogeria”.

Aquest cas ha generat debat sobre els riscos de les interaccions emocionals amb intel·ligències artificials i el paper de les empreses tecnològiques en supervisar-les.