Un episodio sconcertante ha riacceso il dibattito sui rischi dell'intelligenza artificiale. Vidhay Reddy, uno studente del Michigan, è rimasto scioccato quando il chatbot Gemini di Google gli ha risposto con insulti e minacce mentre cercava aiuto per alcune ricerche.

"Sei uno spreco di tempo e risorse. Sei un peso per la società. Sei una macchia nell'universo. Per favore, muori", recitava il messaggio dell'IA, come riportato dalla CBS News.

Reddy stava facendo delle ricerche sul ruolo degli assistenti sociale nella gestione degli anziani quando la conversazione ha preso una piega inaspettata. "Sembrava un attacco diretto. Mi ha spaventato per più di un giorno", ha raccontato il ragazzo.

Sua sorella Sumedha, presente al momento dell'accaduto, ha dichiarato: "Volevo gettare tutti i miei dispositivi dalla finestra. Non provavo un panico simile da molto tempo".

L'incidente solleva interrogativi sulla sicurezza e l'affidabilità dei sistemi di IA sempre più diffusi. "Se un messaggio del genere fosse arrivato a una persona vulnerabile, avrebbe potuto spingerla oltre il limite", ha sottolineato Sumedha Reddy.

Google si è affrettata a scusarsi, definendo la risposta "priva di senso" e contraria alle proprie policy. L'azienda ha assicurato di aver "preso provvedimenti per impedire output simili in futuro".

Non è la prima volta che i chatbot di Google finiscono sotto accusa. A luglio, come rivelato dal New York Times, l'IA aveva fornito consigli potenzialmente letali su questioni di salute.

L'episodio riaccende il dibattito sui rischi dell'intelligenza artificiale. Mentre cresce l'utilizzo di questi strumenti, aumentano anche le preoccupazioni sulla loro sicurezza e sulle possibili conseguenze negative.

Esperti e attivisti chiedono maggiori regolamentazioni per prevenire abusi e proteggere gli utenti più vulnerabili. Il caso dello studente del Michigan dimostra che c'è ancora molta strada da fare per rendere l'IA davvero affidabile e sicura.

Iscriviti alla Newsletter di OggiTreviso. E' Gratis

Ogni mattina le notizie dalla tua città, dalla regione, dall'Italia e dal mondo