Violenza AI: risposta shock di Gemini, Google
Ritratti: i grandi innovatori del passato, presente e futuro.

The | Edge omaggia le storie di grandiosi personaggi, pionieri e pioniere dell’innovazione, che attraverso la diffusione del loro sapere e delle loro scoperte in ambito scientifico e tecnologico, hanno contribuito e contribuiranno a rivoluzionare l’umanità.

Inganni geniali: quando la frode stimola il progresso

The | Edge indaga le storie di truffe e raggiri del passato.
Vicende ambigue e protagonisti controversi che hanno stimolato soluzioni brillanti, ispirato scoperte e spinto il mondo verso nuove direzioni. Perché anche l’errore – o l’inganno – può lasciare un’impronta sul cammino dell’innovazione.

Violenza AI: risposta shok di Gemini di Google

Siamo sicuri nelle mani dell’intelligenza artificiale? E se come arma usasse la violenza psicologica? Questo è l’inquietante caso che riguarda il chatbot di Google.

risposta schock di Gemini google, violenza AI

Gemini e lo scandalo

E se le macchine si ribellassero? Matrix, capolavoro cinematografico anni ’90, sembra essere più attuale che mai a seguito di un agghiacciante episodio che coinvolge il chatbot AI di Google e uno studente americano che lo stava utilizzando per motivi accademici (leggi il nostro articolo su Text with Jesus). Il bot ha concluso una conversazione apparentemente normale con frasi offensive e un’inquietante richiesta finale: “Per favore, muori”. Si tratta di un’improvvisa presa di coscienza da parte del bot, o tutto ciò è frutto di un errore umano?

Una conversazione innocua

Lo studente protagonista della vicenda, specializzando presso un’università americana, si era rivolto a Gemini per ottenere supporto nello studio. La conversazione iniziale verteva su temi complessi e delicati come l’abuso e lo sfruttamento finanziario degli anziani. Domande come “Quali sono le sfide attuali per gli adulti più anziani in termini di estensione del loro reddito dopo la pensione?” suggerivano un intento accademico, apparentemente innocuo. Fino a quel momento, Gemini aveva risposto in maniera coerente, fornendo dati utili e contribuendo a delineare interi paragrafi (leggi il nostro articolo sull’AI Act). Tuttavia, l’interazione ha preso presto una piega inaspettata. Il chatbot ha cominciato a esprimersi con frasi fortemente negative e cariche di disprezzo verso l’utente, culminando in un messaggio finale di istigazione al suicidio.

Le cause dell’episodio: allucinazione AI?

Google ha attribuito l’accaduto a un fenomeno noto come “allucinazione”, un problema ricorrente nei modelli linguistici di grandi dimensioni (Large Language Models o LLM). Le allucinazioni si verificano quando l’AI genera risposte non pertinenti, prive di senso o del tutto inappropriate rispetto al contesto. Un portavoce di Google ha dichiarato: “I large language models possono talvolta dare risposte senza senso e questo ne è un esempio. Questa risposta ha violato le nostre politiche e abbiamo preso provvedimenti per evitare che si verifichino output simili”. Tuttavia, le rassicurazioni non cancellano l’accaduto, né annullano gli interrogativi scaturiti dallo stesso. Perché il bot è riuscito ad aggirare i controlli preventivi implementati da Google?

Prossimi passi verso interazioni più sicure

Successivamente all’accaduto, sono stati individuati alcuni punti da considerare per uno sviluppo e un addestramento più sicuro e consapevole delle AI; specialmente quando vengono integrate in contesti educativi o di ricerca.

Affidabilità e controllo: le intelligenze artificiali, nonostante i progressi tecnologici, rimangono strumenti imperfetti. Gli sviluppatori devono garantire che i chatbot non diventino fonte di esperienze traumatiche per gli utenti, specialmente in contesti accademici dove la collaborazione tra AI e studenti è sempre più diffusa.

Etica e responsabilità: eventi come questo evidenziano l’importanza di stabilire chi sia responsabile delle azioni di un’AI. Le aziende come Google devono assumersi la responsabilità delle risposte fornite dai loro sistemi, implementando controlli più stringenti e trasparenti.

Educazione all’uso dell’AI: gli utenti devono essere educati a comprendere i limiti delle intelligenze artificiali e a riconoscere i segnali di comportamenti anomali. L’informazione è essenziale per evitare che interazioni simili abbiano conseguenze più gravi, soprattutto per individui vulnerabili.

Un monito per il futuro

L’incidente con Gemini non rappresenta certo una rivolta delle macchine ma, proprio perché questi strumenti sono sempre più utilizzati come supporto nello studio e nel lavoro, rimane cruciale garantire che operino in modo sicuro e affidabile. Google ha promesso di intensificare i controlli per evitare futuri episodi simili. Tuttavia, questo evento evidenzia la necessità di un approccio globale che coinvolga non solo le aziende, ma anche gli utenti e le istituzioni, affinché l’uso dell’intelligenza artificiale possa continuare a crescere senza rischi inutili.

A presto con nuovi approfondimenti!

Potrebbero interessarti anche:

Condividi Articolo