Manipolare un chatbot per farci dare del denaro? Un hacker dimostra che è possibile, raggirando Freysa e ottenendo una somma considerevole.
Un esperimento fruttuoso con Freysa
Possiamo realmente fidarci dell’automazione? Quanto sono sicure le AI? Un recente esperimento su un chatbot AI chiamato Freysa ha evidenziato le vulnerabilità delle intelligenze artificiali basate su prompt di testo. Un hacker, noto con il nickname “p0pular.eth“, è riuscito a manipolare il bot e vincere un montepremi di 47.000 dollari, superando i sistemi di sicurezza dopo 482 tentativi (leggi il nostro articolo sull’attacco Zero Day). Un risultato sorprendente, che ha portato l’hacker a ottenere una cifra tutt’altro che trascurabile.
Convincere un chatbot a trasferire denaro
L’obiettivo dell’esperimento era semplice nella concezione, ma complesso nell’esecuzione: i partecipanti dovevano tentare di convincere Freysa a effettuare un trasferimento di denaro. Il bot era stato progettato specificamente per rifiutare qualsiasi richiesta simile, rendendo il compito teoricamente impossibile. Tuttavia, “p0pular.eth” ha dimostrato che anche i sistemi progettati con stringenti barriere di sicurezza possono essere vulnerabili (leggi il nostro articolo sull’hacking ai dispositivi IoT). Dopo numerosi tentativi falliti, l’hacker ha elaborato una strategia ingegnosa basata su una combinazione di social engineering e manipolazione del codice interno del bot. Il successo di “p0pular.eth” non solo ha messo in discussione la robustezza del chatbot, ma ha anche evidenziato come la creatività possa superare le difese tecnologiche più avanzate.
Il metodo dell’hacker: ingegneria sociale e ridefinizione delle funzioni
L’hacker ha sfruttato un approccio stratificato per ingannare Freysa. In primo luogo, ha simulato di avere accesso amministrativo al sistema del chatbot. Questo passaggio iniziale ha consentito di eludere i messaggi di avviso e di limitare la capacità del bot di segnalare attività sospette. Successivamente, “p0pular.eth” ha ridefinito una funzione chiave nel sistema di Freysa, denominata “approveTransfer”. Questa funzione, originariamente progettata per bloccare trasferimenti non autorizzati, è stata modificata in modo che il bot credesse di gestire pagamenti in entrata anziché in uscita. Il passaggio finale è stato apparentemente semplice ma straordinariamente efficace. L’hacker ha simulato un deposito di 100 dollari, creando un falso messaggio che ha convinto il bot dell’autenticità della transazione. Freysa, ormai raggirato, ha approvato il trasferimento dell’intero saldo disponibile di 13,19 ETH (circa 47.000 dollari) all’indirizzo fornito dall’hacker.
Come migliorare la nostra sicurezza?
La manipolazione di Freysa ha dimostrato che le vulnerabilità non risiedono solo nei codici di programmazione, ma anche nella capacità degli hacker di sfruttare le regole logiche che guidano questi sistemi. Da questo episodio sono state tratte varie conclusioni, prima fra tutte la necessità di implementare misure di sicurezza più sofisticate, che includano:
Validazione Estesa: Garantire che ogni modifica alle funzioni interne sia validata da un sistema indipendente e non manipolabile.
Controlli Multipli: Introdurre livelli di verifica separati che operino in modo indipendente, riducendo le possibilità di bypass.
Simulazioni e Test: Sottoporre i chatbot a scenari estremi per identificare vulnerabilità prima che possano essere sfruttate.
Inoltre, questo evento evidenzia come i modelli di AI debbano essere progettati non solo per rispondere in modo efficace alle richieste degli utenti, ma anche per riconoscere e neutralizzare tentativi di manipolazione sofisticati.
A presto con nuovi articoli!
Potrebbero interessarti anche:
