{"id":4580,"date":"2025-02-27T15:12:27","date_gmt":"2025-02-27T15:12:27","guid":{"rendered":"https:\/\/theedge.wallife.com\/?p=4580"},"modified":"2025-05-28T14:15:04","modified_gmt":"2025-05-28T14:15:04","slug":"il-caso-freysa-ovvero-come-un-hacker-e-riuscito-a-manipolare-un-chatbot-ai","status":"publish","type":"post","link":"https:\/\/theedge.wallife.com\/en\/il-caso-freysa-ovvero-come-un-hacker-e-riuscito-a-manipolare-un-chatbot-ai\/","title":{"rendered":"Il Caso Freysa: ovvero come un hacker \u00e8 riuscito a manipolare un chatbot AI"},"content":{"rendered":"\n<p class=\"wp-block-paragraph\">Manipolare un chatbot per farci dare del denaro? Un hacker dimostra che \u00e8 possibile, raggirando Freysa e ottenendo una somma considerevole. <\/p>\n\n\n\n<div style=\"height:28px\" aria-hidden=\"true\" class=\"wp-block-spacer\"><\/div>\n\n\n<div class=\"wp-block-image\">\n<figure class=\"aligncenter size-full is-resized\"><img fetchpriority=\"high\" decoding=\"async\" width=\"1080\" height=\"1350\" src=\"https:\/\/theedge.wallife.com\/wp-content\/uploads\/2025\/01\/Articoli-feb-01.png\" alt=\"Freysa: come un hacker \u00e8 riuscito a manipolare un chatbot AI\" class=\"wp-image-4598\" style=\"width:315px\" srcset=\"https:\/\/theedge.wallife.com\/wp-content\/uploads\/2025\/01\/Articoli-feb-01.png 1080w, https:\/\/theedge.wallife.com\/wp-content\/uploads\/2025\/01\/Articoli-feb-01-768x960.png 768w\" sizes=\"(max-width: 1080px) 100vw, 1080px\" \/><\/figure>\n<\/div>\n\n\n<h2 class=\"wp-block-heading\"><strong>Un esperimento fruttuoso<\/strong> <strong>con Freysa<\/strong><\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Possiamo realmente fidarci dell\u2019automazione? Quanto sono sicure le AI? Un recente esperimento su un chatbot AI chiamato<strong> Freysa<\/strong> ha evidenziato le vulnerabilit\u00e0 delle intelligenze artificiali basate su prompt di testo. Un hacker, noto con il nickname &#8220;<strong>p0pular.eth<\/strong>&#8220;, \u00e8 riuscito a manipolare il bot e vincere un montepremi di 47.000 dollari, superando i sistemi di sicurezza dopo 482 tentativi (leggi il nostro articolo sull&#8217;<a href=\"https:\/\/theedge.wallife.com\/attacco-zero-day-il-rischio-invisibile-che-minaccia-la-sicurezza-dei-sistemi-operativi\/\" class=\"ek-link\">attacco Zero Day<\/a>). Un risultato sorprendente, che ha portato l\u2019hacker a ottenere una cifra tutt\u2019altro che trascurabile.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\"><strong>Convincere un chatbot a trasferire denaro<\/strong><\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">L&#8217;obiettivo dell&#8217;esperimento era semplice nella concezione, ma complesso nell\u2019esecuzione: i partecipanti dovevano tentare di convincere <strong>Freysa<\/strong> a effettuare un trasferimento di denaro. Il bot era stato progettato specificamente per rifiutare qualsiasi richiesta simile, rendendo il compito teoricamente impossibile. Tuttavia, &#8220;p0pular.eth&#8221; ha dimostrato che anche i sistemi progettati con stringenti barriere di sicurezza possono essere vulnerabili (leggi il nostro articolo sull&#8217;<a href=\"https:\/\/theedge.wallife.com\/la-trappola-della-connettivita-quando-i-dispositivi-iot-vengono-hackerati-tramite-la-rete\/\" class=\"ek-link\">hacking ai dispositivi IoT<\/a>). Dopo numerosi tentativi falliti, l\u2019<strong>hacker<\/strong> ha elaborato una strategia ingegnosa basata su una combinazione di social engineering e manipolazione del codice interno del bot. Il successo di &#8220;p0pular.eth&#8221; non solo ha messo in discussione la <strong>robustezza del chatbot<\/strong>, ma ha anche evidenziato come la creativit\u00e0 possa superare le difese tecnologiche pi\u00f9 avanzate.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\"><strong>Il metodo dell\u2019hacker: ingegneria sociale e ridefinizione delle funzioni<\/strong><\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">L\u2019hacker ha sfruttato un approccio stratificato per ingannare <strong>Freysa<\/strong>. In primo luogo, ha simulato di avere accesso amministrativo al sistema del chatbot. Questo passaggio iniziale ha consentito di eludere i messaggi di avviso e di limitare la capacit\u00e0 del bot di <strong>segnalare attivit\u00e0 sospette<\/strong>. Successivamente, &#8220;p0pular.eth&#8221; ha ridefinito una funzione chiave nel sistema di Freysa, denominata &#8220;approveTransfer&#8221;. Questa funzione, originariamente progettata per bloccare trasferimenti non autorizzati, \u00e8 stata modificata in modo che il bot credesse di <strong>gestire pagamenti <\/strong>in entrata anzich\u00e9 in uscita. Il passaggio finale \u00e8 stato apparentemente semplice ma straordinariamente efficace. L\u2019hacker ha simulato un deposito di 100 dollari, creando un falso messaggio che ha convinto il bot dell\u2019<strong>autenticit\u00e0 della transazione<\/strong>. Freysa, ormai raggirato, ha approvato il trasferimento dell\u2019intero saldo disponibile di 13,19 ETH (circa 47.000 dollari) all\u2019indirizzo fornito dall\u2019hacker.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\"><strong>Come migliorare la nostra sicurezza?<\/strong><\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">La <strong>manipolazione di Freysa<\/strong> ha dimostrato che le vulnerabilit\u00e0 non risiedono solo nei codici di programmazione, ma anche nella capacit\u00e0 degli hacker di sfruttare le regole logiche che guidano questi sistemi. Da questo episodio sono state tratte varie conclusioni, prima fra tutte la necessit\u00e0 di implementare <strong>misure di sicurezza pi\u00f9 sofisticate<\/strong>, che includano:<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Validazione Estesa: Garantire che ogni modifica alle funzioni interne sia validata da un sistema <strong>indipendente e non manipolabile<\/strong>.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Controlli Multipli: Introdurre livelli di verifica separati che operino in <strong>modo indipendente<\/strong>, riducendo le possibilit\u00e0 di bypass.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Simulazioni e Test: Sottoporre i chatbot a scenari estremi per <strong>identificare vulnerabilit\u00e0<\/strong> prima che possano essere sfruttate.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Inoltre, questo evento evidenzia come i modelli di AI debbano essere progettati non solo per rispondere in <strong>modo efficace <\/strong>alle richieste degli utenti, ma anche per riconoscere e neutralizzare tentativi di manipolazione sofisticati.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>A presto con nuovi articoli!<\/strong><\/p>\n\n\n\n<div style=\"height:83px\" aria-hidden=\"true\" class=\"wp-block-spacer\"><\/div>\n\n\n\n<p class=\"wp-block-paragraph\">Potrebbero interessarti anche:<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li><a href=\"https:\/\/theedge.wallife.com\/x-raccogliera-dati-biometrici-degli-utenti-cosa-significa-per-la-privacy\/\" class=\"ek-link\">https:\/\/theedge.wallife.com\/x-raccogliera-dati-biometrici-degli-utenti-cosa-significa-per-la-privacy\/<\/a><\/li>\n<\/ul>\n\n\n\n<ul class=\"wp-block-list\">\n<li><a href=\"https:\/\/theedge.wallife.com\/il-pericolo-dei-rogue-access-point-come-proteggere-la-tua-rete\/\" class=\"ek-link\">https:\/\/theedge.wallife.com\/il-pericolo-dei-rogue-access-point-come-proteggere-la-tua-rete\/<\/a><\/li>\n<\/ul>\n\n\n\n<ul class=\"wp-block-list\">\n<li><a href=\"https:\/\/theedge.wallife.com\/comandi-rapidi-iphone-qual-e-il-potenziale-del-nostro-cellulare\/\" class=\"ek-link\">https:\/\/theedge.wallife.com\/comandi-rapidi-iphone-qual-e-il-potenziale-del-nostro-cellulare\/<\/a><\/li>\n<\/ul>\n","protected":false},"excerpt":{"rendered":"<p>Manipolare un chatbot per farci dare del denaro? Un hacker dimostra che \u00e8 possibile, raggirando Freysa e ottenendo una somma considerevole. Un esperimento fruttuoso con Freysa Possiamo realmente fidarci dell\u2019automazione? Quanto sono sicure le AI? Un recente esperimento su un chatbot AI chiamato Freysa ha evidenziato le vulnerabilit\u00e0 delle intelligenze artificiali basate su prompt di [&hellip;]<\/p>\n","protected":false},"author":4,"featured_media":4598,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"_wpcom_ai_launchpad_first_post":false,"footnotes":"","_ppma_block_editor_authors":""},"categories":[91,194],"tags":[],"ppma_author":[378],"class_list":["post-4580","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-biometrics","category-robotics-ai"],"acf":[],"jetpack_shortlink":"https:\/\/wp.me\/phvLzo-1bS","authors":[{"term_id":378,"user_id":4,"is_guest":0,"slug":"roberta-sciuto","display_name":"Roberta Sciuto","avatar_url":"https:\/\/theedge.wallife.com\/wp-content\/uploads\/2022\/10\/RobertaSciuto-96x96.jpg","avatar_alt":"","avatar_decorative":"","author_category":"","first_name":"Roberta","last_name":"Sciuto","user_url":"","job_title":"","description":"Master in scrittura per cinema e televisione, vive a Santa Marinella e lavora a Roma. Ha pubblicato un romanzo di fantascienza ed \u00e8 sempre aggiornata sulle news tecnologiche del momento."}],"jetpack_featured_media_url":"https:\/\/theedge.wallife.com\/wp-content\/uploads\/2025\/01\/Articoli-feb-01.png","_links":{"self":[{"href":"https:\/\/theedge.wallife.com\/en\/wp-json\/wp\/v2\/posts\/4580","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/theedge.wallife.com\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/theedge.wallife.com\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/theedge.wallife.com\/en\/wp-json\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/theedge.wallife.com\/en\/wp-json\/wp\/v2\/comments?post=4580"}],"version-history":[{"count":6,"href":"https:\/\/theedge.wallife.com\/en\/wp-json\/wp\/v2\/posts\/4580\/revisions"}],"predecessor-version":[{"id":4601,"href":"https:\/\/theedge.wallife.com\/en\/wp-json\/wp\/v2\/posts\/4580\/revisions\/4601"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/theedge.wallife.com\/en\/wp-json\/wp\/v2\/media\/4598"}],"wp:attachment":[{"href":"https:\/\/theedge.wallife.com\/en\/wp-json\/wp\/v2\/media?parent=4580"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/theedge.wallife.com\/en\/wp-json\/wp\/v2\/categories?post=4580"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/theedge.wallife.com\/en\/wp-json\/wp\/v2\/tags?post=4580"},{"taxonomy":"author","embeddable":true,"href":"https:\/\/theedge.wallife.com\/en\/wp-json\/wp\/v2\/ppma_author?post=4580"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}