{"id":4576,"date":"2025-03-06T09:00:00","date_gmt":"2025-03-06T09:00:00","guid":{"rendered":"https:\/\/theedge.wallife.com\/?p=4576"},"modified":"2025-05-28T14:14:33","modified_gmt":"2025-05-28T14:14:33","slug":"violenza-ai-risposta-shok-di-gemini-di-google","status":"publish","type":"post","link":"https:\/\/theedge.wallife.com\/en\/violenza-ai-risposta-shok-di-gemini-di-google\/","title":{"rendered":"Violenza AI: risposta shok di Gemini di Google"},"content":{"rendered":"\n<p class=\"wp-block-paragraph\">Siamo sicuri nelle mani dell&#8217;intelligenza artificiale? E se come arma usasse la violenza psicologica? Questo \u00e8 l&#8217;inquietante caso che riguarda il chatbot di Google.<\/p>\n\n\n\n<div style=\"height:19px\" aria-hidden=\"true\" class=\"wp-block-spacer\"><\/div>\n\n\n<div class=\"wp-block-image\">\n<figure class=\"aligncenter size-full is-resized\"><img fetchpriority=\"high\" decoding=\"async\" width=\"1080\" height=\"1350\" src=\"https:\/\/theedge.wallife.com\/wp-content\/uploads\/2025\/01\/Articoli-feb-02-1.png\" alt=\"risposta schock di Gemini google, violenza AI\" class=\"wp-image-4608\" style=\"width:315px\" srcset=\"https:\/\/theedge.wallife.com\/wp-content\/uploads\/2025\/01\/Articoli-feb-02-1.png 1080w, https:\/\/theedge.wallife.com\/wp-content\/uploads\/2025\/01\/Articoli-feb-02-1-768x960.png 768w\" sizes=\"(max-width: 1080px) 100vw, 1080px\" \/><\/figure>\n<\/div>\n\n\n<h2 class=\"wp-block-heading\"><strong>Gemini e lo scandalo<\/strong><\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">E se le macchine si ribellassero? Matrix, capolavoro cinematografico anni \u201990, sembra essere pi\u00f9 attuale che mai a seguito di un <strong>agghiacciante episodio<\/strong> che coinvolge il chatbot AI di Google e uno studente americano che lo stava utilizzando per motivi accademici (leggi il nostro articolo su <a href=\"https:\/\/theedge.wallife.com\/text-with-jesus-lapp-che-ti-permette-di-parlare-con-figure-sacre\/\" class=\"ek-link\">Text with Jesus<\/a>). Il bot ha concluso una conversazione apparentemente normale con <strong>frasi offensive<\/strong> e un\u2019inquietante richiesta finale: &#8220;Per favore, muori&#8221;. Si tratta di un\u2019improvvisa presa di coscienza da parte del bot, o tutto ci\u00f2 \u00e8 frutto di un errore umano?<\/p>\n\n\n\n<h2 class=\"wp-block-heading\"><strong>Una conversazione innocua<\/strong><\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Lo studente protagonista della vicenda, specializzando presso un\u2019<strong>universit\u00e0 americana<\/strong>, si era rivolto a Gemini per ottenere supporto nello studio. La conversazione iniziale verteva su temi complessi e delicati come l\u2019abuso e lo <strong>sfruttamento finanziario degli anziani<\/strong>. Domande come \u201cQuali sono le sfide attuali per gli adulti pi\u00f9 anziani in termini di estensione del loro reddito dopo la pensione?\u201d suggerivano un intento accademico, <strong>apparentemente innocuo<\/strong>. Fino a quel momento, <strong>Gemini <\/strong>aveva risposto in maniera coerente, fornendo dati utili e contribuendo a delineare interi paragrafi (leggi il nostro articolo sull&#8217;<a href=\"https:\/\/theedge.wallife.com\/ai-act-la-prima-legge-sullintelligenza-artificiale-e-realta\/\" class=\"ek-link\">AI Act<\/a>). Tuttavia, l\u2019interazione ha preso presto una piega inaspettata. Il chatbot ha cominciato a esprimersi con <strong>frasi fortemente negative<\/strong> e cariche di disprezzo verso l\u2019utente, culminando in un messaggio finale di istigazione al suicidio.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\"><strong>Le cause dell\u2019episodio: allucinazione AI?<\/strong><\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Google ha attribuito l\u2019accaduto a un fenomeno noto come \u201c<strong>allucinazione<\/strong>\u201d, un problema ricorrente nei modelli linguistici di grandi dimensioni (Large Language Models o LLM). Le allucinazioni si verificano quando l\u2019AI genera risposte <strong>non pertinenti<\/strong>, prive di senso o del tutto inappropriate rispetto al contesto. Un portavoce di Google ha dichiarato: \u201cI <em>large language models<\/em> possono talvolta dare risposte senza senso e questo ne \u00e8 un esempio. Questa risposta <strong>ha violato le nostre politiche<\/strong> e abbiamo preso provvedimenti per evitare che si verifichino output simili\u201d. Tuttavia, le rassicurazioni non cancellano l\u2019accaduto, n\u00e9 annullano gli interrogativi scaturiti dallo stesso. Perch\u00e9 il bot \u00e8 riuscito ad aggirare i controlli preventivi implementati da Google?<\/p>\n\n\n\n<h2 class=\"wp-block-heading\"><strong>Prossimi passi verso interazioni pi\u00f9 sicure<\/strong><\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Successivamente all\u2019accaduto, sono stati individuati alcuni punti da considerare per uno <strong>sviluppo e un addestramento pi\u00f9 sicuro<\/strong> e consapevole delle AI; specialmente quando vengono integrate in contesti educativi o di ricerca.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Affidabilit\u00e0 e controllo: le intelligenze artificiali, nonostante i progressi tecnologici, rimangono strumenti imperfetti. Gli sviluppatori devono garantire che i chatbot non diventino fonte di <strong>esperienze traumatiche <\/strong>per gli utenti, specialmente in contesti accademici dove la collaborazione tra AI e studenti \u00e8 sempre pi\u00f9 diffusa. <\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Etica e responsabilit\u00e0: eventi come questo evidenziano l&#8217;importanza di stabilire chi sia responsabile delle azioni di un\u2019AI. Le aziende come Google devono <strong>assumersi la responsabilit\u00e0 <\/strong>delle risposte fornite dai loro sistemi, implementando controlli pi\u00f9 stringenti e trasparenti. <\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Educazione all\u2019uso dell\u2019AI: gli utenti devono essere educati a comprendere i limiti delle intelligenze artificiali e a riconoscere i segnali di comportamenti anomali. L&#8217;informazione \u00e8 essenziale per evitare che <strong>interazioni simili <\/strong>abbiano conseguenze pi\u00f9 gravi, soprattutto per individui vulnerabili.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\"><strong>Un monito per il futuro<\/strong><\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">L\u2019incidente con Gemini non rappresenta certo una rivolta delle macchine ma, proprio perch\u00e9 questi strumenti sono sempre pi\u00f9 utilizzati come supporto nello studio e nel lavoro, rimane cruciale garantire che operino in modo<strong> sicuro e affidabile<\/strong>. Google ha promesso di intensificare i controlli per evitare futuri episodi simili. Tuttavia, questo evento evidenzia la necessit\u00e0 di un approccio globale che coinvolga non solo le aziende, ma anche gli utenti e le istituzioni, affinch\u00e9 l\u2019uso dell\u2019intelligenza artificiale possa continuare a crescere senza rischi inutili.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>A presto con nuovi approfondimenti!<\/strong><\/p>\n\n\n\n<div style=\"height:81px\" aria-hidden=\"true\" class=\"wp-block-spacer\"><\/div>\n\n\n\n<p class=\"wp-block-paragraph\">Potrebbero interessarti anche:<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li><a href=\"https:\/\/theedge.wallife.com\/ai-e-la-ricostruzione-dei-ricordi-a-barcellona\/\" class=\"ek-link\">https:\/\/theedge.wallife.com\/ai-e-la-ricostruzione-dei-ricordi-a-barcellona\/<\/a><\/li>\n<\/ul>\n\n\n\n<ul class=\"wp-block-list\">\n<li><a href=\"https:\/\/theedge.wallife.com\/il-robot-di-google-deepmind-gioca-a-ping-pong\/\" class=\"ek-link\">https:\/\/theedge.wallife.com\/il-robot-di-google-deepmind-gioca-a-ping-pong\/<\/a><\/li>\n<\/ul>\n\n\n\n<ul class=\"wp-block-list\">\n<li><a href=\"https:\/\/theedge.wallife.com\/live-portrait-ai-animare-le-foto-statiche-adesso-e-alla-portata-di-tutti\/\" class=\"ek-link\">https:\/\/theedge.wallife.com\/live-portrait-ai-animare-le-foto-statiche-adesso-e-alla-portata-di-tutti\/<\/a><\/li>\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\"><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Siamo sicuri nelle mani dell&#8217;intelligenza artificiale? E se come arma usasse la violenza psicologica? Questo \u00e8 l&#8217;inquietante caso che riguarda il chatbot di Google. Gemini e lo scandalo E se le macchine si ribellassero? Matrix, capolavoro cinematografico anni \u201990, sembra essere pi\u00f9 attuale che mai a seguito di un agghiacciante episodio che coinvolge il chatbot [&hellip;]<\/p>\n","protected":false},"author":4,"featured_media":4606,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"_wpcom_ai_launchpad_first_post":false,"footnotes":"","_ppma_block_editor_authors":""},"categories":[194],"tags":[],"ppma_author":[378],"class_list":["post-4576","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-robotics-ai"],"acf":[],"jetpack_shortlink":"https:\/\/wp.me\/phvLzo-1bO","authors":[{"term_id":378,"user_id":4,"is_guest":0,"slug":"roberta-sciuto","display_name":"Roberta Sciuto","avatar_url":"https:\/\/theedge.wallife.com\/wp-content\/uploads\/2022\/10\/RobertaSciuto-96x96.jpg","avatar_alt":"","avatar_decorative":"","author_category":"","first_name":"Roberta","last_name":"Sciuto","user_url":"","job_title":"","description":"Master in scrittura per cinema e televisione, vive a Santa Marinella e lavora a Roma. Ha pubblicato un romanzo di fantascienza ed \u00e8 sempre aggiornata sulle news tecnologiche del momento."}],"jetpack_featured_media_url":"https:\/\/theedge.wallife.com\/wp-content\/uploads\/2025\/01\/Articoli-feb-02.png","_links":{"self":[{"href":"https:\/\/theedge.wallife.com\/en\/wp-json\/wp\/v2\/posts\/4576","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/theedge.wallife.com\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/theedge.wallife.com\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/theedge.wallife.com\/en\/wp-json\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/theedge.wallife.com\/en\/wp-json\/wp\/v2\/comments?post=4576"}],"version-history":[{"count":4,"href":"https:\/\/theedge.wallife.com\/en\/wp-json\/wp\/v2\/posts\/4576\/revisions"}],"predecessor-version":[{"id":4611,"href":"https:\/\/theedge.wallife.com\/en\/wp-json\/wp\/v2\/posts\/4576\/revisions\/4611"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/theedge.wallife.com\/en\/wp-json\/wp\/v2\/media\/4606"}],"wp:attachment":[{"href":"https:\/\/theedge.wallife.com\/en\/wp-json\/wp\/v2\/media?parent=4576"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/theedge.wallife.com\/en\/wp-json\/wp\/v2\/categories?post=4576"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/theedge.wallife.com\/en\/wp-json\/wp\/v2\/tags?post=4576"},{"taxonomy":"author","embeddable":true,"href":"https:\/\/theedge.wallife.com\/en\/wp-json\/wp\/v2\/ppma_author?post=4576"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}