{"id":1459,"date":"2023-01-30T13:50:08","date_gmt":"2023-01-30T13:50:08","guid":{"rendered":"https:\/\/theedge.wallife.com\/?p=1459"},"modified":"2025-05-29T19:29:43","modified_gmt":"2025-05-29T19:29:43","slug":"chatgpt-e-i-rischi-delle-intelligenze-artificiali-creative","status":"publish","type":"post","link":"https:\/\/theedge.wallife.com\/en\/chatgpt-e-i-rischi-delle-intelligenze-artificiali-creative\/","title":{"rendered":"ChatGPT e i rischi delle intelligenze artificiali creative"},"content":{"rendered":"<p><em>Il modello di intelligenza artificiale per la generazione automatica di testi sviluppato da OpenAI ha stupito il mondo per le sue capacit\u00e0 di scrittura. A due mesi dal lancio sono chiari i possibili utilizzi della tecnologia, ma anche i rischi che comporta.<\/em><\/p>\n<p>A fine novembre la startup OpenAI, una delle pi\u00f9 promettenti nel settore dell\u2019Intelligenza Artificiale, ha lanciato chatGPT, un chatbot intelligente capace di generare testi di alta qualit\u00e0, in molti casi del tutto indistinguibili da quelli scritti da un umano. ChatGPT \u00e8 basato su GPT-3, la terza versione del modello linguistico di grandi dimensioni di OpenAI. La startup, che fino a pochi mesi fa era sconosciuta ai pi\u00f9, \u00e8 in realt\u00e0 un attore importante nel settore dell\u2019Intelligenza Artificiale gi\u00e0 da qualche anno. Fondata nel 2015 dall\u2019imprenditore tech Sam Altman assieme a Elon Musk (che ora non fa pi\u00f9 parte del progetto), Reid Hoffman (CEO di LinkedIn), Jessica Livingston e Peter Thiel, ha attirato da subito l\u2019attenzione dei grandi del tech. Microsoft, in particolare, ha creduto nel progetto fin dal 2018, quando ha stanziato 1 miliardo di dollari per siglare una partnership con l\u2019azienda. A fine gennaio la casa di Redmond ha confermato l\u2019ampliamento della partnership con un ulteriore investimento di 10 miliardi di dollari e l\u2019intenzione di portare la tecnologia di OpenAI all\u2019interno della suite Office.<\/p>\n<p>ChatGPT non \u00e8 limitato alla sola creazione di testi che possono sembrare opera di un umano, ma sa anche scrivere codice, imitare stili e formati specifici di scrittura (dai comunicati stampa alla poesia) e tradurre testi in varie lingue (anche l\u2019italiano).<\/p>\n<p>Questa versatilit\u00e0, unita alla diffusione e alla semplicit\u00e0 di accesso, ha avuto il merito di aprire il mondo delle AI generative a un numero mai cos\u00ec ampio di persone, incluso chi finora dell\u2019intelligenza artificiale aveva solo avvertito gli echi lontani. Allo stesso tempo per le medesime ragioni, nonostante i paletti imposti dalla policy sui contenuti di OpenAI, ChatGPT porta con s\u00e9 una serie di rischi da non sottovalutare. Non solo legati all\u2019uso malevolo che si pu\u00f2 fare con i testi prodotti dal modello, ma anche per il suo impatto sulla diffusione dell\u2019informazione (e della disinformazione) in rete.<\/p>\n<p><strong>Sa programmare (anche il malware)<\/strong><\/p>\n<p>Una delle qualit\u00e0 pi\u00f9 sorprendenti di ChatGPT \u00e8 la capacit\u00e0 di scrivere codice corretto e funzionante. Spesso il modello non capisce del tutto la richiesta dell\u2019utente, ma con pochi aggiustamenti \u00e8 in grado di creare un output di alta qualit\u00e0. Se questa funzionalit\u00e0 \u00e8 di straordinario aiuto ai programmatori, che possono adoperare il modello per velocizzare la scrittura del codice, \u00e8 tuttavia capace di coadiuvare anche nella realizzazione di programmi malevoli. Come mostrato dagli esperti di cybersicurezza di Check Point Research, i criminali informatici hanno gi\u00e0 iniziato ad usare efficacemente ChatGPT per creare malware e script malevoli perfettamente funzionanti, o per coadiuvare operazioni illecite nel dark web, come la creazione di piattaforme di scambio. Per aggirare i controlli imposti da OpenAI contro questo tipo di utilizzo del modello basta formulare le richieste spezzettando le operazioni da eseguire in modo da offuscare lo scopo del programma nel suo complesso.<\/p>\n<p><strong>Email di Phishing senza errori<\/strong><\/p>\n<p>Una tecnologia di AI generativa come chatGPT pu\u00f2 essere utilizzata per generare testo, come ad esempio email di phishing, che non presenti errori di ortografia. Il modello di AI generativo \u00e8 addestrato su un corpus di testo legittimo, come email di lavoro o di vendita, e quindi \u00e8 in grado di generare nuovo testo che segue lo stesso stile e la stessa struttura del testo originale. In questo modo, l&#8217;email generata dall&#8217;AI pu\u00f2 sembrare pi\u00f9 credibile e meno sospetta rispetto a un&#8217;email di phishing scritta a mano che potrebbe contenere errori di ortografia. Tuttavia, \u00e8 importante notare che l&#8217;utilizzo di questa tecnologia pu\u00f2 anche rendere pi\u00f9 difficile rilevare le email di phishing in quanto sembrano pi\u00f9 legittime.<\/p>\n<p><strong>Ingegneria sociale senza fatica<\/strong><\/p>\n<p>Allo stesso modo, chatGPT pu\u00f2 essere d\u2019aiuto a truffatori e cybercriminali per generare script e testi per operazioni di ingegneria sociale, vale a dire l\u2019insieme di metodi che hanno come scopo la sottrazione di dati e informazioni private attraverso varie forme d\u2019inganno telematico.Grazie alle capacit\u00e0 di chatGPT, i malintenzionati possono elaborare testi da inviare per email o leggere telefonicamente tramite modelli di text-to-speech, anche in lingue che non conoscono direttamente e con formati e stili che ben si adattano all\u2019ambito professionale in cui viene condotta l\u2019operazione. Si tratta in questo caso di un uso malevolo indiretto e pi\u00f9 difficile da limitare in maniera programmatica da parte di OpenAI. Tuttavia per un\u2019operazione efficace di ingegneria sociale \u00e8 comunque necessario un livello di conoscenza pregressa e di esperienza al quale (per fortuna) ChatGPT non pu\u00f2 ancora sopperire.<\/p>\n<p><strong>\u00c8 convincente anche quando dice sciocchezze<\/strong><\/p>\n<p>I due punti precedenti sono aggravati dallo stile assai convincente che chatGPT impiega nella formulazione di qualsiasi risposta, anche quelle che contengono errori palesi o informazioni del tutto sbagliate. Nella maggior parte dei casi questa attitudine del software genera pi\u00f9 che altro risultati ilari, ma non \u00e8 una tendenza completamente innocua. In particolare pu\u00f2 essere sfruttata da eventuali malintenzionati proprio per scrivere testi che, pur contenendo informazioni del tutto false, risultino parimenti convincenti in virt\u00f9 del modo in cui sono scritti.<\/p>\n<p><strong>Pu\u00f2 contribuire alla diffusione della disinformazione<\/strong><\/p>\n<p>La facilit\u00e0 con cui si possono creare grandi quantitativi di testo in tempo brevissimo fa infine di chatGPT un alleato perfetto per i creatori di botnet e di account falsi su social network come Facebook o Twitter. In particolare il modello di OpenAI pu\u00f2 facilitare il lavoro di chi gestisce reti di bot allo scopo di diffondere disinformazione e seminare dissenso nell\u2019opinione pubblica di paesi nemici. Usi di questo tipo non sono ancora stati rilevati pubblicamente, ma gli esperti di settore lo considerano uno sviluppo inevitabile, se non altro per il rapporto costi\/benefici che questo tipo di \u201cbad actors\u201d potrebbe ricavare dall\u2019uso di modelli di linguaggio naturale come chatGPT rispetto all\u2019impiego di operatori umani.<\/p>\n<p><em>Uno dei paragrafi di questo articolo \u00e8 stato scritto da chatGPT in risposta a un nostro prompt. Sapreste dire quale?<\/em><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Il modello di intelligenza artificiale per la generazione automatica di testi sviluppato da OpenAI ha stupito il mondo per le sue capacit\u00e0 di scrittura.<br \/>\nA due mesi dal lancio sono chiari i possibili utilizzi della tecnologia, ma anche i rischi che comporta.<\/p>\n<p>Uno dei paragrafi di questo articolo \u00e8 stato scritto da chatGPT in risposta a un nostro prompt. Sapreste dire quale?<\/p>\n","protected":false},"author":5,"featured_media":1460,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"_wpcom_ai_launchpad_first_post":false,"footnotes":"","_ppma_block_editor_authors":""},"categories":[194],"tags":[51,172,173],"ppma_author":[379],"class_list":["post-1459","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-robotics-ai","tag-ai","tag-chat","tag-chatbot"],"acf":[],"jetpack_shortlink":"https:\/\/wp.me\/phvLzo-nx","authors":[{"term_id":379,"user_id":5,"is_guest":0,"slug":"andea-nepori","display_name":"Andea Nepori","avatar_url":"https:\/\/theedge.wallife.com\/wp-content\/uploads\/2022\/10\/AndreaNepori-96x96.jpg","avatar_alt":"","avatar_decorative":"","author_category":"","first_name":"Andea","last_name":"Nepori","user_url":"","job_title":"","description":"Giornalista Freelance, vive e lavora a Berlino. Scrive di tecnologia, culture digitali, tech economy e design. \r\nCollabora con Italian Tech (La Stampa \/ LaRepubblica), Domus, Deutsche Welle e altri."}],"jetpack_featured_media_url":"https:\/\/theedge.wallife.com\/wp-content\/uploads\/2023\/01\/Shutterstock_2241913405-scaled.jpg","_links":{"self":[{"href":"https:\/\/theedge.wallife.com\/en\/wp-json\/wp\/v2\/posts\/1459","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/theedge.wallife.com\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/theedge.wallife.com\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/theedge.wallife.com\/en\/wp-json\/wp\/v2\/users\/5"}],"replies":[{"embeddable":true,"href":"https:\/\/theedge.wallife.com\/en\/wp-json\/wp\/v2\/comments?post=1459"}],"version-history":[{"count":6,"href":"https:\/\/theedge.wallife.com\/en\/wp-json\/wp\/v2\/posts\/1459\/revisions"}],"predecessor-version":[{"id":1874,"href":"https:\/\/theedge.wallife.com\/en\/wp-json\/wp\/v2\/posts\/1459\/revisions\/1874"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/theedge.wallife.com\/en\/wp-json\/wp\/v2\/media\/1460"}],"wp:attachment":[{"href":"https:\/\/theedge.wallife.com\/en\/wp-json\/wp\/v2\/media?parent=1459"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/theedge.wallife.com\/en\/wp-json\/wp\/v2\/categories?post=1459"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/theedge.wallife.com\/en\/wp-json\/wp\/v2\/tags?post=1459"},{"taxonomy":"author","embeddable":true,"href":"https:\/\/theedge.wallife.com\/en\/wp-json\/wp\/v2\/ppma_author?post=1459"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}