LA SUA SFIDA: far prendere la decisione giusta alle macchine
I suoi interessi riguardano la geometria e la statistica. Ma, soprattutto, questo ricercatore cerca di capire come evitare alle macchine di sbagliare.
Studi a Copenhagen mentre fa il lavapiatti
Dopo una laurea in Computer Science conseguita all’università di Copenhagen, Hauberg prosegue la specializzazione e conclude un dottorato in informatica presso lo stesso ateneo. Nel frattempo, trascorre sei mesi a Berkeley, in California. Qui, lavora al fianco di Ružena Bajcsy, famosa ingegnera cecoslovacca naturalizzata statunitense, pioniera nella robotica e nell’intelligenza artificiale nonché direttrice emerita del CITRIS, il centro per la ricerca sulla tecnologia dell’informazione.
Durante gli studi, il giovane Søren si arrangia con vari mestieri: lavapiatti, commesso di giocattoli, segretario. Per il post-dottorato si trasferisce in Germania, al Max Planck Institute e due anni dopo, rientra all’università di Copenhagen.
Anche le macchine sbagliano
Già a metà del 1900, nel saggio “Macchine calcolatrici e intelligenza”, il matematico inglese Alan Turing – considerato il “padre” dell’informatica e dell’AI – si era chiesto se le macchine possono pensare. Una questione sempre più dibattuta negli anni successivi così come quella dell’autonomia decisionale delle macchine.
Le IA generative che comprendono il linguaggio naturale o che prendono decisioni, infatti, sollevano timori su libero arbitrio e autonomia. Che cosa possiamo delegare alle macchine e che cosa deve restare prerogativa umana?
Insomma, gli strumenti tecnologici progettati bene possono aumentare l’accuratezza ma fino a che punto sono sicuri e affidabili i sistemi di intelligenza artificiale generativa?
L’attuale ricerca sull’intelligenza artificiale si concentra sul miglioramento delle prestazioni del sistema. Ma, spesso, ne trascura il funzionamento. Di fatto, le macchine possono prendere decisioni sbagliate senza che l’uomo possa spiegarlo.Per capire la portata del problema, basta un esempio. Nel 2023, in seguito alla morte della nonna, un cittadino canadese aveva comprato un biglietto aereo Vancouver-Toronto dopo aver appreso dall’assistente virtuale dell’aviolinea di uno sconto esigibile entro 90 giorni dall’acquisto. Ma la successiva richiesta di rimborso era stata respinta perché la “tariffa per lutto” andava applicata in fase di prenotazione. L’uomo, però, ha trascinato Air Canada in tribunale, argomentando che l’errore fosse stato fatto dal loro assistente. E il tribunale ha dato ragione al passeggero, con tanto di risarcimento e danni, ritenendo responsabile la compagnia di non aver garantito “che il chatbot fosse addestrato in maniera accurata”.
Algoritmi per le giuste decisioni
Hauberg si è focalizzato su questo problema. Nelle sue ricerche, sviluppa algoritmi in grado di stabilire perché un sistema intelligente esegue una determinata azione e commette errori.
L’obiettivo è migliorare la trasparenza, la responsabilità e, soprattutto, la fiducia nelle macchine che oggi prendono un numero crescente di decisioni per conto nostro.
La ricerca in questa area tende a seguire due direzioni: utilizzare costruzioni geometriche per progettare modelli oppure modellare relazioni sui dati, utilizzando la geometria.
Il danese Hauberg ha scelto di lavorare con modelli geometrici di dati osservati. È interessato alle geometrie casuali così come appaiono naturalmente nell’apprendimento ma, in particolare, sviluppa tecniche di machine learning: utilizza costruzioni geometriche e poi affronta le relative sfide numeriche.
Søren Hauberg è stato inserito fra i giovani scienziati più promettenti del World Economic Forum. Dal 2020, è docente nel dipartimento dei Sistemi cognitivi dell’università di Copenaghen.
