Le Bugie dell'Intelligenza Artificiale

La discussione si apre enfatizzando l'importanza di una corretta informazione scientifica per contrastare fake news e pseudoscienze. Il panorama mediatico attuale è complesso, con temi delicati come cambiamenti climatici e vaccini, e un mercato dell'informazione che favorisce la disinformazione per ragioni economiche. Si evidenzia come le notizie che 'piacciono' generino un giro d'affari considerevole per la pubblicità. Il focus della serata è sull'Intelligenza Artificiale, con il professor Marco Mezzalama, pioniere dell'informatica in Italia, a guidare la riflessione.

Il Professor Mezzalama racconta l'evoluzione dell'informatica, dalla sostituzione della forza muscolare con le macchine alla ricerca di strumenti che aiutassero il cervello, come l'abaco e la pascalina. L'intelligenza Artificiale (IA) rappresenta una rivoluzione che cambierà profondamente le nostre vite, paragonabile all'invenzione del motore a scoppio o dell'elettricità, ma con impatti potenzialmente 'tremendi'. Egli prevede che l'IA distruggerà la classe media.

Il punto di svolta per la capacità dell'IA di generare falsità è stato l'emergere dell'IA generativa intorno al 2015. Questa tecnologia ha democratizzato la creazione di immagini realistiche e falsi credibili. Viene introdotta la 'regola del 100+': l'IA riduce di oltre 100 volte la complessità, i costi e i tempi di produzione di falsi realistici, rendendo tutti potenziali falsari. Vengono presentati esempi come l'attacco al Pentagono simulato e falsi d'arte.

Vengono identificati quattro motivi fondamentali per cui si diffondono falsità online: denigrare avversari, persuadere e convincere (es. lo sbarco sulla Luna), confondere e disinformare, e rafforzare fatti (anche con immagini generate dall'IA, come quelle sulla Sacra Sindone). Le bugie antiscientifiche sono più diffuse in salute e medicina, poi clima e ambiente, e infine tecnologia e IA. Si discute anche su come difendersi dalle falsità: verificare la fonte, analizzare il contenuto e effettuare controlli incrociati.

Il professore ripercorre la storia dell'IA, dalla sua definizione nel 1956 fino all'esplosione dei big data negli anni 2000, che ha permesso lo sviluppo delle reti neurali. Nel 2013 nasce l'IA generativa, in grado di creare immagini e discorsi realistici, le 'bugie'. Nel 2022 si affermano i Large Language Models (LLM) come ChatGPT. Si sottolinea l'importanza dell'addestramento dell'IA e l'enorme quantità di dati necessaria, sollevando la questione etica ed economica sul possesso di tali dati.

Le bugie dell'IA derivano da algoritmi imperfetti e dall'uso malevolo umano. Gli LLM sono modelli statistici, non forniscono la verità assoluta, e la probabilità non è certezza. Vengono descritti tre fattori principali di errore: addestramento inadeguato, 'allucinazioni' (affermazioni plausibili ma non vere create dall'IA) e ambiguità delle domande. Vengono mostrati esempi di allucinazioni, come attribuzioni errate di citazioni.

I social media sono la principale fonte di falsità. Il 60% degli italiani li usa per informarsi, ma il 68% riconosce che sono un terreno fertile per le notizie false. L'83% degli italiani ha creduto a notizie false, e quasi il 50% le ha condivise. Il numero di video manipolati è aumentato di 16 volte nel 2023. Si evidenzia come i social, guidati da algoritmi di IA, promuovano notizie negative e false che generano engagement attraverso paura, rabbia e odio. Viene citato Umberto Eco sull''invasione degli imbecilli'.

Viene sollevata la questione delle aziende che controllano l'IA. Le prime sette aziende più capitalizzate al mondo sono tecnologiche, principalmente statunitensi, con investimenti massicci nell'IA. Questo porta a un 'sovranismo tecnologico' o 'tecnodittatura'. Si sottolinea l'importanza di una regolamentazione dell'IA che tenga conto non solo degli aspetti economici e di potere, ma anche etici e morali.

Il pubblico interviene con domande e commenti. Si discute sulla possibilità di 'istruire' l'IA, sul fatto che l'IA non ammetta di 'non sapere', e sulla lotta normativa tra Europa e gli Stati Uniti (con il caso della AI Act e le lobby americane). Viene affrontato il tema dei social media cinesi e indiani e l'addestramento dell'IA con operatori umani, inclusi i problemi legati al 'bias' e alla rapidità con cui le informazioni false si diffondono. Viene infine posta la questione se l'innovazione tecnologica e la democrazia possano coesistere.