Il lato oscuro dell'IA - Come gli hacker usano l'IA e i deepfake | Mark T. Hofmann | TEDxAristide Demetriade Street

Mark T. Hofmann introduce l'IA come uno strumento neutro che può essere usato sia per il bene che per il male. Sottolinea come l'accuratezza dell'IA dipenda dalla qualità dei dati di addestramento, spiegando che dati incompleti o errati possono portare a risultati fuorvianti, come l'esempio del salmone affumicato.

Hofmann rivela la vastità dell'economia del crimine informatico, stimata in 10 trilioni di dollari entro l'anno prossimo, rendendola la terza economia mondiale se fosse un paese. Descrive il fenomeno del ransomware, che non solo richiede riscatti elevati, ma offre anche 'servizio clienti' e una struttura organizzativa complessa, quasi quanto un'azienda legale, completa di reparti tecnici, finanziari e di reclutamento.

L'autore spiega come l'IA stia democratizzando il crimine informatico, rendendo possibile a chiunque, con un laptop e un motivo, condurre attacchi sofisticati. Distingue quattro livelli di 'oscurità' nell'uso dell'IA da parte degli hacker: la psicologia inversa per ottenere informazioni, i prompt di 'jailbreak' per aggirare le restrizioni dell'IA, lo sviluppo di modelli IA personalizzati per il crimine (come WormGPT) e, in futuro, l'IA come perpetratore autonomo di attacchi.

Hofmann dimostra la pericolosità dei deepfake, che possono replicare voci e volti con pochi secondi di materiale audio o una sola immagine ad alta risoluzione. Presenta un esempio di voce deepfake di Joe Biden e un video deepfake in cui lui stesso 'parla' italiano, sottolineando come queste tecnologie possano essere usate per disinformazione politica, frodi aziendali, truffe ai danni di anziani e persino per minare la validità delle prove video in tribunale.

Per contrastare l'avanzare delle minacce informatiche, Hofmann propone l'idea di un 'firewall umano'. Suggerisce di stabilire parole d'ordine e domande di sicurezza con familiari e colleghi per verificare l'identità di chi ci contatta, dato che le frodi si basano spesso sulla manipolazione emotiva e sulla pressione temporale. Conclude invitando a rendere la cybersicurezza un tema 'divertente' e 'personale' per coinvolgere un pubblico più ampio, sottolineando che l'IA, pur presentando rischi, è la più grande opportunità del nostro tempo.