Il lato oscuro dell'IA - Come gli hacker usano l'IA e i deepfake | Mark T. Hofmann | TEDxAristide Demetriade Street

L'IA come strumento e il problema dei dati00:00:14

Mark T. Hofmann introduce l'IA come uno strumento neutro che può essere usato sia per il bene che per il male. Sottolinea come l'accuratezza dell'IA dipenda dalla qualità dei dati di addestramento, spiegando che dati incompleti o errati possono portare a risultati fuorvianti, come l'esempio del salmone affumicato.

L'economia del crimine informatico: un'industria da trilioni di dollari00:04:06

Hofmann rivela la vastità dell'economia del crimine informatico, stimata in 10 trilioni di dollari entro l'anno prossimo, rendendola la terza economia mondiale se fosse un paese. Descrive il fenomeno del ransomware, che non solo richiede riscatti elevati, ma offre anche 'servizio clienti' e una struttura organizzativa complessa, quasi quanto un'azienda legale, completa di reparti tecnici, finanziari e di reclutamento.

L'IA nel crimine informatico: i quattro livelli di oscurità00:06:53

L'autore spiega come l'IA stia democratizzando il crimine informatico, rendendo possibile a chiunque, con un laptop e un motivo, condurre attacchi sofisticati. Distingue quattro livelli di 'oscurità' nell'uso dell'IA da parte degli hacker: la psicologia inversa per ottenere informazioni, i prompt di 'jailbreak' per aggirare le restrizioni dell'IA, lo sviluppo di modelli IA personalizzati per il crimine (come WormGPT) e, in futuro, l'IA come perpetratore autonomo di attacchi.

Deepfake: la clonazione di voci e volti per scopi criminali00:12:33

Hofmann dimostra la pericolosità dei deepfake, che possono replicare voci e volti con pochi secondi di materiale audio o una sola immagine ad alta risoluzione. Presenta un esempio di voce deepfake di Joe Biden e un video deepfake in cui lui stesso 'parla' italiano, sottolineando come queste tecnologie possano essere usate per disinformazione politica, frodi aziendali, truffe ai danni di anziani e persino per minare la validità delle prove video in tribunale.

Come costruire un firewall umano e promuovere la consapevolezza sulla cybersicurezza00:18:19

Per contrastare l'avanzare delle minacce informatiche, Hofmann propone l'idea di un 'firewall umano'. Suggerisce di stabilire parole d'ordine e domande di sicurezza con familiari e colleghi per verificare l'identità di chi ci contatta, dato che le frodi si basano spesso sulla manipolazione emotiva e sulla pressione temporale. Conclude invitando a rendere la cybersicurezza un tema 'divertente' e 'personale' per coinvolgere un pubblico più ampio, sottolineando che l'IA, pur presentando rischi, è la più grande opportunità del nostro tempo.