IA: tsunami tecnologico o opportunità? (Riflessioni su L’onda che verrà)

Ho appena letto un libro, anche se chiamarlo libro è riduttivo. Di una delle 100 persone più influenti del mondo nel campo dell’IA: “L’onda che verrà. Intelligenza artificiale e potere nel XXI secolo”, di Mustafa Suleyman e Michael Bhaskar.

Suleyman non ha ancora quarant’anni ma riesce a fare pensare, riflettere, infastidire, irretire, illuminare, preoccupare e sollevare. Eppure, si legge tutto di un fiato!

Suleyman, nel 2010, ha fondato uno dei laboratori di ricerca sull’intelligenza artificiale più avanzati del mondo, DeepMind, acquisito da Google nel 2014. Nel 2022, Inflection AI, un’azienda così influente nel campo dell’IA da meritare la convocazione alla Casa Bianca. A marzo 2024 Microsoft ha scelto Suleyman come guida della sua intelligenza artificiale.

Inutile dire che le #decisioni di Suleyman influiranno profondamente sul modo in cui l’azienda con più alto valore di mercato del pianeta svilupperà, nei prossimi anni, tecnologie incredibili.

Suleyman ne “L’onda che verrà” ha il coraggio e la lungimiranza di portare l’attenzione su alcuni impatti dell’IA generativa. O come spiega lui stesso: “Intorno a noi sta per abbattersi una nuova ondata tecnologica che ci metterà a disposizione il potere di costruire i fondamentali universali dell’intelligenza e della vita”.

L’intelligenza artificiale che promette di generare enormi ricchezze e di combattere più efficacemente malattie e crisi climatica, sembrerebbe difficilmente governabile. Al momento, non sembra possibile “controllarla, frenarla o fermarla”. E aggiunge: “La cosa che desidero di più è che qualcuno mi smentisca e mi dimostri che il contenimento è effettivamente possibile”.

Ora che lavora nell’azienda più potente al mondo nel campo dell’IA, la missione di Suleyman potrebbe essere proprio quella di smentire sé stesso. Le stesse preoccupazioni sull’IA che affliggono Sam Altman, il Ceo di OpenAI: “l’idea ipotetica di aver fatto qualcosa di molto brutto nel momento in cui è stata lanciata ChatGpt”.

ChatGpt è l’IA generativa più famosa al mondo, creata da OpenAI, in cui Microsoft ha investito 13 miliardi di dollari. Oltre ad accrescere la produttività, ChatGpt ha contribuito a diffondere una preoccupazione crescente: un giorno le macchine saranno così intelligenti da spazzare via l’umanità. Come un’onda gigantesca. Ciò che ribadisce Suleyman nel libro è la necessità di “voci critiche e responsabili dall’interno”. Che è anche ciò che può fare lui in Microsoft: “creare prodotti dotati di intelligenza artificiale che prevedano una filosofia di contenimento su larga scala”. Questo perché tutto è influenzato in qualche modo dalla tecnologia.

Un altro tema su cui il ricercatore si concentra è la biologia sintetica (BS): le stesse tecnologie che ci permettono di curare una malattia potrebbero essere usate per causarne una, il che ci porta alle parti davvero terrificanti del libro. Suleyman nota che il prezzo del sequenziamento genetico è crollato, mentre la capacità di modificare il DNA con tecnologie come Crispr è migliorata. Presto, chiunque sarà in grado di allestire un laboratorio di genetica nel proprio garage. La tentazione di manipolare il genoma umano, prevede, sarà immensa.

I mutanti umani, tuttavia, non sono gli unici orrori che ci attendono. Suleyman immagina che IA e BS e uniscano le forze per consentire a malintenzionati di inventare nuovi patogeni. Con un tasso di trasmissibilità del 4% (inferiore alla varicella) e un tasso di mortalità del 50% (più o meno lo stesso dell’Ebola), un virus progettato dall’IA e progettato dalla BS potrebbe “causare più di un miliardo di morti nel giro di pochi mesi“.

Nonostante questi rischi, Suleyman dubita che una nazione si impegnerà a contenere le tecnologie. Gli stati dipendono troppo dai loro benefici economici. Questo è il dilemma di base: non possiamo permetterci di non costruire la stessa tecnologia che potrebbe causare la nostra estinzione.

L’onda che verrà non riguarda la minaccia esistenziale posta da IA super intelligenti. Suleyman pensa che le IA semplicemente intelligenti causeranno il caos proprio perché aumenteranno il potere umano in un periodo molto breve. Che si tratti di attacchi informatici generati dall’IA, patogeni fatti in casa, perdita di posti di lavoro dovuta al cambiamento tecnologico o disinformazione che aggrava l’instabilità politica, le istituzioni non sono pronte per questo tsunami di tecnologia.

Spero però che anche se il progresso continua a ritmo frenetico, le società non tollerino gli abusi etici che Suleyman teme di più. Quando uno scienziato cinese ha rivelato nel 2018 di aver modificato i geni di due gemelle, è stato condannato a tre anni di prigione, universalmente condannato, e da allora non ci sono state segnalazioni simili. L’UE è pronta a vietare alcune forme di IA, come il riconoscimento facciale negli spazi pubblici, nel suo imminente AI Act. La normale resistenza legale e culturale probabilmente rallenterà la proliferazione delle pratiche più dirompenti e inquietanti.

Nonostante affermi che il problema del contenimento è la “sfida fondamentale della nostra era”, Suleyman non supporta una moratoria tecnologica (ha appena fondato una nuova azienda di intelligenza artificiale). Invece, espone una serie di proposte alla fine del libro. Sfortunatamente non sono così rassicuranti come avrei voluto.

C’è però un lieto fine, se così vogliamo chiamarlo, Suleyman sottolinea che gli scenari catastrofici sono rischi estremi. E, a differenza dell’apocalisse dell’IA che potrebbe verificarsi in futuro, Suleyman è sorprendentemente e opportunamente ottimista sul modo in cui crede che l’IA risolverà l’emergenza climatica. È un pensiero felice, ma se l’IA risolverà il problema climatico, perché – mi chiedo – non può risolvere anche il problema del contenimento?