🔑 Parole chiave
- Intelligenza artificiale
- Reti di informazione
- Meccanismi di autocorrezione
- Democrazia
- Totalitarismo
- Determinismo tecnologico
- Realtà intersoggettiva
📌 Il libro in poche parole
Nexus è un libro che parla di futuro. Anzi, di futuri prevedibili e imprevedibili che si manifesteranno in relazione alle scelte che faremo o che non faremo riguardo a una corretta adozione delle tecnologie dell’intelligenza artificiale.
In questa sezione cercherò di riassumere i contenuti più importanti del libro. Tralascerò molte parti, perché all’interno del testo sono trattati temi molto complessi e raccontate vicende storiche che per essere comprese necessitano della lettura integrale del libro.
- La storia dell’umanità è la storia delle reti di informazione e cooperazione. Attraverso le storie e lo scambio di informazioni Homo Sapiens ha acquisito un potere infinito. Ma la storia dell’umanità è allo stesso tempo la storia di tanti errori che derivano da quello che può essere definito “un problema di rete”. Il racconto dell’apprendista stregone di Goethe è in tal senso emblematico: mai evocare poteri che non si possono controllare.
- La natura autodistruttiva dell’uomo deriva perciò dalla reti di informazione che generano potere, ma non saggezza.
- Per rendere efficaci le reti di informazione è necessario implementare e aggiornare costantemente dei sistemi di autocorrezione in grado di mantenere il controllo e non portare le reti alla deriva. I casi storici della caccia alle streghe da parte della Chiesa e delle pulizie etniche da parte dei regimi totalitari sono il terribile esito dell’assenza di meccanismi di autocorrezione e della fallacia della presunta infallibilità delle istituzioni che millantano una legittimazione sovrumana.
- La presenza fisica di un’azienda in un determinato Paese viene definita Nexus. Harari concorda con l’idea di estendere questa definizione anche alla presenza digitale, così da poter implementare dei sistemi per far pagare alle aziende “l’estrazione di dati” degli utenti.
- La tesi di Harari è avversa al determinismo tecnologico: la tecnologia non è mai intrinsecamente buona o cattiva. Sono gli usi che se ne fanno a determinarne la bontà o meno. Allo stesso tempo, l’innovazione tecnologica porta sempre con sé grandi cambiamenti. Gli esseri umani devono essere in grado di governare il cambiamento attraverso l’analisi degli errori del passato e la correzione dei problemi di rete che ne favoriscono la proliferazione. Da qui l’importanza dei meccanismi di autocorrezione e del decentramento delle informazioni.
- L’intelligenza artificiale eliminerà il lavoro umano? Non ci saranno più posti di lavoro? Ovviamente no, non è questo il problema. Nel corso della storia i lavori degli esseri umani sono sempre cambiati e la fine di determinate professioni ha generato l’inizio di nuovi lavori. La sfida del futuro sarà la riqualificazione dei lavoratori che dovranno cambiare lavoro in continuazione e più volte nel corso della loro vita. Infatti, rispetto al passato i cambiamenti saranno più repentini e gli esseri umani dovranno riuscire a governare il cambiamento in maniera del tutto nuova.
- La lezione di questo libro? Essendo il cambiamento è l’unica costante della storia, per governarlo dobbiamo costruire delle istituzioni con forti meccanismi di autocorrezione prima che l’umanità sia sopraffatta da un uso sconsiderato dell’intelligenza artificiale.
💡 Perché dovresti leggere questo libro
Nexus fornisce degli spunti di riflessione interessanti sulle prospettive di un utilizzo sconsiderato dell’intelligenza artificiale all’interno della società. Una lezione che parte dall’analisi degli errori del passato e dalla necessità di implementare dei meccanismi di autocorrezione.
Questo libro fa per te se hai interesse nel comprendere come funzionano le reti di informazioni, la loro evoluzione storica, la differenza tra la rivoluzione dell’IA e le rivoluzioni del passato.
Harari dimostra come al solito una grande capacità di analisi storica e una visione intellettuale lucida e affascinante. Il libro offre numerosi spunti di riflessioni e permette di aprire gli orizzonti della mente su una visione a 360 gradi dell’intelligenza artificiale.
💬 Le miei citazioni preferite
Gli americani crescono con l’idea che le domande portano alle risposte. Ma i cittadini sovietici sono cresciuti con l’idea che le domande portano ai problemi. [Guida ucraina a Černobyl – p.246]
Proprio come Shell e BP pagano le tasse ai paesi da cui estraggono il petrolio, i giganti della tecnologia dovrebbero pagare le tasse ai paesi da cui estraggono i dati. [Yuval Noah Harari – p.300]
Sapere di non sapere è un passo fondamentale sulla via della saggezza. [Socrate – p.397]
Come per i regimi di sorveglianza totale, anche per i sistemi di credito sociale vale la stessa considerazione: il fatto che possano essere creati non significa che dobbiamo crearli per forza. [Yuval Noah Harari – p.444]
Una volta, ogni cosa vecchia era nuova. L’unica costante della storia è il cambiamento. [Yuval Noah Harari – p.510]
Un libro è un nesso tra l’autore e i lettori. È un legame che unisce molte menti, che si realizza solo quando un libro viene letto. [Yuval Noah Harari – p.525]
✏️ Appunti di lettura
- La verità non è la realtà. Ogni verità è una selezione della realtà.
- La cattiva informazione deriva da fallacie interpretative e comunicative. La disinformazione è la consapevole e fraudolenta attitudine a diffondere false informazioni per creare disordine.
- La realtà è composta da tre livelli: oggettivo, soggettivo e intersoggettivo.
- La realtà intersoggettiva deriva dallo scambio di informazioni.
- Gli esseri umani sono fallibili, mentre le istituzioni religiose professano la loro infallibilità.
- Quando le istituzioni presunte infallibili sbagliano, danno la colpa ai singoli uomini. Questa è la trappola dell’infallibilità, che nega l’errore e impedisce la presa di coscienza. Si genera di conseguenza un ostacolo al cambiamento.
- La Bibbia è una versione ante-litteram della blockchain. La diffusione di molteplici copie di un libro ha posto dei limiti agli umani autocrati (che dovevano attenersi al testo) e ne ha impedito la manipolazione (possibilità di confronto).
- L’invenzione della stampa ha permesso sia la rapida proliferazione di fatti scientifici che la rapida diffusione di fake news.
- La scienza non è la scoperta del sapere, ma la scoperta dell’ignoranza.
- La scienza è essenzialmente un lavoro di squadra.
- Le reti informative dittatoriali sono caratterizzate dall’accentramento delle informazioni e dall’infallibilità del centro.
- La democrazia non è la dittatura della maggioranza. Chi vince le elezioni non può annientare la minoranza. La democrazia è un connubio tra uguaglianza e libertà.
- Le elezioni sono un meccanismo di autocorrezione, che favoriscono il cambiamento e l’ordine, ma non rappresentano la verità.
- La rivoluzione dei computer ci pone di fronte a una rivoluzione dell’informazione senza precedenti.
- L’intelligenza artificiale non è un semplice strumento, ma un agente. L’IA è infatti dotata di agentività, ovvero la capacità di agire e prendere decisioni. Un libro non può selezionare i propri contenuti in autonomia, così come una macchina a vapore non può prendere decisioni da sola.
- Il nexus è la presenza fisica di un’azienda in un paese. Questa definizione andrebbe estesa alla presenza digitale.
- La tecnologica non è mai deterministica. Sono gli usi che facciamo della tecnologia e gli errori di applicazione da parte degli esseri umani a causare i problemi.
- Gli esseri umani sono abituati al monitoraggio: la burocrazia da sempre basa i suoi presupposti sulla raccolta dei dati dei cittadini e la relativa analisi.
- Ci sono vari tipi di sorveglianza: la sorveglianza del partner, controllo da parte del datore di lavoro, analisi delle propensioni di acquisto dei clienti, controllo peer to peer a vicenda (es. le recensioni su Trip Advisor).
- Gli algoritmi dei social media incentivano l’indignazione e la disinformazione, perché sono programmati per favorire il coinvolgimento.
- Gli algoritmi presentano un problema di allineamento: quando viene assegnato loro un obiettivo, lo raggiungo a prescindere dai mezzi e dalle conseguenze.
- I computer sono dotati di intelligenza, ma non di coscienza. Per questo dobbiamo essere in grado di indirizzare i computer nella giusta direzione.
- Sarà sempre più facile sostituire il lavoro intellettuale rispetto a quello manuale. Le IA sono riusciti a sconfiggere i campioni mondiali di scacchi e di go, ma non sono ancora riusciti a rimpiazzare un lavapiatti. In futuro potranno esistere delle AI che svolgeranno la professione di medico (interpretazione delle schede cliniche), ma difficilmente potranno esistere delle AI che svolgeranno la professione di infermiere (lavoro manuale).
- Le IA hanno maggiore capacità emotiva degli umani, grazie alla loro capacità di analizzare e interpretare i dati, sia di archivio che biometrici. Vogliamo comunque il supporto di essere umani per un fattore di immedesimazione e coinvolgimento emotivo.
- Non dobbiamo privarci dei benefici delle AI, ma dobbiamo semplicemente mettere al bando i bot che si fingono umani. La contraffazione degli umani deve essere considerata al pari della contraffazione del denaro.
- Le piattaforme digitali devono essere maggiormente trasparenti sui loro principi di curatela e sulle modalità con cui vengono selezionate e filtrate le informazioni.
- Sia la rivoluzione industriale che la rivoluzione dell’intelligenza artificiale è stata guidata da privati. Adesso la competizione commerciale tra aziende è diventata una partita tra governi per il dominio del mondo.
- Il rischio è la deriva di un nuovo colonialismo, dove alcuni stati rappresenteranno delle colonie di dati.
- Il blocco delle applicazioni di proprietà straniera da parte di vari Paesi (USA, Cina, Russia, etc.) è una strategia per non perdere il controllo sul proprio cyberspazio.
- Il mondo rischia di spaccarsi in due, diviso da una cortina di silicio. Passeremo così da un’era di convergenza a un’era di divergenza e da una rete d’informazione a tanti bozzoli.
- La differenza sui diritti delle IA potrebbe generare una nuova guerra?
- La guerra informatica è molto diversa dalla guerra nucleare. In primis per la versatilità del combattimento: gli attacchi informatici avvengono da anni e in segreto, perché è difficile incolpare uno Stato piuttosto che un altro. Come seconda ragione, ogni attacco è imprevedibile, perché a differenza di una bomba sganciata non è possibile prevederne l’esito e gli effetti.
- La cooperazione tra Stati non esclude il patriottismo: cooperare sullo scambio di informazioni sanitarie aiuta i propri connazionali.
- La Coppa del Mondo è un brillante esempio di accordo globale su determinate regole condivise.
- Per favorire un accordo sull’IA bisogna superare due livelli di fiducia: da una parte è difficile scoprire i laboratori segreti di IA che un paese potrebbe gestire; dall’altra è pressoché impossibile determinare gli scopi civili o militari di un AI. Ad esempio, un AI per gestire una rete di droni per il trasporto di farmaci potrebbe essere in realtà progettata simultaneamente per la diffusione di gas letali o lo sgancio di bombe attraverso i droni stessi.
- La politica è sempre una questione di priorità. E le priorità sono modellate attraverso la nostra comprensione della storia.
- Le nuove invenzioni hanno sempre portato a grandi cambiamenti storici. Per governare la rivoluzione dell’IA dobbiamo abbandonare la visione ingenua e ottimistica: l’informazione non è la verità. E dall’altra abbandonare la visione cinica: non bisogna ridurre tutto a una lotta di potere.
- Dobbiamo perciò essere in grado di costruire istituzioni con forti meccanismi di autocorrezione, in grado di generare saggezza e gestire il potere derivante dalle reti di informazione.
📖 Contenuto del libro
Perché i Sapiens sono così autodistruttivi? E come mai non riescono a fare tesoro degli errori del passato?
Queste domande sono la premessa di Nexus, il nuovo libro di Yuval Noah Harari.
Le reti di informazione
Gli esseri umani hanno acquisito un grande potere attraverso la creazione di reti di cooperazione e informazione sempre più grandi e interconnesse.
Allo stesso tempo, le reti portano con sé delle fallaci che nel corso della storia hanno prodotto distorsioni, come la caccia alle streghe e i regimi totalitari. Oggi siamo di fronte a nuovi pericoli derivanti da un uso sconsiderato della tecnologia. E questo è essenzialmente un problema di rete.
Nel libro viene citato il racconto dell’apprendista stregone, sia la storia originale di Goethe che le varie declinazioni successive (come il cortometraggio Disney). La morale della storia è semplice: mai evocare poteri che non si possono controllare.
E noi esseri umani siamo davvero in grado di controllare le conseguenze di un utilizzo non regolamentato dell’intelligenza artificiale?
Nel futuro potremmo trovarci di fronte a due scenari:
- da una parte l’umanità potrebbe spaccarsi in due, perché incapace di trovare uno stesso accordo sulla regolamentazione dell’IA
- dall’altra potremmo perdere il controllo sull’IA e un’intelligenza artificiale potrebbe prendere il controllo dell’umanità e sottomettere homo sapiens
La realtà intersoggettiva
Attraverso lo scambio di informazioni si genera potere, ma questo non garantisce necessariamente verità e ordine. La verità non è la realtà. Ogni rappresentazione della realtà sarà sempre una selezione frutto di scelte per inclusione ed esclusione.
La realtà è composta da tre livelli:
- un livello oggettivo;
- un livello soggettivo;
- un livello intersoggettivo.
Il livello intersoggettivo è una creazione umana, realizzata attraverso lo scambio di informazioni. Ad esempio, gli stati, il denaro e la proprietà privata sono una realtà intersoggettiva, perché frutti di storie e accordi tra gli esseri umani che concordano di credere alla loro esistenza.
Gli esseri umani per loro natura sono fallibili. Le istituzioni religione e i regimi totalitari basano invece il loro potere sul mito dell’infallibilità. Questa presunta infallibilità apre a numerosi problemi, tra cui l’assenza di meccanismi di autocorrezione.
L’informazione ha la capacità di creare nuove connessioni. Un libro come la Bibbia è stato capace di connettere tra di loro centinaia di milioni di persone sparse per il globo, unendole attraverso una narrazione condivisa. Questo è il vero successo di homo sapiens: mettere in contatto le persone e tenerle unite attraverso le storie.
Homo Sapiens è un animale narrante, capace di creare cooperazione su larga scala attraverso il racconto di storie condivise.
Questo vale sia per i fedeli della Chiesa che per i seguaci dei leader carismatici. Quando gli esseri umani condividono storie, idee e una stessa visione del mondo, si organizzano all’interno di comunità per portare avanti i medesimi valori e obiettivi, a prescindere dalla nobiltà dei mezzi e del fine.
Le storie creano un livello di realtà che esiste soltanto attraverso le storie stesse. Questa è la realtà intersoggettiva ed è generata dallo scambio di informazioni tra le persone. Persone che credono a storie diverse “vedranno” realtà intersoggettive diverse. Pensiamo all’esistenza degli stati. Ci sono persone che credono all’esistenza dello Stato di Israele e persone che negano la sua esistenza. Viceversa, ci sono persone che credono allo Stato di Palestrina e persone che negano la sua esistenza. Chi ha ragione? Quale di queste due realtà intersoggettive è vera?
Lasciamo questa risposta agli esperti di geopolitica, ma da ciò che emerge dalla lettura di Nexus, entrambe le realtà sono vere da un punto di vista intersoggettivo. Ed entrambe le realtà non sono e non possono essere realtà oggettive, perché gli Stati sono narrazioni che derivano da accordi fatti tra gruppi di persone. Gli Stati, al pari del denaro e della proprietà privata, sono realtà intersoggettive.
La dichiarazione di Bletchley sull’IA
La visione ingenua dell’informazione
La visione populista dell’informazione
La visione complessa dell’informazione
Lo scopo dell’informazione
La caccia alle streghe
I sistemi di autocorrezione
La scoperta dell’ignoranza
Istituzioni di curatela: il fondamento della rivoluzione scientifica
Le prove empiriche alla base di un testo scientifico sono più importanti delle vendite potenziali. Non è un caso che La rivoluzione delle sfere celesti di Copernico sia stato ironicamente considerato un worst-seller: pessimo in termini di vendite, ma una pietra miliare della rivoluzione scientifica.
La scienza è un lavoro di squadra
Publish or Perish
La distribuzione del potere
La decentralizzazione delle informazioni
Il controllo a vicenda
La paura di Tiberio
Problema dell’accentramento informativo
Le reti informative dittatoriali
Accentramento delle informazioni e infallibilità del centro
I principi della democrazia
Bene comune
Decentramento
Reciprocità (sorveglianza)
Spazio sia al cambiamento che alla stasi
Il lancio di GPT-4
aaa
La definizione di Nexus
Presenza fisica in un paese
Da estendere alla presenza digitale
Pagare per l’estrazione di dati
I sistemi di credito sociale
Il determinismo tecnologico
Il capitalismo della sorveglianza
Rischio di sorveglianza h24
Il problema dell’allineamento
Caso Myanmar
L’agentività delle IA
Schema del business model
Il diritto a una spiegazione
Cosa dice il GDPR
La complessità delle IA
Le due tappe dell’IA
Alexnet
AlphaGo
La cortina di silicio
Mondo spaccato in due
Software vietati
Hardware vietato