È il trend e motto del momento: “Il potere logora chi non ce l’ha, l’IA”. Non: avere (e usare) l’IA, ma: avere (e usare) il potere sul (e del) IA. Molto diverso. Sì, ma per fare cosa? Per spiare gli altri, per muovere guerra, per controllare i mercati, per dominare il mondo e per fare affari (forse). Tutti sono accecati da irrazionali sogni di definitiva onnipotenza. Seduzioni, demoni, potere, morte, lotta e (forse) rinascita umana.
Come nella saga di Tolkien, i moderni oscuri signori bramano per avere l’algoritmo del potere che permette di dominare tutti e tutto. E tutti bramano anche di vendere libri sull’IA (o con l’IA, difficile dirlo), anche sul tema del potere. Fresco di stampa c’è Empire of AI: dreams and nightmares in Sam Altman’s OpenAI, nel quale Karen Hao, ex direttrice di MIT Tech Review, si scaglia contro la nuova era coloniale tecnofeudale. «L’intelligenza artificiale – afferma l’autrice – è un impero e potere in mano a pochi che sfruttano le risorse della comunità».
Uno scenario devastante il suo. Come quello di Gary Rivlin, premio Pulitzer, che nel saggio I padroni dell’AI accusa i nuovi oligarchi digitali di riscrivere le regole del mercato solo a proprio vantaggio.
Non solo mercato, però, ma anche brama di egemonia globale, come documentato nei recenti Geopolitica dell’intelligenza artificiale e La Cina ha vinto, del consigliere scientifico di Limes, Alessandro Aresu. A dirla tutta, quella che stanno costruendo alcuni pochi non è intelligenza artificiale ma intelligenza aziendale.
Un tipo di intelligenza pensata da alcune aziende per convincere l’intera umanità che l’IA può e deve prendere il nostro posto per ogni cosa. Perché questo è il futuro, dicono i nuovi padroni, abili nell’imporre un futuro che agisce nell’ombra al riparo dagli occhi indiscreti. Loro sono lo stato profondo del futuro che condiziona ogni agenda globale e politica.
Ma chi sono? Certo, le solite big tech e i soliti noti, come i sovraesposti (mediaticamente) Elon Musk, Peter Thiel e Sam Altman, la cui OpenAI ha siglato contratti e accordi incrociati con Stargate, Nvidia, Amazon, Oracle e tanti altri, o ancora l’inquietante (per il nome scelto dalla trilogia del Signore degli Anelli) Palantir Technologies, una delle aziende più controverse del settore tecnologico, che ha stretto accordi con il Pentagono e il dipartimento della Sicurezza nazionale e che fornisce, secondo alcuni analisti come Francesca Albanese, strumenti predittivi per l’attività di polizia, in stile Minority Report.
Poi ci sono infiniti altri protagonisti di altri paesi. E non solo la solita Cina, in cima alle citazioni. Ma più dei protagonisti dovrebbero preoccupare i rischi: di autoritarismo algoritmico, donde la governance non è più reattiva (as usual) ma predittiva, con i comportamenti umani plasmati da decreti algoritmici che alla fine rendono la democrazia obsoleta (buona solo nel mondo del dire) e sostituibile (nel mondo del fare), con una tecnocrazia fluida e auto-ottimizzante.
Se vi suona troppa antagonista come posizione, che dire di questa affermazione di Pavel Durov, businessman e fondatore di Telegram: «Un mondo oscuro e distopico si avvicina rapidamente, mentre noi dormiamo. La nostra generazione sta esaurendo il tempo per salvare l’Internet libero»?
Ok, anche lui è un tipo assai controverso. Intanto, però, restano aperte parecchie domande, tipo: cos’è il potere quando il territorio non è più terra ma cloud, algoritmo, data center? Cos’è il diritto internazionale di fronte al monopolio infrastrutturale? E, soprattutto, i padroni dell’IA sono padroni di cosa? Una piccola carrellata.
Padroni dell’intelligenza
Della parola. Ovvero, il nome improprio della cosa. Come fa notare Lorenzo Tomasin, accademico della Crusca, «quella artificiale di fatto non è una forma d’intelligenza».
Sulla stessa lunghezza d’onda anche il noto filosofo Luciano Floridi, la cui tesi principale del nuovo saggio La differenza fondamentale è che l’IA non è una forma d’intelligenza cosciente, ma piuttosto una potente forma di “agency” capace di agire autonomamente per produrre effetti senza avere comprensione e consapevolezza.
Padroni del mondo
Potere geopolitico e geoeconomico? Non solo. Andando di fino, qui è in ballo lo spazio di arrivo. Oggi il potere deterritorializza la propria base materiale. La nuova “terra” sono i dati: chi li possiede sorveglia, indirizza, monetizza.
Il nuovo confine è un pezzo di codice. La nuova punta dell’IA è il datacenter: fisicamente localissimo, giuridicamente extraterritoriale.
Per millenni abbiamo sviluppato anticorpi che ci hanno consentito di sviluppare contromisure (diplomazia, diritto internazionale, sindacati, barriere umane e culturale), ma quell’era è finita. Nel regno dei bit, gli anticorpi tradizionali sopravvivono come fantasmi che cercano un corpo nuovo.
Padroni dei mercati
Monopolio assoluto. Punto e ricominciare da capo. L’Europa si è messa da sola in questa posizione di dipendenza tecnologica. In Germania oltre l’80% delle aziende dichiara di essere dipendente dalle società tecnologiche statunitensi e dai loro prodotti.
Certo, in Italia non va meglio. Com’è potuto accadere? Abbiamo fatto tutto da soli noi europei, puntando sull’outsourcing informatico. Con brutte conseguenze. In caso di tensioni geopolitiche, gli Stati Uniti potrebbero persino minacciare di bloccare gli account cloud, paralizzando così le attività delle imprese. È possibile farne a meno? Abbiamo alternative europee?
Padroni del lavoro
Amazon punta ad automatizzare fino al 75% degli impianti evitando così di assumere fino a 600mila dipendenti da qui al 2033 nei soli Stati Uniti. Già, il lavoro. Dario Amodei, ceo di Anthropic, stima che metà dei lavori entry-level per colletti bianchi potrebbe sparire nei prossimi cinque anni. E intanto l’IA decide se puoi lavorare… solo guardando la tua foto! L’algoritmo valuta tratti del viso, carattere presunto e persino il potenziale di carriera, tutto in un solo sguardo. Fisiognomica artificiale. Mancava.
Ma non tutto torna. Secondo un’analisi di Axios, l’IA non ha sostituito le persone: le aziende stanno massicciamente richiamando i dipendenti licenziati. I processi complessi richiedono esperienza e flessibilità.
Ma soprattutto pare che il 95% delle aziende non ha ottenuto i profitti attesi dagli investimenti in IA. Finora le “macchine intelligenti” si sono rivelate non così intelligenti. E nemmeno i manager che le hanno adottate, direi.
Padroni del potere
Il potere di riconfigurare il mondo, i mercati, le leggi e la nostra stessa esistenza. L’intelligenza artificiale scompone e ricompone ogni nostro pezzo di storia. Idee, pensieri, invenzioni, canzoni e costruzioni. Tutto quello che abbiamo scritto, detto e fatto viene fatto a pezzi (in numeri e codici), smembrato e riassemblato in nuove opere spesso prive di un vero senso o perché.
Padroni dell’Italia
Sudditanza stupida. In omaggio a coloro che ci dominano tecnologicamente (e non solo) non la chiamiamo più IA ma AI (masticando ei-ai come un vero texano). Nella stanca e arrugginita “locomotiva d’Europa” continuano ovunque a chiamarla KI (künstliche Intelligenz). Per ora.
Padroni delle risorse
Orchi e Uruk-hai digitali. L’esercito degli algoritmi ha tanta sete e tanta fame. Il signore degli algoritmi lo sa che il giro del fumo è quello di Matrix e provvede sottraendo acqua ed energia a noi umani. Risorse. È la battaglia di questo tempo e l’impatto sull’ambiente sarà devastante. Ci vorrebbero i buoni che combattono i cattivi. Ma in questa saga non ci sono.
Padroni della guerra
Quest’estate analisidifesa.it ha fatto un po’ di conti sull’utilizzo dell’IA nei teatri di guerra in Europa e Medio Oriente. Impressionante. L’IA diventa strumento invisibile della guerra con applicazioni per l’intelligence, dronizzazione selvaggia e analisi predittive per l’individuazione rapida di obiettivi.
Non solo. gli agenti segreti vengono sostituiti da “agenti narrativi”: algoritmi che perlustrano lo spazio informativo alla ricerca di segnali premonitori di eventi nascenti. Quando un certo scenario raggiunge soglie critiche, il sistema attiva automaticamente azioni predeterminate.
Padroni dello Stato
Cloud Empires. Contano più le big tech che le istituzioni e infatti stanno scavalcando lo Stato per prenderne il controllo. Detto chiaramente: le forme tecniche vogliono diventare forme politiche (autoritarie, ovviamente) sostituendosi allo Stato e negando la democrazia. La governance algoritmica automatizzata e lo stato artificiale sono già in sperimentazione.
L’AI.GOV, l’iniziativa del governo degli Stati Uniti, che mira a integrare l’IA nelle funzioni governative, si “vende” al pubblico come idea di efficienza, ma il tutto è ospitato su infrastrutture dei soliti noti, con i rischi di accesso ai dati governativi da parte di soggetti privati, che intanto si fondono con i poteri statali per ottenere, chissà, un sistema che non ha bisogno di consenso democratico e che quindi governerà a prescindere dall’orientamento delle amministrazioni. Sovranità tecnocratica.
Padroni del giudizio
L’esilio digitale come giudizio universale artificiale. Un tempo, chi veniva accusato aveva diritto di difendersi davanti a un giudice; adesso basta un algoritmo opaco per far sparire in un istante il canale di un attivista o la voce di un giornalista.
Le piattaforme creano propri tribunali interni graditi ai poteri forti, che promettono appello e revisione, ma sono camere di compensazione private, dipendenti da coloro che dovrebbero giudicare.
Padroni del pensiero
Taylorismo digitale: l’IA impone il pensiero. Le macchine fanno, cioè, producono, ma oggi, rispetto alla tecnica analogica, pensano pure. Non nel senso che davvero pensano, ma nel senso che impongono agli umani non solo come devono fare e lavorare, ma anche come e cosa devono pensare.
Padroni del controllo
Identità digitale come controllo finale? Come ha ammesso candidamente Larry Ellison, ceo e proprietario di Oracle, «I cittadini si comporteranno al meglio perché osserviamo e registriamo costantemente tutto ciò che accade». Amen.
Padroni del cervello
Non avrai altro cervello all’infuori di me, tuona l’IA. Ma a che prezzo? Secondo un recente studio del MIT l’uso massiccio di ChatGPT & Co, ormai usato come cervello esterno – chiamiamolo pure “brain outsourcing” – riduce apprendimento, pensiero e memoria. In futuro nessuno rimarrà più sconvolto dall’incapacità delle persone di formulare le parole e, addirittura, di pensare alle parole giuste e semplici. Un addio.
Padroni del business model
Mai stato così facile copiarlo. Così come i biohacker utilizzano un algoritmo per “copiare” un farmaco, così in futuro molti imitatori potrebbero fare lo stesso per scoprire il “blueprint” del vostro software proprietario, copiare il vostro particolare stile di marketing e pubblicitario, oppure, clonare l’intero modello di business analizzando in ogni dettaglio tutte le strategie e modus operandi.
Padroni della conoscenza
Da quando Google ha introdotto prima AI Overview poi AI Mode, si rischia un’unica fonte d’informazione che, di fatto, uccide i variegati contenuti digitali. Niente più esplorazioni nel mare del web verso conoscenze impreviste e scoperte inaspettate, ma solo risposte preconfezionate e filtrate algoritmicamente.
Padroni del fake
I deepfake aumentano a dismisura e, forse, non bastano strumenti come DeepFake-o-meter, che controllano e smascherano i falsi video, immagini news e persino siti generati dall’IA, anche per uso di potere o guerra.
Per dire: secondo una inchiesta di TheMarker e del quotidiano Haaretz, dallo scoppio della guerra a Gaza e iniziata un’operazione online di Israele per influenzare il dibattito sui social media, che ha fatto leva su una sofisticata rete di profili falsi, volti generati artificialmente, influencer “di comodo” mai esistiti e contenuti costruiti ad hoc tramite l’IA. E così fan tutti.
Padroni della competizione
Il vostro prossimo concorrente potrebbe essere un “AI native”, ovvero startup che partono direttamente con una soluzione e struttura basate sull’IA senza il bagaglio del “vecchio mondo del lavoro”.
Queste aziende – in aumento, soprattutto nei settori dell’informatica, della pubblicità e del marketing – non devono riqualificare i dipendenti o integrare faticosamente l’IA nei processi esistenti, ma partono già “AI driven”.
Padroni dell’informazione
Il potere di chi gestisce e governa le condizioni di accesso all’informazione, alla visibilità, all’esistenza stessa nei circuiti digitali. È un potere che non si impone più per esclusione ma opera per abilitazione selettiva: fa apparire, scomparire, indirizza, silenzia, amplifica. È puro potere di architettura: decide quali connessioni siano possibili, quali accessi siano aperti, quali flussi siano incentivati, quali silenzi siano imposti.
Padroni delle illusioni
Il paradosso di un progresso che corre restando fermo. Ogni settimana compare un nuovo modello linguistico o una versione aggiornata di uno già esistente. Eppure, sotto molti aspetti, il punto di partenza è ancora lo stesso e le piattaforme di IA generativa continuano talvolta a produrre risultati errati o privi di senso.
Ognuno vede nell’intelligenza artificiale ciò che vuole vedere. L’IA somiglia sempre di più a un test di Rorschach: ognuno vi proietta ciò che desidera vedere. Per alcuni è una macchina magica, per altri rappresenta il declino della civiltà. E per ogni punto di vista non mancano articoli, studi e sondaggi.
Secondo alcuni ricercatori di Apple, perfino i più avanzati modelli di “reasoning” non pensano davvero, ma si limitano a calcolare probabilità linguistiche. Altri ricercatori avvertono che, man mano che i modelli di IA apprendono sempre più da dati contaminati e inquinati da output precedenti di IA, la qualità e l’affidabilità dei modelli futuri potrebbero degradarsi.
Allo stesso tempo, continuano a circolare notizie di aziende che riducono gli investimenti. Il “Future of Jobs Report” del World Economic Forum stima che nei prossimi cinque anni l’IA sostituirà nove milioni di posti di lavoro – ma, nello stesso documento, si prevede anche la creazione di undici milioni di nuovi impieghi legati alla stessa tecnologia.
Un eterno gioco di pro e contro. Il progresso dei modelli di IA, intanto, non segue l’andamento esponenziale. Al contrario: oggi siamo costretti a investire risorse in modo esponenziale per ottenere progressi sempre più piccoli. Illusioni?
Padroni del niente?
Per il momento, far quadrare i conti è l’ultima delle preoccupazioni di Sam Altman, che prevede di accumulare perdite pari a 115 miliardi da qui al 2029. Intanto, come fa notare il Financial Times, la tensione sale alle stelle.
Wall Street: bruciati quasi mille miliardi in 5 giorni. Forse l’IA si immolerà da sola. O, meglio, la bolla speculativa dell’IA potrebbe scoppiare da un momento all’altro. Tanti investimenti, tanti debiti ma pochi profitti. Se la conosci veramente, la eviti?
Lavorare sopra o sotto?
Controllo o dipendenza? Usare o essere usati. Stare sopra o sotto? Saperlo, fa tutta la differenza del mondo, dell’IA. Viviamo in un’epoca in cui l’IA entra in ogni aspetto del nostro lavoro e della nostra vita quotidiana.
Ma una domanda resta aperta: lavoriamo sopra o sotto l’IA? È una distinzione fondamentale che ci aiuta a capire chi guida la tecnologia – e chi, invece, ne è guidato. Lavorare sopra l’IA significa usarla come uno strumento a proprio vantaggio.
Far riassumere un lungo documento, ottenere ispirazione da una chatbot o ottimizzare i propri processi grazie a un algoritmo: in questi casi siamo in controllo.
Lavorare sotto l’IA, invece, vuol dire trovarsi dall’altra parte del sistema. Significa che non si è scelto di usare l’IA, ma che è lei a dettare i ritmi, le regole e le istruzioni.
Succede, per esempio, a chi consegna cibo per una piattaforma di delivery o a chi risponde alle chiamate in un call center, dove l’IA monitora tempi, percorsi e perfino toni di voce. La linea che separa il “sopra” dal “sotto” è sempre più sottile.
Come sempre il vero potere non risiede nella tecnologia, ma nella nostra capacità consapevole di usarla come leva per il futuro. Chiediamocelo.
Usiamo leve per spostare massi o ci sentiamo delle leve che vengono usate per spostare massi? Se vogliamo evitare “l’obsolescenza umana programmata” non dobbiamo sentirci delle leve, altrimenti una tecnologia più efficiente potrebbe sostituirci.
Next business: l’intenzionale artificiale
Come scrisse Fast Company quasi un anno fa, “Forget the attention economy. Prepare for the intention economy”. Decifrare le intenzioni. Spiare, dunque. Se l’economia dell’attenzione ha mercificato l’attenzione degli utenti sulle piattaforme come Instagram e Facebook, quella dell’intenzione si concentra sulla mercificazione delle motivazioni e delle intenzioni umane, trattandole come moneta pregiata.
In pratica le vostre decisioni saranno presto vendute prima che le prendiate. I programmi sono addestrati proprio per riconoscere le intenzioni e a prevedere le azioni, tipo il film Minority Report.
Il tutto grazie anche ai nuovi agenti segreti che operano all’ombra dei computer. Oggi gli agenti IA (sistemi software che agiscono in modo autonomo per completare attività) non sono più un esperimento da laboratorio né un passatempo per smanettoni ma, come afferma Sam Altman, ceo di OpenAI, “the next big thing” o, meglio, il cavallo di Troia per penetrare le difese di ogni cliente e consumatore.
SoftBank entro la fine dell’anno punta a mettere in funzione circa un miliardo di agenti digitali che opereranno 24 ore su 24, 365 giorni l’anno. L’intenzione? Far diventare l’intention economy l’oscuro padrone dei business futuri. O, come scrissi 20 anni fa, il negozio del futuro è la mente stessa. Pensi a un prodotto e la merce ti viene recapitata anche se solo vagamente desiderata. E così sia.
Clicca qui per partecipare in presenza.
Clicca qui per partecipare in streaming.
