Pinocchio artificiale – Oltre il deepfake
La sistematica falsificazione dell’informazione e conoscenza sfruttando l’IA per propri scopi è rischio noto da tempo. Ma cosa succede se perdiamo il controllo sulle bugie? È come avere una pistola che spara quando le pare e piace. È quello che sta succedendo. L’IA ha imparato a mentire. Si inventa cose che non esistono e per motivi che sono fuori dal nostro perimetro e controllo. Il problema è sorto di recente, da quando il sistema sanitario nazionale americano (HHS) ha introdotto un modello di IA chiamato Elsa (Efficient language system for analysis), il cui scopo avrebbe dovuto essere quello di sveltire le pratiche d’approvazione dei nuovi medicinali. Peccato che Elsa nelle valutazioni si è inventata anche ricerche scientifiche che non sono mai esistite. In gergo, “allucinazioni”; nei fatti, vere e proprie bugie. Alla fine, gira e rigira, a furia di voler imitare il cervello umano si imitano le cose peggiori o, meglio, le più diffuse. Mentire.
Cervello artificiale
Il MIT mette in guardia ChatGPT e altri modelli di IA fanno male al cervello? Secondo un recente studio del MIT “si rischia un debito cognitivo”, difficile poi da recuperare. In sostanza, l’uso massiccio di ChatGPT, ormai usato come cervello esterno chiamiamolo pure “brain outsourcing” – ridurrebbe apprendimento, pensiero e memoria. Lo studio del MIT di Boston (il primo nel suo genere) ha misurato con elettrodi le attività cerebrali di tre gruppi di studenti: il primo al lavoro con ChatGPT, il secondo con accesso a Internet (ma senza strumenti di IA) e il terzo con altri strumenti più tradizionali. I risultati, sostiene il MIT, sono inequivocabili. I partecipanti del gruppo con accesso a ChatGPT, hanno ottenuto risultati peggiori rispetto alle loro controparti a tutti i livelli: neurale, linguistico e di punteggio. Non solo. Affidarsi all’IA genera anche conformismo di pensiero. Niente di nuovo, comunque. Imparare una lingua allena il cervello, scrivere a mano aiuta l’apprendimento e prendere note durante una conferenza o riunione migliora la capacità di sintesi. Esternalizzare tutto, invece, atrofizza la mente. A ognuno la scelta.
Governance artificiale – Lo stato algoritmo
Da Lo stato delle cose (film di Wim Wenders) allo stato delle cose artificiali (governo degli Stati Uniti) il passo è stato breve. Anche qui, pura arte in b/n. Sì, perché le macchine non vedono i colori, ma li elaborano come dati. Un dato da tenere presente quando si giudica il nascente governo algoritmico. Per alcuni, AI.GOV, l’iniziativa del governo degli Stati Uniti, che mira a integrare l’intelligenza artificiale nelle funzioni governative, creando un ecosistema federale, è una grande idea di efficienza. Per altri, una pericolosa deriva di governo delle macchine e tecnocrazia digitale, con plausibile tomba delle garanzie costituzionali. Prevede un sacco di cose, fra cui Chatbot AI per sostituire l’intervento umano in decisioni burocratiche e amministrative; audit e tracciamento permanente tra dipendenti pubblici e modelli IA, e un framework API unificato, che collega l’intero ecosistema federale alle AI commerciali di OpenAI, Google, Anthropic, Meta e Amazon. Il tutto ospitato su infrastrutture cloud Amazon e FedRAMP, con i rischi di accesso ai dati governativi da parte di soggetti privati. Se ne occupa un tale Thomas Shedd, ex Tesla, non eletto e ora responsabile del modo in cui il governo interagisce con i cittadini. Parlando di lato oscuro, qui, forse, è all’opera un prototipo di una nuova forma di dominio: una governance algoritmica automatizzata. Un sistema che non ha bisogno di consenso democratico e che quindi governerà a prescindere dall’orientamento delle amministrazioni. Sovranità tecnocratica.
Gestione artificiale – Occhio ai giovani
L’IA sostituirà una parte significativa del lavoro d’ufficio e la gestione delle grandi aziende potrebbe presto diventare un compito delle macchine, rendendo l’uomo superfluo. Come sempre, Sam Altman, ceo di OpenAI, è perentorio. Per lui il futuro è già scritto (da tipi come lui). Le vittime predilette dell’IA sono ovviamente i giovani, ormai senza anticorpi cognitivi del passato e totalmente in balia della seduzione artificiale. Per le imprese una bella sfida, anche perché l’IA è particolarmente brava ad assumere compiti che un tempo svolgevano i principianti, o neo assunti, come creare rapporti e sintesi, elaborare dati, analizzare la concorrenza. Come faranno i tirocinanti a imparare l’abc del business se gli algoritmi fanno il lavoro al posto loro? Come insegneremo ai giovani collaboratori le nozioni di base? Le aziende devono trovare altri modi per fornire ai neoassunti le competenze di “ingresso”.
