IA e governance aziendale: chi si assume la responsabilità dell’algoritmo?

Come le aziende e i manager stanno integrando i modelli predittivi nei processi reali, tra dilemmi etici e crescita competitiva. Lo sguardo e le riflessioni sull'intelligenza artificiale di un giovane che sta svolgendo uno stage curriculare presso Manageritalia Servizi e che ha partecipato al recente evento WOBI dedicato alle prospettive future dell'IA
wobi AI

Ospitiamo il contributo di un giovane stagista presso Manageritalia Servizi, Andrea Murer, che ha partecipato all’evento WOBI dedicato all’intelligenza artificiale, durante il quale siamo intervenuti per presentare l’indagine sul tema realizzata da AstraRicerche e WOBI su quasi 1.000 manager.

La giornata WOBI On AI & Business Transformation, organizzata a Milano lo scorso 9 giugno, è stata un’occasione fondamentale per comprendere alcuni trend che stanno orientando le aziende in termini di trasformazione dei processi, a partire da uno strumento che ormai caratterizza la vita di tutti noi, l’IA.

Far parte di una platea composta da persone che masticano innovazione, provando ad anticipare il futuro nelle realtà che gestiscono, fa a primo impatto un’impressione forte.

Oltre oceano, probabilmente, l’idea è opposta, ovvero risulteresti un pazzo qualora non provassi a reinventarti attraverso l’IA, e questo è proprio il concetto che ha provato ad esprimere Randi Zuckerberg con il suo intervento di apertura.

Randi, sfruttando situazioni concrete da lei vissute in prima persona nella sua vita, ha spiegato come avvicinarsi all’intelligenza artificiale, al modo con cui comunicare correttamente con essa e dunque alla realtà futura che vivremo, sia in realtà più semplice di quanto si pensi.

Sua figlia comunica con l’IA attraverso uno stickerbox in maniera molto intuitiva, per esempio, per creare degli adesivi molto fantasiosi che lei stessa finisce per poi ritrovarli in giro per casa.

L’IA, in sostanza, può dunque far parte della nostra vita di tutti i giorni anche attraverso processi molto semplici, non necessariamente tecnici e complessi.

Questo è forse il passaggio culturale che tanti dovrebbero provare a fare, spiega Randi, che ha trovato questa possibilità nei vari Hackathon organizzati con il fratello e amici già ai tempi del college (che lei ha concluso, a differenza di Mark).

In questo modo ha avuto la possibilità di familiarizzare con strumenti per lei del tutto nuovi e conoscere persone con competenze differenti dalle sue.

La sua carriera è così iniziata in Facebook come volontaria, per poi arrivare alla creazione di Facebook Live, piattaforma rivoluzionaria che ha lanciato il tour di Katy Perry in mondovisione e che è stata utilizzata persino per una diretta alla nazione da parte del presidente Obama.

La reale minaccia di adesso, secondo Zuckerberg, sono i player che ancora non conosciamo o che addirittura non esistono, basti pensare alla scalabilità di realtà come OpenAi o Gemini, che in poco meno di sei mesi hanno monopolizzato il mercato.

Infine, a concludere il suo monologo, ci è stata rivolta una sana provocazione, semplice ma secondo me molto impattante, riguardo la gestione del proprio denaro.

Siccome una volta ci sembrava strana la digitalizzazione del denaro, che oggi è la normalità, dovremmo riflettere riguardo la possibilità di affidare il nostro denaro ad un’entità, che presto, sarà forse in grado di gestire determinati processi di investimento e guadagno meglio di noi.

Dentro di me permane però un dubbio, fondamentale per quanto mi riguarda, legato alla responsabilità di tali operazioni.

Affidando il proprio portafoglio di investimenti all’IA, dovremmo contestualmente affidarle anche la nostra piena fiducia, risultando responsabili di eventuali perdite? In caso contrario, quella stessa responsabilità, ricadrebbe su qualcun altro?

Dopo la Zuckerberg abbiamo ascoltato l’intervento di un panel d’eccezione composto da Enza Truzzolillo, Marco Bellinzona e Alfonso Gambardella.

Oggetto del loro intervento sono stati diversi esempi su come potrebbe essere utilizzata l’IA in contesti reali.

Un utilizzo comune ma molto efficace sarebbe per esempio quello della gestione del magazzino in maniera intelligente, il che porterebbe banalmente ad un diretto beneficio economico.

Lenovo, parlando sempre di raccolta ed organizzazione dei dati attraverso l’intelligenza artificiale, si rivolge a molteplici eventi sportivi come la motogp e la Formula 1, dove infatti la performance è tra le priorità.

Il tema qui, nell’adozione di questi strumenti nella gestione e nella raccolta dei dati, rimane più quello etico secondo i 3 ospiti. Ci vuole in primis coraggio per intraprendere processi di trasformazione volti all’innovazione delle proprie infrastrutture e dei propri processi, semplici o complessi che siano.

A questo proposito, gioca un ruolo fondamentale l’explainability delle IA in oggetto, ovvero la loro sicurezza e la fiducia (all’interno dell’Ue sono presenti già normative che, seppur forse un po’ troppo stringenti, proteggono molto i consumatori terzi).

Infine, come ha sottolineato Bellinzona, forse quello dei tre che si è rivolto nella maniera più diretta e concreta ai manager e a coloro che porteranno avanti l’innovazione, è necessario che l’IA venga introdotta in azienda.

Al contempo, dove è già presente, è necessario che venga rivalutata la sua utilità nei processi e nell’eventualità riorganizzata.

Jason Wild, esperto di relazioni strategiche e customer experience, ha iniziato il proprio intervento attraverso il concetto della paura di innovare. Secondo lui, infatti, la paura che ci caratterizza nei processi di trasformazione e innovazione è normale, anzi necessaria, non deve però diventare una completa paralisi.

Un esempio che mi è molto piaciuto, in quanto diretto ed impattante, sta nella trasformazione che ha portato dalla candela all’utilizzo dell’elettricità per le lampadine. La lampadina non è il risultato di una trasformazione graduale delle candele, bensì, è stato un vero e proprio salto che ha portato a qualcosa di nuovo.

Con questi presupposti, il suo monologo è stato forse il più interessante, considerata anche l’attenzione che ha riposto nello spiegare come certi processi o ambiti delle aziende stiano scomparendo con l’avvento dell’IA, vediamo per esempio il Middle management.

L’IA potrà essere utilizzata in processi che riguardano le grafiche, per sintetizzare documenti o per il coding, ad esempio, ma non riuscirà mai a sostituire la parte di relazione che contraddistingue le persone.

Secondo Wild le strategie di innovazione si baseranno sulla crescita e sulla costruzione di basi solide, concentrandosi in maniera ancora più significativa sulla diversità che la realtà in oggetto sarà in grado di presentare rispetto alla concorrenza.

Grazie al professore di Harvard Mitchell Weiss, abbiamo avuto modo di comprendere come vi siano già realtà costruite su misura per performare dove le persone sono sostituite completamente da agenti istruiti per un compito ben preciso.

La trasformazione in oggetto sta portando un “Frame models that predict” fino ad un “agent able to act”, il che ancora lascia dei dubbi in termini di cyber security, mancanza di qualità dei processi, rischi concreti e diversi bias che potremmo ritrovare nelle decisioni e nei comportamenti di questi agenti che utilizzano l’intelligenza artificiale per agire.

Allo stesso tempo, è molto comune che ci si faccia un’idea concreta di come potrebbe essere una realtà in cui questi agenti sono alla base di molti dei processi che oggi vengono svolti da persone fisiche.

La forza lavoro e allo stesso i costi ovviamente, diminuirebbero esponenzialmente.

Ne è testimone realtà come Lovable, un software in grado di sviluppare da 0 un’applicazione funzionante al 100%, con costi quasi pari a 0, quando invece per un lavoro simile, magari certo più complesso, svolto da una persona, sarebbero richieste migliaia di euro.

Il fulcro del discorso, però, secondo Weiss non va mai spostato da quello che deve essere l’intervento umano, necessario e quasi obbligatorio nei confronti di queste realtà frequentate da agenti IA.

Un intervento necessario per allineare i vari agenti tra di loro, decidendo quali siano i focus di ognuno.

Anche lui ha infatti, nel suo discorso, portato l’attenzione sul fatto che, seppur la tendenza sia quella di affidarsi completamente all’IA, resta fondamentale “thinking with our heads”.

Il concetto di pensiero critico delle persone, caratteristica che l’IA non riesce molto bene a mostrare ancora, ci è stato raccontato anche da Paolo Zaccardi, ceo di Fabrick.

Secondo lui, la tendenza comune volta a misurare l’IA in termini di efficienza è completamente sbagliata. Questo perché, involontariamente magari, non verrebbero prese in considerazione le sfumature che solo nel caso di un pensiero umano si potrebbero ritrovare.

Per far capire meglio questo concetto, ha mostrato una propria esperienza con una delle nuove auto a guida autonoma, non in grado di riconoscere dei semplici gesti di un uomo che consigliavano un cambio corsia.

Ecco che ritroviamo determinate sfumature, spesso impercettibili, che però un computer, almeno per ora, non è in grado né di mostrare, né di recepire.

Quelle appena descritte sono sfumature solo nostre che in qualche modo dobbiamo provare a salvaguardare.

Quanto Zaccardi si è trovato ad affrontare in questi anni, in ambito di innovazione e trasformazione, lo ha portato a porsi una semplice domanda, che però sposta il focus dalla intelligenza artificiale o società su di noi in prima persona.

Che cosa vogliamo diventare noi attraverso l’utilizzo dell’intelligenza artificiale è una domanda che in qualche modo potrebbe essere sottovalutata, ma da cui derivano forse anche i vari processi dell’IA, degli agenti appena descritti con Weiss e di tutti, dunque, i processi di trasformazione e innovazione che dipendono da noi in prima persona.

L’intervento finale, a cura di Tricia Wang, un’esperta di customer experience, è stato presentato anche questa volta con una domanda semplice e provocatoria, dove l’uomo veniva paragonato a un Mac di Apple.

Chiaramente i costi differenti caratterizzano la prima differenza sostanziale, nonostante questo però la risposta è stata chiara. L’uomo non è uguale a un computer, la risposta che infatti otterrai dal secondo è basata su dati e dunque sarà una probabilità nel concreto, mentre nel primo caso, seppur possa essere sbagliata, la risposta sarà certa.

Ecco che la Wang ha introdotto così il concetto di Thick Data, secondo me molto interessante.

Si tratta di azioni esclusive delle persone, che non possono essere ritrovate su una “spreadsheet” a differenza dei dati ritrovabili nei dataset.

I Thick data riguardano ciò che spinge le persone ad agire e non nell’effettivo ciò che le persone fanno, ci si concentra sulla motivazione, dunque, delle azioni e non solo sull’azione finale che ci arriva, rappresentata attraverso i Big Data.

Anche per questo, i Thick, a differenza dei Big, vengono presentati in quantità minori ma molto più significative, in quanto riguardano direttamente ciò che pensano i consumatori.

Tricia ha condiviso con la platea la sua esperienza personale in Nokia, quando si trovò in disaccordo sul board su quello che sarebbe stato l’andamento futuro della società per via dell’arrivo dell’iPhone.

Come da lei anticipato, Nokia si ritrovò in grande difficoltà a seguito dell’arrivo del nuovo iPhone, che a differenza loro, come novità, proponeva alle persone uno status.

Qualora, come già avvenuto in tante situazioni come anche in Nike, si esternalizzasse la funzione di raccoglimento dei dati, si avrebbero dei mediated data, non minimamente equiparabili ai pensieri diretti dei consumatori.

I Thick Data rappresentano direttamente ciò che pensano i consumatori, rientrano dunque nell’Human Quality control e sono alla base di quello che, secondo Tricia Wang, dovrebbe essere l’interesse principale degli imprenditori e ancor di più dei manager che guidano le aziende.

Il rischio futuro legato all’IA è infatti che le decisioni e le automazioni dei processi si basino su dati che non esprimono necessariamente il vero interesse dei consumatori, falsando insomma i risultati e portando a perdite non calcolate inizialmente.

Il WOBI Milano 2026, dunque, ha dimostrato che la vera sfida dell’IA non è tecnologica, ma culturale e umana.

L’intelligenza artificiale ottimizza i processi, ma sono il pensiero critico, l’etica e l’interpretazione dei Thick Data a guidare l’innovazione strategica che dovrebbe o che già caratterizza molte aziende e realtà a noi vicine.

In questo scenario di transizione e allo stesso trasformazione attraverso degli agenti autonomi, insomma, il successo delle aziende dipenderà dalla capacità dei leader di governare il cambiamento senza delegare la responsabilità che hanno ora, ricordando che l’IA deve essere un mezzo per potenziarci e non un sostituto del valore umano.

AI & BUSINESS TRANSFORMATION WOBI

PER TUTTI GLI EVENTI WOBI CONDIZIONI RISERVATE PER GLI ASSOCIATI MANAGERITALIA
Grazie alla consolidata collaborazione con WOBI, gli associati Manageritalia possono iscriversi con uno sconto esclusivo agli eventi WOBI.

Per iscrizioni o maggiori informazioni, scrivi a marketing.it@wobi.com menzionando il codice promozionale Manageritalia che trovi in area riservata My Manageritalia – Servizi Professionali – WOBI – eventi

Ti ricordiamo che gli eventi sono finanziabili con tutti i principali Fondi Interprofessionali per la Formazione Continua come Fondir, Fondirigenti, For.Te, Fondimpresa, e tutte le aziende in Italia possono aderirvi. Chiedi al tuo HR manager!

Facebook
LinkedIn
WhatsApp

Potrebbero interessarti anche questi articoli

Cerca