La conversational AI apre nuove prospettive nel customer care: cosa succederà secondo lei verosimilmente nei prossimi anni? Gli addetti umani spariranno gradualmente?
«Premesso che nessuno possiede la sfera di cristallo e fare previsioni nel dinamico universo dell’IA è sempre azzardato, non credo che si potrà fare a meno di risorse umane. Ci sarà probabilmente un cambiamento nelle competenze richieste, anche all’interno del settore customer care. Già oggi assistiamo all’esigenza di inserire profili in grado di sfruttare le potenziali dell’IA: servono da un lato skill tecnologici per le fasi di progettazione, analisi e produzione di modelli IA efficaci, e competenze umanistiche per l’adozione etica, la governance, la gestione del risk management e della compliance».
In che modo l’IA nella customer experience permetterà di fare un upgrade, dai punti di contatto alla raccolta di dati per operazioni mirate?
«Tra le tante applicazioni dell’IA per la gestione della customer experience, possiamo identificare le seguenti due, ad alto impatto: la prima è relativa all’IA Conversazionale (Conversational AI per gli anglofoni), ovvero l’utilizzo di linguaggio naturale per far interagire utenti o clienti (human agent) con le macchine (AI agent quali chatbot, voicebot, videobot ecc.). La seconda riguarda l’analisi delle conversazioni per profilare gli utenti, comprenderne le emozioni (sentiment analysis), i gusti e, più in generale, gli argomenti trattati durante le interazioni con il customer care. Per entrambe le applicazioni, l’AI rappresenta uno strumento potente di “aumento delle capacità umane”, sia nella fase di interazione cliente che nell’analisi a posteriori, consentendo, in ultimo, di migliorare la customer experience».
In alcuni interventi pubblici lei ha esplorato il concetto di onlife: una distinzione tra la nostra vita online e offline sarà impossibile?
«Onlife è un concetto sviluppato dal prof. Luciano Floridi, pubblicato con l’Online Manifesto nel 2013. Io ho solo cercato, più recentemente, di estenderne la sua applicazione alla Conversational AI, ovvero comprendere a che punto siamo nella distinzione tra interazione verso agenti umani e agenti artificiali. Per quanto riguarda la distinzione tra online e offline, credo che a questo punto la domanda più corretta sia: ha ancora senso? Personalmente, credo sia ancora possibile, ma richiede uno sforzo notevole. La maggior parte delle persone vive ormai continuamente e inconsapevolmente una sovrapposizione tra il mondo digitale e quello analogico».
Considerando i rapidi sviluppi dell’intelligenza artificiale generativa, lei ha parlato anche del concetto di Conversational HyperConvergence (CHC): crede davvero che in un futuro non troppo lontano sarà pressoché impossibile distinguere un’interazione umana da una artificiale?
«Ho introdotto questo concetto in un recente paper pubblicato su Springer, Nature AI and Ethics. La mia ricerca è stata finalizzata allo sviluppo di un modello iniziale, al fine di comprendere con che velocità ci stiamo avvicinando a delle conversazioni indistinguibili tra uomo e macchina (AI). Quando parliamo di interazioni, è importante precisare anche la loro tipologia: ad oggi è ancora relativamente facile distinguere se dall’altra parte del telefono sto parlando con un umano o un agente AI, tuttavia questa distinzione sta diventando sempre più labile sui canali asincroni (gran parte della messaggistica). Quando riceviamo una email o un messaggio WhatsApp, come distinguiamo se sono stati scritti da un agente AI o umano? Inoltre, non tutti abbiamo la stessa dimestichezza con la tecnologia e con le comunicazioni, quindi la capacità stessa di distinguere tra uomo e macchina è molto soggettiva. Ecco perché la mia ricerca su Conversational HyperConvergence prende in esame fattori come i canali di interazione utilizzati (voce, chat, email,…), il livello di conoscenza tecnologica degli utenti e anche la tipologia e complessità delle conversazioni. Tornando alla domanda: credo sia molto probabile che, in futuro, anche alcune comunicazioni real-time, quindi voce e, successivamente, video, potranno avvenire con veri e propri “Digital Twin”, ovvero assistenti digitali difficilmente distinguibili dagli umani».
Ha anche approfondito questioni legate alla sfera etica: quando un essere umano interagisce con una macchina intelligente che condiziona il suo comportamento, chi è responsabile delle conseguenze delle sue azioni?
«È molto importante considerare tutto ciò sotto l’aspetto etico: riduzione delle discriminazioni, trasparenza, privacy e governance sono aspetti chiave quando parliamo di AI. Inoltre l’accountability, ovvero la definizione delle responsabilità, è fondamentale. Si pensi ad esempio all’utilizzo dell’IA per interagire con persone particolarmente vulnerabili o per fornire consulti medici. Per non parlare poi di uno dei temi cruciali: l’utilizzo dell’IA per i sistemi di difesa. È evidente che non possiamo demandare le responsabilità a “un’entità artificiale”, ma occorrono regolamentazioni chiare e internazionalmente riconosciute per gestire questo tema».
