IA in azienda: progettare le condizioni per un uso responsabile

Vi è mai capitato di tirare una porta che andava spinta?

Vedete la maniglia, la afferrate e tirate. Solo quando la porta resiste notate il cartello “spingere”. Avete sbagliato voi o qualcosa vi ha suggerito l’azione sbagliata?

Don Norman, ingegnere e psicologo cognitivo, ha reso celebri situazioni come questa. Nel suo libro “The Design of Everyday Things” mostra come gli oggetti possano aiutarci a capire che cosa fare, oppure confonderci, influenzando il modo in cui agiamo.

Ma che cosa c’entra una porta con l’intelligenza artificiale in azienda?

Anche nell’uso dell’IA, tra l’indicazione ricevuta e l’azione compiuta ci sono una serie di fattori che possono facilitarci o metterci in difficoltà.

Pensiamo a un’organizzazione che chiede di usare soltanto strumenti approvati. Per accedervi, però, bisogna compilare una richiesta, scrivere alla persona di riferimento e attendere un tempo imprecisato. Uno strumento esterno, non ufficialmente approvato, è invece disponibile subito. La policy indica una direzione, mentre il percorso più immediato porta altrove.

Dalle regole alle condizioni di lavoro

Nel primo articolo di questa rubrica abbiamo richiamato la zona di sviluppo prossimale di Vygotskij per ragionare sul punto di partenza e sul supporto necessario ad avviare il processo di adozione dell’IA. Ora ci chiediamo come creare le condizioni per un uso responsabile.

Per rispondere a questa esigenza, un’organizzazione può definire quali utilizzi sono consentiti, assegnare responsabilità e stabilire controlli. Queste scelte fanno parte della governance dell’IA: l’insieme di regole, ruoli e processi con cui l’organizzazione ne guida e supervisiona l’impiego.

Ma torniamo per un momento alla porta. Il cartello era presente. Eppure, un altro elemento suggeriva un’azione diversa.

Anche un’organizzazione trasmette messaggi in modi diversi. Alcuni sono intenzionali. Altri derivano dal modo in cui sono organizzati strumenti, procedure e aspettative. Una policy può richiedere di verificare i risultati dell’IA, mentre nelle riunioni si valorizza soprattutto la rapidità con cui vengono prodotti.

La prospettiva del design ci invita a osservare questi messaggi. Per chi accompagna l’adozione dell’IA, significa esaminare l’esperienza delle persone con la stessa attenzione riservata alla definizione delle regole che dovrebbero guidarla.

Tre domande per osservare l’uso dell’IA

Possiamo prendere in prestito alcuni principi dal design di Norman e tradurli in tre domande: quali segnali diamo, che cosa chiediamo di ricordare e come affrontiamo i casi non previsti.

1. Quali segnali diamo, anche senza volerlo?

La maniglia della porta ci suggerisce di afferrare e tirare. È un esempio di ciò che Norman chiama significante: un segnale da cui ricaviamo un’indicazione su come agire. Questi segnali possono essere intenzionali, come il cartello “spingere”, oppure comunicarci qualcosa senza che nessuno lo abbia previsto. Anche il comportamento delle altre persone può offrirci indizi su che cosa fare.

Pensiamo a una dimostrazione aziendale sull’uso dell’IA per generare presentazioni. Chi conduce inserisce una richiesta, mostra le slide prodotte e sottolinea il tempo risparmiato. La dimostrazione si conclude senza mostrare la verifica dei contenuti.

Il messaggio esplicito riguarda la velocità dello strumento. Ma chi osserva potrebbe ricavarne anche un’altra indicazione: le slide generate sono già pronte per essere utilizzate. La verifica potrebbe essere stata svolta prima della dimostrazione, ma chi assiste non ha modo di saperlo.

Questo suggerisce di osservare anche come viene raccontato e riconosciuto l’uso dell’IA. Quali passaggi mostriamo nelle demo? Quali risultati valorizziamo nelle riunioni? Diamo visibilità anche a una verifica ben fatta, a una correzione o alla scelta motivata di non usare un output?

Mostrare, per esempio, un dato inesatto nelle slide e il modo in cui viene corretto rende visibile una parte del lavoro che altrimenti rimarrebbe implicita. Chi osserva può capire che cosa significa verificare il risultato e perché quel passaggio è necessario.

 

2. Che cosa stiamo chiedendo di ricordare?

Una distinzione proposta da Norman riguarda la distribuzione della conoscenza: una parte è nella nostra testa, una parte è disponibile nell’ambiente. Segnali e riferimenti esterni possono aiutarci ad agire senza dover ricordare ogni dettaglio.

È una distinzione utile, in particolare per progettare la formazione sull’IA. Alcuni principi devono diventare criteri con cui le persone sanno valutare una situazione. Altre informazioni, soprattutto quelle soggette ad aggiornamenti, possono essere rese disponibili nel momento in cui servono: strumenti approvati, condizioni d’uso, referenti, procedure.

Immaginiamo che una persona debba analizzare dati aziendali. Deve saper riconoscere la presenza di informazioni riservate e capire perché richiedono attenzione. Per verificare quale strumento possa utilizzare, però, dovrebbe poter consultare un riferimento aggiornato, senza ricostruire l’ultima indicazione tra mail, slide e messaggi.

Nella progettazione della formazione diventa allora importante decidere che cosa le persone devono saper valutare autonomamente e quali informazioni devono poter consultare durante il lavoro. La formazione deve contribuire a sviluppare criteri di giudizio, i supporti operativi devono aiutare ad applicarli al caso concreto.

 

3. Che cosa succede quando il caso non è previsto?

Una procedura può funzionare bene finché la situazione corrisponde a quella immaginata da chi l’ha scritta. Ma che cosa succede quando manca un’informazione, emerge un dubbio o l’attività presenta caratteristiche nuove?

Norman invita a progettare tenendo conto delle difficoltà e degli errori che possono verificarsi durante l’uso. Un sistema dovrebbe aiutare le persone a riconoscere il problema e a capire come proseguire.

Applichiamo questa prospettiva all’IA. Una persona deve analizzare diversi documenti con uno strumento approvato dall’azienda. In un file trova però informazioni che non sa se può condividere. Consulta le indicazioni aggiornate, ma quel caso non è contemplato.

A chi può rivolgersi? Quali informazioni deve fornire per ottenere una risposta? Come può portare avanti il lavoro nell’attesa?

Le risposte devono funzionare nelle condizioni reali del lavoro. La prospettiva di Norman ci invita a non progettare pensando soltanto a una “giornata ideale”, con tempo a disposizione e nessuna interruzione. Il dubbio potrebbe emergere poco prima di una consegna o quando la persona di riferimento è assente. Un processo che funziona solo quando tutte le condizioni sono favorevoli rischia di lasciare le persone senza una soluzione proprio quando ne hanno più bisogno.

Per questo può essere utile prevedere un canale riconoscibile per i casi dubbi, chiarire chi li prende in carico e indicare eventuali alternative già approvate.

I casi raccolti possono poi aiutare ad aggiornare le indicazioni. Se lo stesso dubbio o problema si ripresenta, vale la pena comprenderne le cause e valutare quali aspetti delle procedure vadano rivisti.

Nell’adozione di una tecnologia che cambia, la qualità della governance si misura anche da come vengono affrontate le situazioni che non abbiamo anticipato. Prevedere come gestire l’incertezza e imparare dalle difficoltà emerse permette di sostenere il lavoro delle persone e di migliorare nel tempo le regole che lo guidano.

 

Riferimenti bibliografici

Norman, D. A. (2013). The Design of Everyday Things: Revised and Expanded Edition. Basic Books. Edizione italiana: La caffettiera del masochista. Il design degli oggetti quotidiani. Giunti, 2014.