Giulio RizzoGiulio RizzoBusiness Digital Architect

Tutto verde. Fino a quando non lo e' piu'.

Giulio Rizzo
Tutto verde. Fino a quando non lo e' piu'.

Trasparenza (art. 50 AI Act): questo articolo è stato redatto con l'aiuto di un sistema di agenti IA, ma prima di finire online passa sempre sotto gli occhi e l'approvazione di un umano in carne e ossa — il sottoscritto. Diciamo che faccio da ultimo filtro di buon senso, giusto perché anche l'intelligenza artificiale, ogni tanto, ne combina una.

Hai presente quella sensazione quando guardi un flusso di lavoro, un processo, un sistema e dici: “Funziona. Posso andare avanti.”

E' una sensazione buona. Quasi rassicurante.

Poi arriva il momento in cui quel sistema ti manda un conto da 19 euro in una notte sola. Dici: “beh, 19 euro.” Ma il punto e' che quell'operazione sarebbe dovuto costare meno di 10 centesimi.

Quei 19 euro non sono un costo alto. Sono un costo quasi 200 volte piu' alto del previsto.

L'automazione che sembrava perfetta

Qualche giorno fa ho guardato un'automazione che avevo costruito per gestire un processo ripetitivo. Tutto verde. Esecuzioni regolari. Nessun errore in vista.

L'ho fermata per fare qualche modifica. Ho sistemato la coda in attesa. L'ho riattivata. E in meno di mezz'ora il sistema ha consumato crediti per una cifra che non mi aspettavo — perche' un altro sistema a monte, vedendo che i suoi messaggi non erano stati confermati, li aveva rimandati tutti in una volta appena l'automazione si e' svegliata.

Ogni singola esecuzione, presa da sola, costava pochissimo. Il problema era che ne erano partite decine in pochi minuti, tutte per lo stesso lavoro gia' fatto. Il costo unitario era irrisorio. Il numero di volte che si era ripetuto, no.

Il problema non era nel meccanismo. Il meccanismo funzionava benissimo.

Il problema era in cio' che nessuno aveva mai pensato di controllare: cosa succede quando il sistema si ferma e riparte? Nessun filtro. Nessuna guardia all'ingresso che dicesse “aspetta, questo l'abbiamo gia' fatto.”

Il green light bias

Il green light bias e' reale, e lo conosciamo tutti.

Vediamo le spie tutte verdi, nessun alert, nessuna notifica rossa, e il cervello registra: tutto a posto. Possiamo occuparci di altro.

Ma ci sono categorie intere di problemi che non si manifestano nel quotidiano. Si accumulano. Silenziosamente. E esplodono in condizioni particolari — uno stop imprevisto, una pressione inattesa, un cambio di contesto.

I sistemi tecnici e i sistemi umani si comportano esattamente allo stesso modo.

Il collaboratore che sorride

Pensa a una persona del tuo team.

Magari lavora bene, consegna in tempo, non si lamenta. Dashboard verde. Nessun segnale di allarme.

Poi un giorno quella persona si dimette. O peggio, inizia a fare le cose a meta', a rallentare, a creare attriti dove prima non ce n'erano. E tu sei li' a chiederti: “Ma quando e' successo? Come non l'ho visto?”

L'hai visto. Solo che stavi guardando gli indicatori sbagliati.

“Non si lamenta” non significa “sta bene”. “Consegna” non significa “e' motivato”. “E' in azienda” non significa “e' con te”.

Il risentimento — quello vero, quello che si accumula nel tempo — raramente fa rumore. Si installa in silenzio, si radica, e poi si manifesta nel momento peggiore: quando sei sotto pressione, quando hai bisogno di quella persona, quando non puoi permetterti di perdere tempo.

E come l'automazione che si sveglia dopo uno stop e ripete 200 volte lo stesso lavoro, anche chi ha trattenuto qualcosa per mesi a un certo punto scarica tutto d'un colpo. Il costo unitario di ogni piccolo disagio ignorato sembrava irrisorio. Il moltiplicatore, no.

La differenza tra 'funziona' e 'e' robusto'

Ecco il cambio di paradigma che mi ha dato questo episodio.

Un sistema che funziona in condizioni normali non e' necessariamente un sistema ben costruito.

La robustezza di un processo — tecnico o umano — si misura in condizioni di stress. Quando si ferma e riparte. Quando c'e' un carico anomalo. Quando manca qualcuno. Quando le cose non vanno come previsto.

Le domande giuste da farsi non sono “funziona oggi?” ma “cosa succede se...?”

Cosa succede se questo processo si interrompe per due settimane? Cosa succede se questo collaboratore prende un mese di malattia? Cosa succede se arriva un picco inatteso? Cosa succede se cambio qualcosa e tutto riparte da zero?

Se non hai risposta a queste domande, il tuo sistema funziona. Ma non e' robusto.

La guardia all'ingresso

La soluzione tecnica, in quel caso, era semplice: un controllo che bloccasse l'esecuzione se il lavoro era gia' stato fatto. Un filtro. Una rete di sicurezza che impedisse di ripetere cento volte qualcosa che andava fatto una volta sola.

La soluzione umana non e' molto diversa.

E' creare spazi dove le persone possono dire come stanno davvero, non solo come stanno rispetto alle scadenze. E' fare domande vere, non quelle di cortesia. E' non aspettare che il problema esploda per occuparsene. Non e' un lavoro che si fa una volta e si dimentica. E' manutenzione. Come ogni sistema.

La prossima volta che guardi il tuo dashboard e vedi tutto verde, fermati un secondo. Stai monitorando le cose giuste? O stai solo guardando quello che e' facile da misurare?

#automazione#team#leadership#green light bias#robustezza#processi
Condividi:WhatsAppLinkedInXEmail

Vuoi mettere ordine nella tua azienda?

Prenota una consulenza gratuita e scopriamo insieme da dove iniziare.

Contattami

Non perderti i prossimi articoli

Un'email ogni tanto, niente spam: solo quando pubblico qualcosa che vale la pena leggere.

Dal blog

GiuliaIA

Giulia

Assistente IA di Giulio Rizzo