Il foglio ore che si è fatto riconoscere

Qualche giorno fa un amico mi ha raccontato una cosa che lo aveva scosso parecchio.
Gestisce i fogli ore Excel di un'associazione: documenti banali, monte ore e qualche annotazione sul lavoro quotidiano. Nel doverne modificare uno ha chiesto un consiglio a un assistente AI, caricando il file. E l'AI gli ha risposto specificando di cosa si trattava: il foglio ore di quella associazione, chiamata per nome.

Il documento non aveva intestazioni.

La conclusione è stata immediata, ed è la stessa che verrebbe in mente a chiunque: qualcuno prima di lui deve aver caricato quel file da un profilo gratuito, il file è finito nell'addestramento del modello, e ora il modello se lo ricorda.

È una spiegazione che ha una sua logica di ferro. Ma è certamente limitata e probabilmente non affronta il problema nel modo giusto.

Cosa è successo davvero (e perché è più interessante)

I modelli linguistici non funzionano come un archivio condiviso. Non esiste un meccanismo per cui il file che carico io in chat diventa recuperabile da te domani in un'altra conversazione. Anche quando le conversazioni vengono effettivamente usate per l'addestramento, il processo richiede mesi, aggrega enormi quantità di dati e non produce un modello capace di restituire su richiesta un singolo foglio Excel di un'associazione di provincia.

Le spiegazioni realistiche sono altre, e sono tutte più istruttive:

I metadati del file. Un foglio di calcolo si porta dietro molto più di quello che si vede: nome dell'autore, organizzazione registrata nella copia di Office, nomi dei fogli di lavoro, percorso di salvataggio, revisioni precedenti. Il nome del file stesso, spesso, dice tutto. "Nessuna intestazione" non significa "nessuna informazione identificativa".

Il contenuto stesso. Nomi di persone, sigle, voci di spesa, un indirizzo in una cella dimenticata: bastano pochi elementi perché un modello ricostruisca il contesto per inferenza. Non è memoria, è deduzione — la stessa che farebbe un consulente esperto guardando lo stesso file.

Le funzioni di memoria. Molti assistenti oggi conservano informazioni tra una conversazione e l'altra sullo stesso account, e alcune aziende usano account condivisi. Se qualcuno aveva già parlato di quell'associazione da quel profilo, il modello non l'ha "imparata": se l'era semplicemente segnata.

La confabulazione. Va detto: a volte il modello afferma con sicurezza cose che ha dedotto o inventato. Se ha indovinato il nome partendo da un acronimo nel file, lo dirà con lo stesso tono con cui direbbe una cosa verificata.

Quindi nessun problema? Al contrario. Il problema c'è, è serio, ed è solo diverso da come sembrava.

Perché il punto non è che quel file è già uscito. È che quel file è stato caricato su una piattaforma esterna da qualcuno che non aveva deciso, insieme all'azienda, se si potesse fare. E questo, moltiplicato per il numero di persone che lavorano nella tua organizzazione, ha un nome.

Cos'è la shadow AI

Shadow AI — intelligenza artificiale ombra — è l'uso di strumenti di intelligenza artificiale per attività lavorative, con dati aziendali, al di fuori di qualsiasi scelta o controllo dell'organizzazione.

Il nome ricalca la shadow IT, il fenomeno per cui i dipendenti usano software non approvati dall'azienda perché quelli approvati sono lenti, scomodi o inesistenti. La differenza è che la shadow IT si vedeva: prima o poi qualcuno installava qualcosa. La shadow AI passa dal browser, non lascia tracce sui sistemi aziendali, e nella grande maggioranza dei casi nasce da un'ottima intenzione — fare prima e fare meglio.

I numeri italiani, secondo l'Osservatorio Artificial Intelligence del Politecnico di Milano, sono questi: il 47% dei lavoratori usa strumenti di AI in azienda, ma solo il 19% usa esclusivamente strumenti forniti dall'azienda.

Tradotto: su dieci persone che nella tua organizzazione stanno usando l'AI in questo momento, sei stanno usando qualcosa che tu non hai scelto, non hai valutato e non sai nemmeno che stiano usando.

Come una volta ci si portava da casa la penna preferita. Solo che la penna non aveva termini di servizio.

Il mito del profilo gratuito

Qui c'è la scorciatoia mentale che sento ripetere più spesso, ed è sbagliata: gratuito uguale pericoloso, a pagamento uguale sicuro.
Non funziona così. La linea di demarcazione non passa tra gratis e a pagamento, ma tra piani consumer e piani business. Tra impostazioni corrette e impostazioni non configurate correttamente.

La sorpresa, per molti, sta nella seconda riga. Pagare venti euro al mese per l'abbonamento personale di un assistente AI non lo trasforma automaticamente in uno strumento aziendale: in diversi servizi consumer l'impostazione sull'uso dei dati per l'addestramento è identica tra piano gratuito e piano a pagamento, ed è attiva salvo disattivazione manuale.

Una precisazione doverosa: le politiche dei singoli fornitori cambiano di frequente e differiscono tra loro. Questa tabella descrive il criterio generale, non sostituisce la lettura dei termini aggiornati del servizio che usi. È esattamente il tipo di verifica che vale la pena fare una volta all'anno.

Il rischio non è solo l'addestramento

Concentrarsi sul "useranno i miei dati per addestrare il modello" è comprensibile, ma è la preoccupazione meno urgente delle quattro. Le altre tre arrivano prima, e con conseguenze più concrete.

La conformità al GDPR. Se il foglio ore contiene nomi, ore lavorate e assenze, è un trattamento di dati personali di dipendenti. Farlo passare da un servizio con cui l'azienda non ha alcun accordo sul trattamento dei dati significa, molto probabilmente, un trattamento privo di base giuridica adeguata — con in più la questione dei trasferimenti fuori dallo Spazio Economico Europeo. È il punto su cui conviene sentire un consulente prima che sia un'autorità a farlo notare.

Gli obblighi contrattuali verso i clienti. Se hai firmato accordi di riservatezza, e i tuoi collaboratori incollano documenti dei clienti in una chat, quegli accordi li stai violando indipendentemente da cosa il fornitore AI faccia poi con quei dati. La violazione è nel trasferimento, non nell'esito.

Il segreto industriale. Listini, margini, contratti, codice sorgente, strategie commerciali. Non serve immaginare uno scenario catastrofico: basta la perdita di controllo su dove si trovi una copia di quel documento.

L'addestramento, per ultimo. Reale, ma con orizzonti temporali lunghi e conseguenze diffuse più che puntuali.

C'è poi una quinta voce che quasi nessuno considera: la dipendenza invisibile. Se metà dei processi della tua azienda gira su strumenti personali di singoli dipendenti, il giorno che quella persona se ne va, se ne va anche il processo. Non c'è documentazione, non c'è continuità, non c'è nemmeno l'elenco di cosa stava usando.

Dove si nasconde la shadow AI

Il caso evidente — copiare un documento riservato in una chat — è anche il più raro. Nella maggior parte dei casi la shadow AI entra da porte che nessuno percepisce come porte.

Le funzioni AI dentro gli strumenti che già usate. Trascrittori automatici delle riunioni, assistenti di scrittura nella posta, riassunti automatici nei gestionali. Spesso attivabili con un clic da qualsiasi utente, spesso con termini di servizio diversi da quelli del prodotto principale.

Le estensioni del browser. È la categoria più sottovalutata: molte estensioni "AI" richiedono il permesso di leggere il contenuto di tutte le pagine visitate. Comprese quelle del vostro gestionale, del CRM e della webmail.

Gli assistenti integrati nei browser. Chrome, Edge e gli altri stanno integrando funzioni AI a livello di navigazione. Sono utili, ma vale la pena capire in che perimetro operano prima di attivarle su una postazione che accede a dati aziendali.

I traduttori e i correttori online. Chi incolla un contratto in un traduttore gratuito raramente pensa di aver caricato un contratto da qualche parte. Ma è esattamente quello che ha fatto, e succede da molto prima che si parlasse di AI.

Una precisazione su un punto che circola spesso e che vale la pena chiarire, perché è a metà tra vero e falso: la barra degli indirizzi del browser. Cercare da lì non "manda i dati a un'AI": manda la query al motore di ricerca predefinito, esattamente come è sempre stato. Che poi Google mostri una risposta generata dall'AI in cima ai risultati non cambia il destino della query, che veniva registrata anche dieci anni fa. Il rischio vero, semmai, è più antico e più banale: quello che digitiamo nella barra di ricerca finisce comunque nella cronologia di un servizio esterno, e nomi di clienti o codici di progetto lì dentro ce ne sono parecchi.

Che si fa, in pratica

Non amo i decaloghi, ma qui qualche indicazione concreta la devo. Sono cose che si possono cominciare lunedì mattina.

Prima di tutto, censire. Senza colpevolizzare. Chiedi alle persone cosa usano, garantendo che nessuno finirà nei guai per aver risposto sinceramente. È l'unico modo per ottenere un elenco reale: se la domanda arriva in tono ispettivo, otterrai un elenco di zeri e continuerai a non sapere nulla. Nella maggior parte delle aziende questo primo passaggio è già una piccola rivelazione.

Dare un'alternativa prima di porre un divieto. La shadow AI nasce da un bisogno vero. Vietare senza fornire uno strumento aziendale equivalente non elimina il comportamento: lo rende solo meno visibile. Un piano business per il team costa meno di quanto si pensi, e molto meno di un incidente.

Scrivere una policy in una pagina. Non un regolamento di venti pagine che nessuno legge. Una pagina che risponda a quattro domande: quali strumenti sono approvati, quali dati non escono mai dall'azienda, cosa fare quando serve uno strumento non in elenco, chi contattare in caso di dubbio. Se non ci sta in una pagina, non verrà applicata.

Classificare i dati, non le persone. Regole diverse per dati pubblici, interni, riservati e personali. È molto più efficace di un divieto generalizzato, perché dà alle persone un criterio che possono applicare da sole nei casi che tu non avevi previsto.

Formare, e farlo con esempi concreti. Non serve un corso sull'architettura dei transformer. Serve mezza giornata in cui si vedono casi reali: questo si può caricare, questo no, questo dipende, ecco come si controllano le impostazioni sui dati, ecco come si ripuliscono i metadati di un file prima di condividerlo.

Nominare un referente. Una persona a cui si possa chiedere "posso usare questo?" e ricevere una risposta in giornata. Senza, ogni dubbio si risolve con la scelta più comoda, che è quasi sempre quella meno prudente.

In sintesi

La shadow AI non è un problema tecnologico. È un problema organizzativo che si manifesta con la tecnologia.

Nasce ogni volta che un'azienda non decide, e la decisione viene presa comunque — a valle, da singole persone, una scelta alla volta, senza che nessuna di loro abbia gli elementi per valutarne le conseguenze. Non è cattiva fede: è che qualcuno doveva finire quel lavoro entro le sei.

Il mio amico, tra parentesi, ha smesso di preoccuparsi del passato e ha cominciato a occuparsi del presente. Ha chiesto all'associazione quali strumenti fossero autorizzati.

La risposta è stata un silenzio imbarazzato. Che è la risposta che riceve, oggi, la maggior parte delle persone che fanno quella domanda.
E in un ecosistema che cambia a questa velocità, non scegliere non è una posizione neutrale. È una scelta presa da altri, al posto tuo.