Shadow AI (IA occulta)

Shadow AI è qualsiasi uso di strumenti di intelligenza artificiale per il lavoro che l'organizzazione non ha esaminato né approvato. Include un chatbot gratuito usato per redigere un contratto, un servizio di trascrizione avviato durante una chiamata con un cliente e un'estensione del browser che aggiunge funzioni AI a ogni pagina visitata. La maggior parte di chi lo fa vuole concludere il lavoro più in fretta, non infrangere le regole.

È un sottoinsieme dello Shadow IT, ma contano di più l'account usato e il risultato prodotto che lo strumento in sé. Lo stesso servizio può essere approvato con un contratto aziendale e non approvato con un login personale. Un fornitore può inoltre conservare i prompt o usarli per addestrare i propri modelli, e una risposta generata può sembrare affidabile anche quando è sbagliata.

Lo Shadow AI assume di solito una di queste quattro forme:

Lo Shadow AI nasce dalla stessa radice dello Shadow IT: il divario tra ciò di cui i dipendenti hanno bisogno e ciò che l'organizzazione mette ufficialmente a disposizione. Gli strumenti AI gratuiti sono immediati e davvero utili. I processi di approvazione, spesso, no.

Se non esiste un'alternativa approvata, o se è più lenta o bloccata, il resto lo fa la pressione delle scadenze. Molte organizzazioni, inoltre, non hanno affatto una policy sull'AI, e i dipendenti potrebbero non sapere che digitare testo in un chatbot web lo invia a una terza parte.

Lo Shadow AI è insolitamente difficile da individuare con i controlli tradizionali. Il traffico è HTTPS ordinario verso domini noti, quindi un controllo di reputazione non trova nulla di anomalo, e i dati escono come testo incollato anziché come file. Il monitoraggio del traffico web mostra dove va il traffico, ma risponde solo a una parte della domanda.

Lo stesso servizio è spesso approvato e non approvato insieme, a seconda dell'account usato, quindi consentire o bloccare un dominio risponde alla domanda sbagliata. Inoltre, le funzioni AI arrivano dentro strumenti installati per altri scopi, come un'estensione del browser o un client di riunioni che inizia a trascrivere presso un fornitore che nessuno ha valutato.

La visibilità dipende quindi dall'ispezione dei contenuti sull'endpoint, dove la prevenzione della perdita di dati (DLP) può vedere cosa viene inviato, e non solo la destinazione. La tabella confronta ciò che vede ciascun controllo.

Gli agent di Anexet mostrano quali browser vengono intercettati e quali programmi sono installati su ogni postazione. Un client AI o un'estensione inattesi compaiono nell'inventario software, e la discussione parte così dai fatti e non dalle supposizioni.

1 / 2

• 
• 

Lo Shadow AI genera quattro rischi principali. Le violazioni della riservatezza possono inoltre comportare esposizione normativa ai sensi di quadri come il GDPR o l'HIPAA.

Molti casi riguardano una divulgazione involontaria più che un furto: qualcuno incolla una bozza per ottenere una risposta più rapida. L'intenzione è di solito innocua, per questo i programmi sul rischio interno valutano lo schema su molti eventi e non un'unica incollatura.

• Riservatezza e protezione dei dati: dati di clienti, segreti commerciali o dati personali in sistemi fuori dagli accordi
• Perdita di proprietà intellettuale: codice o progetti riservati usati come prompt possono finire nei dati di addestramento di terzi
• Integrità e responsabilità: output AI non verificati inseriti in report, decisioni o software
• Superficie di attacco più ampia: strumenti AI falsi, estensioni malevole e phishing delle credenziali che sfrutta la domanda di AI

I programmi efficaci combinano una policy chiara sull'uso accettabile, strumenti AI approvati e facili da raggiungere e un percorso rapido per le nuove richieste, perché le code di approvazione lunghe generano da sole l'uso parallelo. Alcuni team bloccano anche la fuga di dati verso i servizi AI al momento dell'invio. Di solito le responsabilità si ripartiscono così:

Partite dai dati la cui fuga farebbe più danni, poi dagli strumenti AI che le persone già usano. Una policy scritta per tutti gli strumenti insieme blocca il lavoro legittimo e viene disattivata, mentre un elenco breve di strumenti approvati con un percorso rapido per chiederne altri viene rispettato.

I programmi che trattano questo tema come parte della sicurezza dei dati AI di solito procedono più in fretta di quelli che partono con un divieto, perché offrono alle persone un'opzione sicura prima che raggiungano quella rischiosa.

Per approfondire: Cybersicurezza e intelligenza artificiale.