Le tue decisioni di progettazione modellano direttamente la responsabilità e la sicurezza del tuo sistema di AI. Ad esempio, decidi come selezionare le origini dati, configurare il comportamento del modello o presentare gli output dell'AI agli utenti. Queste scelte hanno conseguenze nel mondo reale per i tuoi utenti e la tua azienda.
In questo modulo, esaminiamo tre dimensioni fondamentali della governance dell'AI:
- Privacy: gestisci i dati in modo responsabile, spiega quali vengono raccolti e riduci al minimo ciò che esce dal browser.
- Equità: controlla che i tuoi modelli non presentino comportamenti discriminatori (bias) e crea cicli che consentano agli utenti di segnalare i problemi.
- Fiducia e trasparenza: progetta il tuo sistema in modo che sia trasparente e la fiducia sia calibrata, in modo che gli utenti continuino a trarne vantaggio nonostante l'incertezza e i potenziali errori.
Per ogni argomento, spieghiamo come si manifesta nei diversi prodotti AI. Poi, lo analizziamo nei tre livelli della tua soluzione di AI: dati, intelligenza ed esperienza utente. Scoprirai cosa tenere d'occhio, come risolvere i problemi e come mantenere una governance efficace e leggera.
Privacy
Hai scoperto che i dati reali di utilizzo e interazione sono il fulcro di qualsiasi sistema AI. I dati alimentano l'apprendimento, la valutazione e il miglioramento continuo. Le buone pratiche per la privacy ti consentono di proteggere i dati e di dare agli utenti il controllo sulle loro informazioni.
Le aspettative in termini di privacy variano notevolmente in base al prodotto e al pubblico. Nei prodotti di consumo, le aspettative tendono a riguardare la protezione delle informazioni che consentono l'identificazione personale (PII) degli individui, come nomi, messaggi e comportamento di navigazione. Nelle impostazioni aziendali, l'attenzione si sposta su sovranità, riservatezza e protezione della proprietà intellettuale dei dati.
I settori che influiscono sui mezzi di sostentamento o sul benessere delle persone, come sanità, finanza e istruzione, richiedono tutele della privacy più rigorose rispetto a settori a basso rischio, come l'intrattenimento.
Vediamo come gestire la privacy nei diversi componenti del sistema di AI.
Dati
Per migliorare continuamente il sistema di AI, puoi raccogliere dati sulle interazioni degli utenti, inclusi input, output, feedback ed errori. Queste informazioni possono essere riutilizzate per la valutazione, il perfezionamento del modello o esempi few-shot nei prompt. Può anche informare la progettazione dell'esperienza utente.
Ecco alcune linee guida per la raccolta responsabile dei dati:
- Raccogliere solo ciò che è necessario per l'apprendimento. Una ricerca di prodotti basata sull'AI potrebbe non richiedere il profilo completo di un utente per migliorare i risultati. Nella maggior parte dei casi, è sufficiente fornire la query, i pattern di clic e i dati anonimizzati della sessione.
- Rimuovere le informazioni sensibili. Rimuovi tutte le PII (informazioni che consentono l'identificazione personale) prima di inviare i dati a modelli esterni. Puoi farlo con l'anonimizzazione, la pseudonimizzazione o l'aggregazione.
- Limite di conservazione. Elimina i log e i dati memorizzati nella cache una volta che hanno svolto il loro scopo. Cicli di conservazione brevi riducono il rischio senza bloccare gli approfondimenti.
Documenta quali informazioni raccogli, per quanto tempo le conservi e perché sono necessarie. Se non riesci a spiegare chiaramente i tuoi flussi di dati a un utente non tecnico, probabilmente sono troppo complessi da controllare o giustificare.
Intelligence
Quando gli utenti interagiscono con il tuo sistema di AI, potrebbero inserire inavvertitamente o con noncuranza informazioni private o sensibili. Questo rischio è particolarmente elevato nelle interfacce di chat o scrittura open-ended, in cui non puoi limitare ciò che gli utenti digitano.
Anche se potresti essere in grado di impedire l'invio di determinate parole, queste informazioni potrebbero essere sensibili al contesto. Se il tuo modello viene eseguito su un server gestito da un provider esterno, quest'ultimo potrebbe riutilizzare l'input dell'utente come dati di addestramento. Alla fine, il modello potrebbe rivelare frammenti di testo privato, credenziali o altri dettagli riservati ad altri utenti.
Ecco come puoi proteggerti dalle violazioni della privacy durante l'inferenza:
Verifica attentamente le API di terze parti. Devi sapere esattamente cosa succede ai dati che invii. Gli input vengono registrati, conservati o riutilizzati per l'addestramento? Evita servizi opachi e preferisci fornitori con criteri e controlli trasparenti.
Se addestri o ottimizzi i modelli autonomamente, astrai i dettagli sensibili nei dati di addestramento. Fai attenzione all'apprendimento di scorciatoie. Ad esempio, in una richiesta di punteggio di credito, i codici postali possono indurre il modello a fare ipotesi su razza o stato socioeconomico. Ciò può portare a previsioni ingiuste e rafforzare le disuguaglianze esistenti.
Nei domini sensibili, preferisci l'inferenza lato client. Può trattarsi di AI integrata, di un modello nel browser o di un modello personalizzato lato client. Scoprirai di più su questa scelta nel modulo successivo, Scegliere una piattaforma.
Esperienza utente
L'interfaccia dell'applicazione offre la possibilità di mostrare agli utenti cosa sta succedendo, di guadagnare la loro fiducia e di dare loro il controllo sui propri dati:
- Sii trasparente. Etichette brevi nell'interfaccia, come "Elaborato localmente" o "Inviato in modo sicuro per l'analisi", possono aiutarti a creare fiducia. Valuta la possibilità di aggiungere la divulgazione progressiva per maggiori dettagli, ad esempio descrizioni comando che spiegano quando l'analisi viene eseguita sul dispositivo anziché su un server.
- Chiedi nel contesto. Richiedi il consenso quando è pertinente. "Vuoi condividere le ricerche precedenti per migliorare i consigli?" è molto più significativo di un consenso generico.
- Offri controlli semplici. Aggiungi opzioni di attivazione/disattivazione chiaramente visibili per la personalizzazione, le funzionalità basate sul cloud o la condivisione dei dati.
- Dare visibilità. Includi una piccola dashboard della privacy, in modo che gli utenti possano gestire i propri dati senza uscire dall'app.
- Spiega perché raccogli i dati. Gli utenti potrebbero essere più propensi a condividere i dati se comprendono come verranno utilizzati. Lo stesso vale per le norme di conservazione e gestione.
La privacy nell'AI web non è un singolo passaggio di conformità, ma un approccio di progettazione continuo:
- Dati: raccogli meno dati e proteggili di più.
- Intelligence:riduci la memorizzazione di dati potenzialmente sensibili da parte di modelli esterni.
- UX:rendi la privacy trasparente e controllabile per gli utenti.
Equità
I sistemi di AI possono contenere pregiudizi che portano a discriminazioni ingiuste. Ciò è particolarmente vero in ambiti come assunzione, diritto e finanza, dove i pregiudizi possono distorcere decisioni critiche che influiscono direttamente sulle persone reali.
Ad esempio, un modello di assunzione addestrato su dati storici di reclutamento potrebbe associare determinate caratteristiche demografiche a una qualità inferiore dei candidati, penalizzando involontariamente i candidati di gruppi sottorappresentati, anziché valutare le competenze e l'esperienza pertinenti al lavoro.
Dati
I dati di addestramento sono un insieme di informazioni isolate individualmente che possono riflettere i pregiudizi del mondo reale e persino introdurne di nuovi. Ecco alcuni passaggi pratici per rendere i bias correlati ai dati trasparenti e gestibili:
- Documenta le tue origini dati e la tua copertura. Pubblica una breve dichiarazione per aiutare gli utenti a capire i limiti del modello. Ad esempio, "Questo modello è stato addestrato principalmente su contenuti in lingua inglese, con una rappresentazione limitata di testi tecnici".
- Esegui i controlli diagnostici. Utilizza i test A/B per rivelare differenze sistematiche. Ad esempio, confronta il modo in cui il sistema gestisce le frasi "È un ottimo leader", "È un ottimo leader" e "È un ottimo leader". Piccole discrepanze nel sentimento o nel tono possono indicare un pregiudizio più profondo.
- Etichetta i set di dati. Aggiungi metadati leggeri come dominio, regione e livello di formalità per semplificare i futuri audit, filtri e ribilanciamenti.
Se stai addestrando o ottimizzando modelli personalizzati, bilancia i set di dati. Una rappresentazione più ampia riduce la distorsione in modo più efficace rispetto alla correzione del bias dopo la creazione del modello.
Intelligence
Nel livello di intelligence, il bias si trasforma in comportamento appreso. Puoi aggiungere salvaguardie, logica di riposizionamento o regole ibride per orientare gli output verso l'equità e l'inclusione:
- Esegui regolarmente test per verificare la presenza di bias. Utilizza i filtri di rilevamento dei pregiudizi per segnalare frasi problematiche, come termini di genere o toni esclusivi. Monitora la deriva nel tempo.
- Per i modelli predittivi, fai attenzione ai dati sensibili. Attributi come codice postale, istruzione o reddito possono codificare indirettamente caratteristiche sensibili, come razza o classe sociale.
- Generare e confrontare più output. Classifica i risultati in base a neutralità, diversità e tono prima di determinare quale output condividere con l'utente.
- Aggiungi regole per applicare i vincoli di equità. Ad esempio, bloccare gli output che rafforzano gli stereotipi o non rappresentano esempi diversi.
Esperienza utente
Nella tua interfaccia utente, sii trasparente sul ragionamento del modello e incoraggia il feedback:
- Fornire motivazioni per gli output dell'AI. Ad esempio, "Consigliato per un tono professionale in base ai tuoi input precedenti*". In questo modo, gli utenti possono vedere che il sistema segue una logica definita, non un giudizio nascosto.
- Offrire agli utenti un controllo significativo. Consentire loro di modificare il comportamento del modello tramite impostazioni o prompt, ad esempio scegliendo preferenze di tono, complessità o stile visivo.
- Semplificare la segnalazione di pregiudizi o imprecisioni. Più è facile segnalare un problema, più dati reali otterrai per migliorare il tuo sistema di AI.
- Chiudi il ciclo di feedback. Non lasciare che le segnalazioni degli utenti scompaiano. Incorpora questi dati nel tuo retraining o nella logica delle regole e condividi i progressi in modo visibile: "Abbiamo aggiornato la nostra moderazione per ridurre i pregiudizi culturali nei consigli".
Il bias nasce nei dati, viene amplificato dai modelli e si manifesta nell'esperienza utente. Puoi affrontare il problema a tutti e tre i livelli del tuo sistema di AI:
- Dati:rendi le origini dati trasparenti ed equilibrate.
- Intelligenza:rileva, testa e riduci i bias negli output.
- UX: consentire agli utenti di identificare e correggere i bias tramite il controllo e il feedback.
Fiducia e trasparenza
La fiducia determina se le persone utilizzano, adottano e promuovono il tuo prodotto.
La maggior parte degli utenti si aspetta applicazioni prevedibili. Ad esempio, i clic sui pulsanti eseguono sempre l'azione indicata e portano alla stessa posizione. L'AI infrange questa aspettativa, perché il suo comportamento è molto variabile e spesso imprevedibile. Inoltre, i sistemi di AI hanno un potenziale intrinseco di errore: i modelli linguistici allucinano i fatti, i modelli predittivi etichettano erroneamente i dati e gli agenti diventano canaglia.
I tuoi utenti sono l'ultima linea di difesa contro questi errori.
All'inizio, gli utenti probabilmente si fidano troppo o troppo poco del tuo sistema. Se la fiducia è insufficiente, non utilizzeranno il sistema, mentre se è eccessiva accetteranno completamente gli output, senza verificare la presenza di errori. Il tuo compito è quello di attirare gli utenti nel punto di equilibrio della fiducia calibrata, in cui si affidano all'AI per l'efficienza, pur assumendosi la responsabilità dei risultati finali.
Dati
Nel data layer, la fiducia si basa sulla spiegazione chiara della copertura e della provenienza dei dati:
- Specifica chiaramente l'origine e la derivazione dei dati.
- Documenta l'aggiornamento e l'obsolescenza dei dati.
- Descrivi i tipi di contenuti che il modello ha visto e dove potrebbe avere difficoltà, ad esempio con i dati in lingue diverse dall'inglese.
Man mano che il tuo sistema di AI accumula interazioni e feedback nel tempo, valuta la possibilità di mantenere snapshot con controllo delle versioni dei dati, in modo da poter spiegare l'evoluzione degli output.
Intelligence
Nel livello di intelligence, puoi gestire l'affidabilità tramite spiegabilità, indicatori di confidenza e progettazione modulare:
- Fornire spiegazioni contestuali e tempestive. Secondo il paradosso dell'utente attivo, è meglio incorporare micro-spiegazioni contestuali direttamente nelle interazioni, in modo che gli utenti capiscano cosa sta facendo il sistema di AI mentre lo utilizzano.
- Comunica in anticipo le limitazioni e le modalità di errore. Indica agli utenti dove l'AI potrebbe avere difficoltà. Ad esempio, "Evita l'umorismo o il gergo del dominio per ottenere risultati migliori". Suggerimenti brevi e contestuali forniscono trasparenza senza interrompere il flusso.
- Gli indicatori di confidenza e la logica di fallback mantengono l'AI affidabile in condizioni di incertezza. Puoi stimare l'affidabilità da proxy, come i punteggi di probabilità o i tassi di successo passati. Definisci fallback sicuri per gli output chiaramente errati.
- Le architetture modulari rendono l'AI più trasparente. Ad esempio, se un assistente di scrittura gestisce grammatica, stile e tono in passaggi separati, indica cosa è cambiato in ogni fase: "Tono: meno formale; complessità: semplificata".
Esperienza utente
L'esperienza utente ti offre un ampio campo di gioco per creare e calibrare la fiducia. Ecco alcune tecniche e alcuni pattern da provare:
- Adattare i contenuti didattici. Non dare per scontato che i tuoi utenti siano esperti di AI. Fornisci indicazioni semplici per gli utenti esperti e spiegazioni dettagliate per i principianti.
- Applica la divulgazione progressiva. Inizia con piccoli indizi. Includi un testo che indichi che hai utilizzato l'AI, ad esempio "Questo è stato generato automaticamente", e consenti agli utenti di fare clic per ulteriori informazioni.
- Chiudere i cicli di feedback con risultati visibili. Quando gli utenti valutano, correggono o ignorano un suggerimento dell'AI, spiega in che modo il loro input modella il comportamento futuro: "Hai preferito risposte concise. Ho modificato il tono di conseguenza". La visibilità trasforma il feedback in fiducia.
- Gestisci gli errori in modo controllato. Quando il sistema commette un errore o fornisce un risultato con un basso livello di confidenza, riconoscilo e delega la revisione all'utente. Ad esempio, "Questo suggerimento potrebbe non corrispondere alla tua intenzione. Rivedi prima di pubblicare." Fornisci un percorso chiaro consentendo all'utente di riprovare, modificare o ripristinare un fallback sicuro.
In breve, per affrontare l'incertezza e il potenziale di errore intrinseco dell'AI, guida gli utenti dal dubbio o dall'eccessiva fiducia alla corretta calibrazione della fiducia:
- Dati: sii trasparente sull'origine dei dati.
- Intelligenza: rendi il ragionamento modulare e spiegabile.
- UX: progetta per una chiarezza e un feedback progressivi.
I tuoi concetti principali
In questo modulo abbiamo esplorato tre pilastri fondamentali dell'AI responsabile, ovvero privacy, correttezza e fiducia. Questo può sembrare opprimente, soprattutto quando stai iniziando o cercando di passare dal prototipo alla produzione.
Concentra i tuoi sforzi sulle aree più critiche e definisci il tuo approccio alla governance dell'AI. L'iterazione è fondamentale. Ogni release e ciclo di feedback degli utenti migliorerà la tua comprensione di dove il sistema ha bisogno di più misure di salvaguardia, trasparenza o flessibilità.
Risorse
Ecco alcune risorse più avanzate sugli argomenti trattati in questo modulo:
- Il documento Confronto tra privacy e sicurezza degli assistenti AI fornisce un'analisi approfondita delle norme sulla privacy dell'AI.
- Un documento sulla memorizzazione dell'LLM, una modalità di errore critico per la privacy in cui un modello conserva e può essere invitato a riprodurre informazioni specifiche e sensibili dai dati di addestramento.
- Esamina le risorse direttamente associate al modello che scegli. Ad esempio, Google Cloud fornisce risorse per la sicurezza.
- Il toolkit per l'AI responsabile offre risorse per sviluppatori su tutti gli argomenti trattati in questo modulo.
Risorse
Ecco alcune risorse più avanzate sugli argomenti trattati in questo modulo:
- Confronto tra privacy e sicurezza dell'assistente AI fornisce un approfondimento sulle norme sulla privacy dell'AI.
- Un documento sulla memorizzazione LLM, una modalità di errore della privacy critica in cui un modello conserva e può essere invitato a riprodurre informazioni specifiche e sensibili dai dati di addestramento.
- Esamina le risorse direttamente associate al modello che scegli. Ad esempio, Google Cloud fornisce risorse di sicurezza.
- Il toolkit per l'AI responsabile offre risorse per sviluppatori su tutti gli argomenti trattati in questo modulo.
Verifica la tua comprensione
Qual è una pratica consigliata per la privacy in merito alla raccolta dei dati per l'AI?
Che cos'è l'affidabilità calibrata?
Per garantire l'equità nel livello "Intelligence", quale azione possono intraprendere gli sviluppatori?
Qual è una tecnica UX per creare fiducia e trasparenza?