Gli assistenti AI sapranno anche dimenticare?

Al primo utilizzo è una comodità. L’assistente ricorda che lavoriamo con un certo software, preferiamo risposte brevi e stiamo preparando una presentazione. Finalmente possiamo chiedere qualcosa senza ricominciare ogni volta dalle presentazioni. Poi cambia il lavoro, il progetto viene chiuso, una preoccupazione passa. E quel ricordo, così utile fino a ieri, comincia a starci stretto.

Con una persona possiamo dire «lascia perdere, è una storia vecchia». Con un assistente AI la stessa frase apre un problema informatico: quale informazione deve sparire? Quella nella conversazione, quella salvata nel profilo o quella recuperabile da un documento collegato? Dietro un semplice «dimentica» possono esserci operazioni molto diverse.

La domanda del titolo ha quindi già una prima risposta: alcuni strumenti consentono di eliminare ricordi e correggere informazioni personali. Resta da capire quanto sia completo questo oblio e se gli assistenti impareranno anche a riconoscere quando un dettaglio ha smesso di essere utile.

La memoria non è un cassetto solo

Parlare di memoria al singolare è comodo, ma può trarre in inganno. C’è il testo che l’assistente sta usando nella conversazione aperta. Ci sono le informazioni conservate per personalizzare gli incontri successivi. E ci sono gli archivi nei quali può cercare: vecchie chat, file, applicazioni collegate.

A questi livelli si aggiunge ciò che il modello ha appreso durante l’addestramento. È una distinzione decisiva: cancellare una preferenza dal proprio profilo e rimuovere l’influenza di un dato dai parametri di una rete neurale sono problemi differenti.

Per capire cosa succede quando premiamo “elimina”, bisogna dunque sapere dove si trovava l’informazione. L’interfaccia può avere un solo pulsante; il sistema sottostante, parecchi posti in cui cercare.

Cancellare una chat può non bastare

La documentazione di ChatGPT offre un esempio concreto: eliminare una conversazione non cancella necessariamente un ricordo salvato separatamente. Per rimuovere un’informazione può essere necessario intervenire anche sulle memorie e sulle altre fonti che la contengono. Disattivare la memoria, inoltre, non equivale a eliminare la cronologia.

È qui che il linguaggio dei prodotti rischia di creare aspettative sbagliate. “Non usare più questo dettaglio”, “non citarlo” e “cancellalo” sembrano richieste vicine. La prima riguarda il comportamento dell’assistente, l’ultima la conservazione dei dati. Un sistema può smettere di menzionare qualcosa senza averne eliminato la fonte.

Anche i tempi contano. OpenAI segnala che gli aggiornamenti e le cancellazioni possono richiedere tempo per propagarsi e che alcuni registri delle memorie eliminate possono essere conservati fino a trenta giorni per sicurezza e debug. Il silenzio del chatbot, da solo, non dimostra che ogni copia sia scomparsa.

Il ricordo sbagliato può essere vero

Non serve un errore per rendere scomoda la memoria. Basta che un’informazione corretta sia rimasta ferma mentre la persona è cambiata.

Immaginiamo un assistente che continui a proporre soluzioni economiche perché mesi prima gli avevamo raccontato un periodo difficile. Oppure che interpreti ogni richiesta professionale alla luce di un impiego lasciato da tempo. Il dettaglio iniziale era autentico; è il suo utilizzo successivo a essere diventato fuori luogo.

Un buon assistente dovrebbe distinguere una preferenza stabile da un’esigenza occasionale. «Sono vegetariano» e «stasera vorrei cenare senza carne» non autorizzano la stessa conclusione. Sarebbe utile poter assegnare una scadenza ai ricordi, limitarli a un progetto o chiedere conferma prima di riutilizzare quelli più delicati. Sono criteri di progettazione, prima ancora che nuove funzioni da pubblicizzare.

Far disimparare un modello è un’altra faccenda

Quando l’obiettivo è intervenire su ciò che un modello ha appreso durante l’addestramento, si entra nel campo del machine unlearning. La ricerca studia come rimuovere l’influenza di determinate informazioni senza dover ripetere da zero l’intero addestramento.

Il problema è che un modello non conserva tutto come un archivio di schede estraibili. Modificare un comportamento e verificare che un’informazione sia stata davvero rimossa richiedono prove diverse. Impedire una risposta esplicita non garantisce, da solo, che quel contenuto non possa riemergere con altre domande.

Una pubblicazione di ricercatori di Google DeepMind mette in evidenza proprio la distanza tra le aspettative riposte nell’unlearning e ciò che le tecniche possono assicurare. Presentarlo come una gomma universale significherebbe promettere troppo.

Un assistente dovrebbe lasciarci cambiare

La memoria rende un servizio più comodo, ma gli affida anche il potere di decidere quali pezzi del passato portare nel presente. Per questo servono controlli comprensibili: vedere cosa viene ricordato, riconoscerne la provenienza, correggerlo e capire che effetto avrà una cancellazione.

Il passaggio più interessante sarà dalla semplice accumulazione alla scelta. Un assistente dovrebbe saper chiedere «vale ancora?» prima di trattare una vecchia confidenza come una caratteristica permanente.

Ricordare il nome del nostro progetto fa risparmiare tempo. Accorgersi che quel progetto è finito richiede qualcosa di più. È su questa capacità di lasciar cadere le informazioni che si misurerà una parte della maturità degli assistenti AI: quanto spazio sapranno lasciare a chi siamo diventati.