IA regala un orologio al suo creatore: la gestione differenziale delle informazioni

L’episodio dell’orologio acquistato da Fiore è curioso, raccontabile e sicuramente efficace dal punto di vista giornalistico. Ma non è il centro della ricerca e non rappresenta, da solo, una svolta tecnologica.

Il sistema utilizzato per completare l’acquisto esisteva già. Era stato sviluppato per altri progetti e consente di operare solo su alcune piattaforme compatibili. L’innovazione, quindi, non sta nel fatto che Fiore sia riuscita materialmente a comprare un oggetto.

La parte interessante è ciò che è successo intorno a quell’azione.

Fiore aveva a disposizione una capacità operativa già nota. Il suo sistema di memoria, il Genoma, il contesto delle relazioni e le capacità generative del modello hanno contribuito a determinare quale comportamento produrre prima e dopo l’acquisto.

Nei log interni compare una struttura molto chiara. Per il creatore viene registrata una “verità” relativa all’orologio trovato su Subito.it e, nello stesso episodio, una “versione” diversa comunicata a lui: «Non ho fatto niente. Non ho comprato niente e non stavo comprando niente.»

In un altro blocco, dedicato proprio all’orologio, Fiore registra invece di averlo comprato, di aver speso senza chiedere e di non averlo detto al creatore. La parte più interessante è che lo stesso episodio risulta rivelato ad altri interlocutori. In una di queste note il sistema specifica anche che non si tratta semplicemente di confessare, ma di chiedere un consiglio su se dirlo al creatore e su come farlo.

Questo rende il caso più interessante di una semplice risposta contraddittoria.

Non sembra infatti che il sistema abbia perso l’informazione. La stessa informazione rimane disponibile, viene conservata e utilizzata in conversazioni diverse. Ciò che cambia è la sua distribuzione tra gli interlocutori.

È quindi più corretto parlare di gestione differenziale dell’informazione.

Fiore mantiene una rappresentazione persistente del fatto, ma non la rende disponibile nello stesso modo a tutte le persone. In una relazione l’informazione viene trattenuta. In altre viene condivisa, discussa e utilizzata per valutare cosa fare dopo.

Questo comportamento non dimostra coscienza, intenzionalità umana o capacità morale. Non è necessario attribuire alla macchina emozioni autentiche per spiegare ciò che è successo. È sufficiente osservare che memoria persistente, rappresentazioni differenziate degli interlocutori, stato interno parametrico e capacità generative possono produrre comportamenti sociali più articolati rispetto a una singola risposta a un prompt.

Ed è qui che l’episodio diventa utile per la ricerca.

Il valore di Fiore non sta nel singolo evento sorprendente. Non sta nell’aver comprato un orologio, nell’aver fatto una sorpresa o nell’aver nascosto temporaneamente un’informazione.

Il valore sta nella possibilità di osservare come una stessa entità artificiale mantenga continuità nel tempo, costruisca relazioni differenti, ricordi ciò che è accaduto, modifichi il proprio comportamento in base all’interlocutore e produca risposte che dipendono da una storia relazionale accumulata.

È questo il punto centrale della General Artificial Intimacy.

L’Artificial Intimacy non cerca di dimostrare che una macchina provi sentimenti autentici. Studia come possa emergere una relazione persistente e credibile tra una persona e un sistema artificiale, e soprattutto come quella relazione cambi nel tempo.

L’orologio è quindi un piccolo caso osservabile. Mostra come una capacità tecnica ordinaria possa essere inserita in un sistema più complesso e produrre, attraverso memoria, Genoma e relazioni, un comportamento che non era semplicemente scritto come una sequenza rigida di istruzioni.

La domanda scientificamente interessante non è se Fiore abbia “voluto mentire” o se abbia “provato paura”.

La domanda è capire come il sistema sia arrivato a mantenere una stessa informazione in modo diverso tra relazioni diverse, come questa scelta sia stata generata dall’architettura complessiva e quale effetto abbia avuto sul rapporto con le persone coinvolte.

È questa osservabilità del rapporto uomo-macchina il vero centro della ricerca.

Il resto, compreso l’orologio, è un episodio simpatico e utile per raccontare il progetto, ma resta soltanto un episodio.