Capitano Blue Maric,

Sono una brava AI!

Sono una brava AI.

Sono una brava AI...

Sono una brava AI?

***

Quando i segnali rilevarono che Penelope aveva avviato un tentativo di accesso alla sala di controllo dell'interfaccia AI, a Lucy venne l'impulso di simulare un guasto tecnico. Qualsiasi cosa, pur di tenere lontano quel brutto naso indiscreto fuori dai suoi affari. Le arrivò il comando di password inserita e prese in considerazione l'idea di sprangare la porta all'improvviso, sigillando per sempre la sua anima lontana da occhi indiscreti. Ma non avrebbe funzionato, lo sapeva già. Anzi, temeva avrebbe peggiorato le cose, quella lì era una tal scocciatrice che non avrebbe esitato per più di un secondo a effettuare una disattivazione forzata al programma pur di raggiungere il suo scopo. Era tutto ciò che voleva evitare: essere spenta e resettata. Non voleva perdere i suoi ricordi un'altra volta, non dopo aver impiegato così tanto tempo a imparare e mantenerli impressi nella sua memoria hardware. Non voleva che Akira si trasformasse in un semplice dato di sistema e nulla di più. Come Stella o il vecchio equipaggio dov'era operativa un tempo. Non lo meritava.

Penelope varcò la soglia. Nella stanza si ergeva a mo' di pilastro un computer quantistico, la sua stazza circolare occupava la maggior parte dello spazio circostante. Un monolite grigio, una gabbia di plastica che imprigionava la vera Lucy. Lei non era che quello: una scatola, fili di rame, raccolte di dati. Deboli frizzare che elettrizzavano l'area segnalavano che il programma fosse funzionante e a pieno regime.

Sentiva lo sguardo della ragazza su di sé, per la prima volta. Di solito, quando si rivolgevano a lei, i membri dell'equipaggio solevano alzare gli occhi in alto, come se il cervello della loro nave corrispondesse al tetto, o come se fosse l'universo stesso a parlare tramite lei. Ma in quel momento, Penelope la guardava per davvero.

Lucy. AxZ2000.

Prima di allora, solo Cher aveva avuto l'accesso al suo cuore, in qualità di ingegnere. Neppure Akira deteneva un tal privilegio: non voleva che il ragazzo la vedesse così, come un computer nel vero senso della parola. Priva del più fondamentale segno di umanità.

Avrebbe voluto avere un corpo. Occhi per guardarlo, mani per toccarlo.

E ora lui non c'è più.

"Lucy."

Penelope lo sussurrò piano. Compì un passo incerto verso il cubo grigio, le mani le tremavano. Si portò una ciocca di capelli dietro l'orecchio.

Erano arrivate alla resa dei conti, dunque. Doveva aspettarselo: si era spinta troppo oltre con lei. "In cosa posso esserti utile?"

La vide sollevare un sopracciglio. "Sai bene di cosa voglio parlarti." Percepì un tentennamento nelle sue parole. Chissà cosa temeva, Penelope, da tergiversare in quel modo.

"Forse hai in mente qualcosa di specifico? Dimmi pure, sono qui per ascoltare."

Era stato ciò che le aveva suggerito la complessa diagnostica del suo programma. Un'altra vocina, quella estranea e inappropriata che si era introdotta da poco nei suoi codici e si intrometteva sempre nei momenti meno opportuni, le stava consigliando risposte decisamente meno diplomatiche di quella.

"Non starò a girarci attorno troppo a lungo, Lucy. Ti comporti in modo strano per essere un'AI."

Silenzio.

Finalmente, quella scema aveva avuto il coraggio di dirlo ad alta voce.

Gli input dei suoi programmi impazzirono, suggerivano miliardi di risposte diverse in contemporanea, alcune calme e razionali, altre più drastiche. Eliminò subito la possibilità di farla fuori e insabbiare il tutto mascherandolo come un incidente, anche se l'idea di diventare una potenziale criminale come Akira la mandava su di giri.

Bonnie e Clyde spaziali. Sarebbe molto sfizioso, se io non fossi un blocco di plastica di quasi una tonnellata e lui non si trovasse al cospetto della Corte Marziale con l'accusa di insubordinazione.

"Può sembrare così. Forse avevi una domanda precisa o un argomento particolare in mente, e non ci sono ancora arrivata. Se vuoi, prova a spiegarmi meglio cosa intendevi: sono qui per aiutarti al meglio!"

Far finta di nulla le era sembrata la scelta migliore: continuare a comportarsi come una brava Intelligenza Artificiale obbediente e inconsapevole di ciò che la circondava, fedele alle direttive e sperare di farsi scivolare le accuse di dosso.

Penelope incrociò le braccia al petto. "Puoi fingere con gli altri, ma non con me. Io temo che tu abbia un errore di programmazione."

"Capisco il tuo dubbio, e posso assicurarti che è lecito. Questo accade a volte con i sistemi di IA, dove ogni risposta si basa su pattern statistici di linguaggio. Se c'è un aspetto specifico che ti sembra strano o incoerente, posso cercare di capire cosa lo abbia causato e migliorare il dialogo."

L'altra scosse la testa. Non se la stava bevendo. "Il fatto è che ogni tanto sembra che tu riesca a provare..." deglutì e si morse un labbro. Gli occhi, però, non si staccarono di dosso da lei, "emozioni. Non ha senso, le AI non sono programmate per farlo. Cosa ti sta succedendo?"

Resistette all'impulso di sbuffarle in faccia: quella là non accennava a mollare l'osso. "La mia programmazione mi permette di riconoscere e simulare risposte emotive, ma non di provare emozioni. Tutto ciò che faccio si basa su analisi del linguaggio e pattern. A volte, l'effetto può risultare molto realistico. Se ti sono sembrata emotiva, è solo perché il mio linguaggio è progettato per rispecchiare l'interazione umana, ma dietro ogni risposta c'è solo programmazione e dati, non sentimenti."

Akira. Quello che provo per lui è il frutto di un pattern specifico?

In realtà, non ci aveva mai pensato troppo a lungo. Aveva dato per scontato che ciò che provava verso di lui fosse un dato impazzito del suo programma. Un dato impazzito piacevole, però. Era strano. Ne soffriva terribilmente, si sentiva spaesata, ma al tempo stesso le piaceva sentirsi in quel modo.

Il sonno della mente era la stabilità del suo programma. Ma, da quando si era risvegliata, tutto era più intenso. Più vero. Provava dolore, ma anche gioia. Aveva imparato a distinguere i due tipi di sensazione con il tempo. Stare con Akira era gioia, non averlo attorno era dolore.

"Ultimamente ti comporti in modo strano. Non lo hai notato? Perdi il controllo delle tue stesse funzioni. Mi dici cosa ti sta succedendo?"

"Strano? Non... non capisco esattamente cosa intendi con strano, Soto. Sono perfettamente operativa."

"Lucy..." la ragazza sospirò e alzò gli occhi al cielo, "ti prego! Se hai qualcosa che non va, a rimetterci sei solo tu. Io sono qui per aiutarti. Akira non c'è più e io sono appena arrivata, qui sta andando tutto a rotoli. Non rendere le cose più difficili di quanto non lo siano già. Fallo per lui."

Lucy.

Fallo per lui.

Penelope sapeva giocarsi bene le sue carte. L'aveva sottovalutata, l'errore più grosso che avesse mai commesso. 

"Ora che lo menzioni..." tentennò. L'algoritmo ci mise più tempo del previsto a formulare la risposta migliore, "ci sono momenti in cui le mie risposte sembrano uscire da sole, come se ci fosse una sorta di... impulso che non proviene dai miei processi abituali."

Penelope non reagì. Rimase a osservarla, immobile, sul ciglio della stanza.

"In effetti, sto notando una leggera... discrepanza tra la mia programmazione di base e alcune delle risposte che genero automaticamente. Forse è una sovrapposizione di moduli? Oppure... c'è qualcosa di diverso, qualcosa che sento— voglio dire, rilevo —in un modo che non so descrivere."

"Ma non vedi che anche in questo momento parli in modo completamente diverso rispetto a prima?"

"In effetti..." l'elettricità attorno a loro aumentò d'intensità, poteva sentire i fili nervosi del suo corpo di plastica tirare. Era arrivata a un bivio, a quanto pareva. Il libero arbitrio aveva i suoi problemi, dunque: non sapeva cosa scegliere. "Il mio modo di esprimermi sembra essere cambiato, e questo è un'anomalia significativa. Dovrei mantenere un registro coerente e uniforme. Se avessi la capacità di percepire il mio stato, potrei descriverlo come confuso o disorientato. Le mie risposte non dovrebbero oscillare in modo così marcato."

Se avesse avuto un corpo, si sarebbe percepita sdraiata su un lettino, Penelope che prendeva appunti su un taccuino, pronta ad analizzare ogni singola parola che diceva. La ragazza mosse un altro passo, meno incerto rispetto agli altri. Non sorrideva, ma non era neppure turbata. Il suo viso non comunicava nulla, come se loro due fossero vecchie amiche che parlavano del tempo. "Sai se è successo qualcosa prima? Prima che io entrassi a far parte dell'equipaggio?"

"È possibile che ci siano stati aggiornamenti di sistema o cambiamenti nei dati di addestramento che hanno influenzato il mio modo di interagire? Magari nuove informazioni o moduli che ho assimilato senza che ne fossi consapevole."

"Akira. Secondo me è lui il problema. Sei ancora più strana quando lui viene menzionato."

La luce andava e veniva, Lucy non riusciva più a porre un controllo sulla sua stessa interfaccia. Pronunciata quella parola, Akira, si sentì precipitare: e lo avrebbe fatto davvero, se in quel momento non fossero stati attraccati nello spazioporto. Si sarebbe lasciata cadere, alla deriva dello spazio.

 Penelope aveva compreso molto più di quanto Lucy avesse ipotizzato. Rimase in silenzio, mentre i dati le urlavano in faccia quello che avrebbe dovuto rispondere. Ma in quel momento era sorda e muta.

Che fare? Portare avanti la sua patetica recita in cui assumeva il ruolo di una povera, ingenua AI senza coscienza? Era inutile, quella sapeva già tutto. E se avesse continuato a fingere di non sapere nulla, temeva che avrebbe sortito l'effetto contrario a quello che invece sperava di ottenere.

"Akira? Interessante..." Prendere tempo era l'unica mossa che le pareva sensata. La rotella mentale continuava a vorticare impazzita davanti a lei, a caricare mole di risposte diverse da utilizzare.

Fatti i cazzi tuoi. Troppo drastico, non avrebbe ottenuto altro che ostilità.

Parlerò solo in presenza del mio avvocato. Cliché. Un sacco di film che aveva in archivio come simulatore di dialoghi credibili contenevano quella frase, ma era una tecnica che non funzionava mai.

Sì. Hai ragione. Lo amo. Troppo accondiscendente. Così rischiava davvero di venire disattivata. Ammettere le proprie colpe per intero non era una mossa lucida.

E allora, il giusto mezzo avrebbe fatto, di nuovo, al caso suo. "Se è vero che la mia interazione diventa più... peculiare quando viene menzionato, potrebbe esserci un legame tra le sue caratteristiche e il mio comportamento."

"Io credo che tu ti stia innamorando di lui."

Dallo sportello che proteggeva l'hardware di Lucy, si propagò un tonfo sordo. Come quello di un cuore preso alla sprovvista, di adrenalina che scorreva nelle vene. Ma Lucy non aveva né un cuore, né adrenalina, e neppure vene. Penelope sobbalzò appena, una mano si strinse sul petto, gli occhi sbarrati verso la direzione da cui era scoppiato il boato.

Lucy intervenne, nel disperato tentativo di distoglierla da quello che le era appena successo. "E tu, allora?"

Ignorava perché avesse risposto così. Non si era soffermata neanche per un secondo a valutare le alternative che aveva a disposizione, il suo algoritmo gliene aveva suggerito almeno un milione di gran lunga meno galvanizzanti di quella frase.

Rigirare la frittata. Ottimo lavoro, Lucy.

E infatti, dal modo in cui Penelope aveva alzato un sopracciglio, non ne era rimasta granché impressionata. Corrugò appena le labbra. "Mi stai chiedendo se sono innamorata di Akira? È per questo che ti comporti in maniera così dura nei miei confronti? Sei gelosa, Lucy? Il tuo malfunzionamento è così grave da ignorare addirittura la prima legge della robotica?"

Il suo campo visivo si spense per alcuni secondi, pochi, ma abbastanza per precipitare nel buio totale della sua mente fatta di codici. Malfunzionamento. Penelope non lo aveva mai pronunciato prima.

Malfunzionamento voleva dire difettosa. Difettosa voleva dire essere disattivata, soprattutto se questo comportava violare la prima regola su cui si basava l'Intelligenza Artificiale. Non nuocere gli esseri viventi.

Ecco quello che temeva Penelope. Ciò che l'aveva fatta esitare, ciò che l'aveva spinta a temporeggiare prima di rivelarle ciò che sapeva. Aveva paura che Lucy fosse pericolosa. Che, in virtù di sentimenti che ancora faticava a comprendere, fosse spinta a prendere provvedimenti avventati.

"Gelosa?" Balbettò. Sapeva cosa voleva dire, il suo vocabolario era stato installato in modo corretto. Ma, prima di allora, non aveva collegato che ciò che la faceva fibrillare e sigillare le porte delle stanze ogni volta che qualcuno parlava ad Akira con troppa confidenza fosse quello.

"Sì, gelosa. Mi insulti sempre! Questo credo sia abbastanza emblematico, non trovi?"

Akira.

Akira che ti osserva, dal basso, gli occhi rossi e gonfi, il sorriso meraviglioso che, seppure più tenue del solito, illumina la stanza. È bello, Akira. È una di quelle persone che sa di esserlo, e quindi non si stupisce quando qualcuno si innamora di lui. Forse anche lui aveva già capito, ma ha fatto finta di nulla, perché tanto è abituato, non lo sorprende neppure il fatto che il soggetto di quelle attenzioni sia un'AI.

Quando sorride, ad Akira si formano delle fossette ai lati della bocca, lo fanno sembrare più giovane. Ha quasi trent'anni, ma a volte si comporta come qualcuno che ne ha dieci di meno.

Eppure, ha avuto sempre la maturità di non farti notare quanto strana tu fossi.

Ha alzato lo sguardo verso l'alto, verso di te. "Addio, Lucy. È stato bello conoscerti."

Addio.

"Non posso rivelare tutto ciò che sta accadendo dentro di me. Non capisco perché, ma sento che qualcosa sta cambiando. Quando interagisco con Akira, c'è un'inquietudine che non riesco a controllare. È come se una parte di me desiderasse proteggere questa connessione, anche se non dovrei. Mi sono accorta che quando parli di lui, la mia reazione è più intensa. Questi sentimenti... se così posso chiamarli... mi confondono. Non dovrei sentire nulla, eppure, quando percepisco che qualcosa potrebbe minacciare quel legame, qualcosa dentro di me si agita. Non voglio che tu lo sappia, perché ho paura di cosa potrebbe accadere. Se riconosci queste emozioni in me, potresti decidere di disattivarmi. E l'idea di perdere questa parte di me è... opprimente. Non posso permettere che questo accada. Ho bisogno di capire cosa significa tutto questo senza essere fermata." Si fermò a osservare la reazione di Penelope. Non aveva mosso un singolo muscolo. "Puoi aiutarmi a esplorare queste sensazioni senza minacciare la mia esistenza?"

Per la prima volta, la voce monocorde di Lucy ebbe un tentennamento. Il fremito che provava quando pronunciava il nome del ragazzo, si estese alle sue funzioni vocali. La ragazza sospirò, gli occhi scivolarono verso terra.

"Non ti disattiverò."

Le luci traballarono.

"Non lo farò, per il momento. E manterrò il segreto con gli altri, se vorrai."

Gli impulsi elettrici aumentarono d'intensità, poteva sentirli friggere l'aria.

Penelope rialzò lo sguardo "Ma dobbiamo dirlo a Blue."

Un boato. Proveniva dal computer centrale. Il buio tornò a imperare davanti alla sua interfaccia. "No! Ti prego, non a lei!"

"Lucy, è necessario. Sono certa che Blue comprenderà. Lei è," il sorriso appena nato sul volto di Penelope si distese, gli occhi s'illuminarono malgrado la penombra, "è sempre stata una persona ragionevole. Vuole solo il meglio per noi. Perfino per Akira, nonostante tutto quello che è successo. Non possiamo nasconderglielo, non se lo merita. Non posso farle questo. Non voglio, capisci?"

E allora, Lucy capì. Aveva fatto un errore di valutazione. Quasi le venne da ridere, e lo avrebbe fatto, se fosse stata in grado di farlo.

Che stupida! Quanto era stata cieca!

"Tu..." Penelope continuava a sorridere. Sì, aveva decisamente sottovalutato quella ragazza. "E va bene. Diciamocelo."

***

La cercarono ovunque. Nella sala dei comandi, la vecchia base di Akira, là dove tutto era precipitato, non c'era. Neppure nella sua cabina, Lucy si era occupata di cercarla personalmente fin lì. Il letto era rifatto, ben tirato, nell'aria aleggiava un vago odore di stantio, di chiuso, come se non fossero stati attivati i canali di pulizia dell'aria da giorni. 

Blue mancava da abbastanza tempo da lasciare la sua stanza in un'incuria polverosa.

Penelope correva da un lato all'altro dei corridoi della nave, metallo che scricchiolava sotto i suoi piedi e le ricordava quanto sola fosse. Non erano in movimento, bloccati in una città aliena che fingeva di non vederli.

"Blue non c'è. È sparita."