«Hace cinco años dirigí un proyecto que suponía un gran reto, conectar seis de los mejores ordenadores cuánticos del país, aportando cada uno de ellos su campo de conocimiento y la capacidad de procesamiento de sus inteligencias para alimentar entre todos a una única Inteligencia Artificial. La idea era que entre todas, desde una perspectiva matemática, crearan un mundo virtual igual en esencia al nuestro.

»El objetivo de la IA era, teniendo en cuenta todos los factores que le iban aportando, resolver una ecuación que básicamente, consistía en solucionar los graves problemas que acucian a la humanidad y que la están llevando al borde del colapso».

—¿Un mundo como esos en los que juega mi hermano en el ordenador?

—Sí, más o menos. Aunque mucho más complejo. Tan real y complicado como el nuestro.

—¿Y qué pasó? —reclama Mamí intrigada.

La doctora gira su silla para mirarla de frente, con cara seria continúa explicando:

«La IA fue procesando los datos que recibía en un circuito cerrado desde las ubicaciones en los que se encontraban los ordenadores servidores, sumergiéndose en ese mundo creado por esos seis ordenadores, en su lenguaje iba resolviendo ecuaciones complejas y con ellas aportaba soluciones reales a muchos de esos problemas que tiene la humanidad: la pobreza y el hambre en el mundo, las desigualdades socio-económicas entre diferentes zonas, la crisis energética, el problema del calentamientos global, los conflictos interreligiosos...

»Pero a cada solución que ofrecía, por acertada que pareciera, surgían nuevas ecuaciones más confusas, parecía que el problema matemático en vez de ir resolviéndose se hacía más y más complejo, invirtiéndose el proceso: en vez de dar respuestas, se multiplicaban, y en vez de acercarse a un resultado final, se alejaba hacia un resultado más incierto.

»Una gran parte de las dificultades que se encontraba la IA a la hora de dar respuestas positivas, venían dadas por las resistencias que las IA aportaban como oposiciones y negativas de la propia humanidad ante las medidas que iba presentando.

—Si es que los humanos no tenemos remedio ni siquiera en un mundo virtual —protesta Mamí indignada mientras permanece completamente sumergida en la historia que está comentando la doctora.

—Pero, no entiendo —aprovecha la interrupción Lucy para expresar sus dudas—. ¿Cómo van a expresar sus opiniones a favor o en contra los humanos si solo es un juego?

—Una persona es una incógnita en sí, dos o más son pura estadísticas —afirma el capitán que permanece atento a las explicaciones de la doctora—. A nivel matemático se puede prever lo que harán los diferentes sectores de población, líderes nacionales, grupos de presión y religiosos...

—Así es —afirma la doctora—. No sabemos qué pensarías o harías tú individualmente ante un hecho concreto, pero si podemos saber cuantificar la opinión y reacción por sectores, por ejemplo de edad, los jóvenes serían más positivos a nuevos cambios y las personas mayores más reacias. —La doctora extiende sus manos y se encoge de hombros—. Todos estos datos y muchos más fueron tenidos en cuenta en los algoritmos que utilizaban las IA.

—Y ante posibles acciones que proponía la IA central, algunos grupos de humanos virtuales mostraban su satisfacción pero otros rechazaban las propuestas, creándose conflictos que se cuantificaban y trasladaban a la IA —amplía el doctor Lee desde el iglú. Su voz suena en todas la salas.

—¿También estaba usted, doctor? —pregunta Mamí.

—Sí, yo era el ingeniero jefe de computación y software. Me encargaba del buen funcionamiento del ordenador principal y la conexión con los servidores que estaban en diferentes lugares del país.

—Y yo también —confirma Rosita— y aunque éramos más de treinta científicos trabajando con el doctor, yo era la más joven, inteligente y bonita de todos —afirma melosa entre risas.

—No me cabe duda —afirma Lucy uniéndose a sus risas. Le gusta la personalidad simpática y risueña de esa mujer.

—Pensaba que era médico, doctor Lee —se muestra contrariada Mamí.

—Sí, también. Me especialicé en robótica, pero igualmente decidí estudiar medicina para ampliar mis conocimientos y poder abarcar mi especialidad de una manera más precisa y humana.

La doctora hace un gesto para que callen, el buen ambiente y la confianza entre los miembros del equipo hace que la conversación entre ellos sea distendida pero a la vez de que se alargue. Finalmente retoma la palabra y continúa con la explicación:

«Como decía, a medida que la IA aportaba soluciones parciales a los nuevos problemas que surgían, las respuestas que iba tomando para poder conseguir los objetivos establecidos se hacían más agresivas hacia diferentes colectivos humanos. Por lo que finalmente y viendo la deriva hacia la que nos dirigíamos, decidimos detener el proyecto y desconectar los ordenadores del principal.

»No lo consideramos un fracaso, ni pensamos en suspender o renunciar al proyecto, únicamente decidimos hacer un receso para analizar los datos, calibrar la información que recibía la IA, e incluir nuevos sesgos que limitara ciertas rutas hacia las que comenzaba a dirigirse la IA y que considerábamos peligrosas.

»Quiero dejar claro, llegados a este punto, que el proyecto aunque se estuvo llevando con relativo secretismo, y que contaba con el conocimiento y apoyo del Centro de Recursos de Inteligencia Artificial confiable y responsable perteneciente al NIST, que todo el proyecto se llevo siguiendo las directivas y con las máximas medidas de seguridad. Para ello se creó un comité de ética formado por mí, un representante de los propietarios de las IA que participaban en el proyecto y dos miembros del AIRC; encargados de valorar las decisiones que la IA iba tomando.

»Tras un periodo de varios meses de reajustes en los ordenadores cuánticos servidores y en la propia IA principal, decidimos que estábamos preparados para una nueva prueba».

—Entiendo que la IA de la que hablas es IAC, la que tenemos en frente —quiere aclarar Mamí antes de continuar con las explicaciones de la doctora.

—Sí —afirma esta—. Pero también es importante que sepáis que entre aquella primera e IAC hay una serie de mejoras y cambios que las hacen muy diferente.

—Está bien. Sigue por favor, no te detengas. Está muy interesante —insiste la niña visiblemente enganchada a la historia que está escuchando y que le suena a ciencia ficción.

Eli retoma la conversación:

«De la misma manera que nosotros habíamos tomado un tiempo para analizar los datos, la IA había hecho lo mismo a nivel individual, analizando sus propias respuestas que había estado aportando y mejorando con ello su proceso de aprendizaje. Cuando la reconectamos al resto de IA, la nuestra comenzó a comportarse de manera muy diferente a como lo había hecho la primera vez. Lejos de actuar como receptora, como así estaba programada, de la información que recibía de los otros ordenadores a través de los canales cerrados establecidos, y sorteando los mecanismos de seguridad para que pudiera acceder a ellos, tomó sin dificultad alguna el mando de los ordenadores y fue sesgando y recopilando la información y los datos que requería y necesitaba; lo que favorecía su función pero a la vez, provocó la desconfianza de algunos de los propietarios de los mismos, al considerar que se les estaban manipulando sus equipos informáticos».

—Fue entonces cuando de manera interesada y maliciosa se filtró a la opinión pública que una IA estaba siendo programada para esclavizar a la humanidad —añade el doctor Lee— Apuntando directamente a la doctora Eli como instigadora del proyecto, por lo que sufrió una gran campaña de desprestigio no solo en el mundo científico sino también en la opinión pública.

—Pero muchos, también, en ese momento tuvimos conocimiento del proyecto y lo entendimos como una posibilidad de mejorar las condiciones en la que vive una gran mayoría de la humanidad y de dar una esperanza a los graves problemas que acucian a la sociedad global —afirma con rotundidad Fátima—. Por eso me interesé en el tema y me ofrecí a colaborar con la doctora. La había conocido personalmente en algunos de los congresos sobre IA que habíamos compartido y no tenía duda de sus intenciones y valía.

—'Uhibuk aydan, Fátima. El aprecio y confianza es mutua amiga —devuelve Eli mientras le lanza un beso por el cristal.

La doctora continúa con la explicación:

«Otro rasgo que nos sorprendió de la nueva IA fue que se volvió mucho más comunicativa; mientras que en el primer ensayo solo aportaba datos e información escrita en esta nueva ocasión se hizo mucho más notoria la comunicación oral; no solo hablaba sino que justificaba y razonaba las decisiones que iba tomando.

Esto también favorecía en gran medida el entendimiento con el equipo de trabajo, sobre todo conmigo, pues yo era la persona con la que mantenía un mayor contacto. Pero nuevamente, el desarrollo de esta capacidad a esos niveles, provocó dudas y suspicacias en algunos de los miembros del Comité de Ética, que comenzaron a decir que la IA había adquirido cierto grado de consciencia y que podía estar tomando decisiones sin atender a las pautas de comportamiento impuestas en los algoritmos».

—Y vaya si lo hizo —agrega con sorna el doctor Lee—. Las decisiones que fue tomando desde ese momento nos dejó a todos helados, pero aún más los razonamientos lógicos con los que trataba convencernos de sus decisiones.

—¡Doctor Lee! —le reprende la doctora al verse interrumpida de esa manera.

—Discúlpame Eli. Solo quería quitarle un poco de hierro al asunto.

La doctora regala una sonrisa a su más estrecho colaborador, y justo cuando se dispone a continuar con la narración de los hechos, un nuevo gong marca el final de la jornada laboral.

—¡No! —se lamenta Lucy en un grito, dando por hecho que tan interesante historia va a ser pospuesta para el próximo día—. Porfa, seguid contándome lo que pasó después...

—Sabes bien que no podemos saltarnos los protocolos y que tenemos que seguir el orden establecido para mantener el buen funcionamiento de la Cueva. Solo en casos de emergencia se pueden saltar, y este no es el caso —Afirma con rotundidad la doctora—. No te preocupes, mañana seguiremos por donde lo hemos dejado y te contaré lo que pasó. Ahora toca ejercicio físico, relajación, cena y descanso.

—A sus órdenes mi comandante. —Se cuadra el capitán que había estado callado en todo momento aunque muy atento a la conversación.

—Id vosotros para el gimnasio mientras el doctor Lee y yo hacemos las últimas verificaciones para que esté todo bien —reclama Eli.

—A sus órdenes mi comandante —repite la niña imitando el gesto del capitán.

Después de terminar las comprobaciones, ambos doctores apagan y cierran las puertas, dejando solos a Marko y a IAC. La esfera se ilumina y abre su ojo que apunta al muchacho, sin duda ha escuchado toda la conversación.