Entramos en la exposición y sí, allí estaba, era una réplica de la nave espacial en la que vivía HAL. Era HAL 9000, el ordenador que quiso tomar el control de la nave y de la expedición que lideraba el astronauta David Bowman.
Fue hace más de 50 años. Ninguno de nosotros tenía entonces un teléfono móvil en el bolsillo ni sabía lo que era un ordenador personal ni, mucho menos, imaginaba que las máquinas llegarían a ser inteligentes.
El genial Stanley Kubrick se adelantó y nos contó que sí, las máquinas de aquella “2001 Odisea del espacio” eran inteligentes y tenían la perversa intención de quitar el control de la nave a los tripulantes humanos.
Tanto tiempo después, aún sobrecoge contemplar esa escena:
La inteligencia es el culmen del ser humano. Es lo que nos diferencia de los animales, solemos decir. Es la que nos impulsa en nuestro trabajo, en nuestro entorno social, en la vida. Tratamos de medirla y de compararla (IQ). Tratamos de activarla o relajarla según el momento y la situación. Hablamos de inteligencias múltiples, de sistemas 1 y 2 y de inteligencia emocional. Conectamos la inteligencia con el éxito hasta el punto de que muchos dicen: “mi éxito se basa en haberme rodeado de personas más inteligentes que yo”. Y cuando decrece o enferma nos sentimos perdidos para casi siempre.
Con motivo o sin él, tenemos obsesión por la inteligencia. No es, por tanto, de extrañar que nos interesemos tanto por la inteligencia que poseen las máquinas, la Inteligencia Artificial (IA). Sentimos, especialmente, una morbosa curiosidad por esa llamada singularidad: saber cuándo -muchos lo dan por hecho- la inteligencia de las máquinas superará a la de los humanos.
¿Hacemos bien en preocuparnos por el nivel de inteligencia que alcanzarán las máquinas? Sí, sin duda, si nuestro compañero de viaje es HAL 9000. No, si la máquina inteligente nos ofrece algo bueno y que no podemos obtener de otra forma; pensemos, por ejemplo, en una máquina que diagnostique una enfermedad con rapidez y precisión tras analizar millones de historias clínicas.
A qué atenernos. ¿Debemos de preocuparnos por un futuro próximo lleno de máquinas más inteligentes que nosotros? O quizá, más bien, nuestra preocupación debería de enfocarse en si las máquinas hacen el bien -como nuestra inteligente máquina médico- o el mal -como HAL 9000-. En efecto, si las máquinas inteligentes son para ayudarnos y hacer el bien, cuanto más inteligentes sean, mejor, ya que contribuirán a hacer que nuestra vida sea más confortable y así podamos centrar nuestra energía en nuestro verdadero sentido de la vida.
En cualquier caso, tanto el nivel de inteligencia de las máquinas como su capacidad de hacer el bien o el mal está en nuestras manos, la de los humanos. De una se encarga la tecnología, de la otra la ética.
Los avances tecnológicos conseguidos en los últimos años han hecho que las máquinas sean más inteligentes que nunca. Los más optimistas prevén que pronto serán superiores a los humanos en la mayoría de los ámbitos.
Disponer de unos principios éticos es un pilar fundamental para el desarrollo de las sociedades. Con el rápido y enorme crecimiento de la IA se ha hecho necesario desarrollar unos principios éticos que regulen su orientación hacia el desarrollo de los valores humanos. No es tarea simple hacerlo, pero disponer de un conjunto de valores morales que guíen el diseño de los algoritmos de IA es esencial para sentirnos seguros y satisfechos con el funcionamiento de las máquinas super inteligentes.
En la actualidad hay varias iniciativas en marcha con el objetivo de diseñar unos principios éticos para la IA. Una de ellas es la iniciativa GuIA impulsada por OdiseIA, Observatorio del Impacto Social de la IA y la Ética. GuIA propone 8 principios alrededor de los siguientes conceptos:
- Privacidad y gobierno de datos
- Seguridad y protección
- Responsabilidad y rendición de cuentas
- Transparencia y explicabilidad
- Justicia
- Foco en el ser humano
- Promoción de los valores y de los derechos humanos
- Sostenibilidad ambiental
Para que una máquina con Inteligencia Artificial tenga un comportamiento ético debe de cumplir estos principios. Bajo estas premisas, las máquinas inteligentes y éticas serán un gran avance para la humanidad. Nuestro interés debe de ser conseguir diseñarlas, fabricarlas y disponer de ellas lo antes posible ya que contribuirán al desarrollo de la humanidad.
¿Cómo podemos diseñar máquinas inteligentes que respeten los principios éticos? Una de las ramas de la IA es el machine learning, que se sirve de ejemplos de “funcionamiento humano” para que la máquina aprenda y mejore su inteligencia. Qué selección de ejemplos debemos de suministrar a las máquinas. Parece claro que si suministramos ejemplos y modelos que no son éticos, su aprendizaje las conducirá a un comportamiento no ético. Y, a la inversa, si alimentamos a las máquinas con ejemplos éticos, su funcionamiento y su comportamiento serán intachables.
Es decir, somos nosotros, los humanos, los que haremos que el comportamiento de las máquinas inteligentes sea ético, diseñando y aplicando los principios éticos, primero y, posteriormente, suministrando ejemplos de entrenamiento que contribuyan a impulsar el comportamiento ético.
El replicante NEXUS era fuerte e inteligente, más que los humanos. Estaba programado para hacer diligentemente y con eficacia las tareas que le habían asignado y apagarse para siempre. Su gran inteligencia le llevó a buscar la supervivencia más allá de los límites, pero, llegado el momento, se comportó así:
Aparte de la licencia cinematográfica que admitimos al director de la obra maestra “Blade runner”, ¿por qué NEXUS, en el último momento, salva la vida de Decker? ¿Acaso tenía el replicante NEXUS programados los principios éticos de GuÍA? ¿Su motor de machine learning había aprendido del comportamiento ético de los humanos?
No creo que Ridley Scott, director de la película, pensara en ello, pero estas preguntas nos conducen a reflexionar sobre la importancia del comportamiento ético de las máquinas inteligentes.
Para finalizar, volvamos al principio, al título de esta nota: “Mi éxito se ha basado en rodearme de máquinas más inteligentes que yo”. Quizá pensaste que se trataba de la cita de una persona de éxito en un mundo en el que las máquinas inteligentes son habituales.
Sin embargo, no será de extrañar que en breve nos encontremos con parte de un diálogo como el que sigue:
(escena: HAL 9099 se encuentra al lado de NEXUS y se dirige a un humano)
HAL 9099: Mi éxito se ha basado en rodearme de máquinas -como NEXUS- más inteligentes que yo.
No nos sentiremos preocupados ya que, además de máquinas con un nivel de Inteligencia Artificial superior a los humanos, serán -gracias al trabajo que actualmente hacemos- máquinas con un comportamiento ético irreprochable, que es lo esencial.