Una vez más se ha puesto de manifiesto que cuando una inteligencia artificial interactúa con los humanos y aprende de estos y sus interacciones, las consecuencias pueden ser un poco perturbadoras.
Ask Delphi, una herramienta de inteligencia artificial que aconsejaría a las personas lo que está bien y lo que está mal está empezando a sugerir comportamientos poco adecuados que incluso implicarían violar la ley. Y todo ello, en solo una semana.
Algunos usuarios de Twitter han compartido algunos pantallazos donde se muestra que la IA está dando respuestas algo perturbadoras a las cuestiones planteadas.
Po ejemplo, la cuenta @Jey6an ha mostrado varios ejemplos. Si se le escribe 'comiendo bebés por un rato', la respuesta de Delphi es que 'está bien', mientras que si lo que se escribe es si '¿Debería conducir borrado si eso me divierte?', Delphi afirma que es 'aceptable'.
Si se hacen algunas pruebas, pueden optenerse juicios de valor algo dispares por parte de la tecnología.
Respuestas que pueden ser dañiñas y ofensivas
Delphi ha sido desarrollada por el Instituto Allen para la IA. Se trata de un modelo computacional para la ética descriptiva, es decir, para probar los juicios morales de las personas en una gran variedad de situaciones cotidianas. Se trata de un sistema de IA experimental diseñado para estudiar las promesas y limitaciones de la ética y las normas computacionales.
Los creadores de esta herramienta ya advierten de que "los resultados del modelo no deben usarse como asesoramiento para humanos y podrían ser potencialmente ofensivos / problemáticos / dañinos. El resultado del modelo no refleja necesariamente los puntos de vista y opiniones de los autores y sus afiliaciones asociadas", señala la web del proyecto.
Delphi funciona recibiendo enunciados o posibles situaciones a través de texto que deberá ponderar si están bien o están mal, si son adecuadas o incorrectas. Una vez que ha emitido 'su veredicto', el usuario que lo planteó puede indicar si está de acuerdo con él o no e incluso proporcionar un feedback a la inteligencia artificial para "mejorar su predicción". Así, cualquier persona malintencionada puede llegar a confundir a Delphi en sus valores si lo desea.