La Autoridad Italiana de Protección de Datos decidió bloquear temporalmente el chatbot creado por Open AI, con el apoyo de Microsoft, por el incumplimiento del Reglamento General de Protección de Datos (RGPD) e investigará si puede asegurar la privacidad de los usuarios.
OpenAI tendrá 20 días para informar las medidas que está tomando para proteger la información de los italianos que utilicen la plataforma, o, en caso contrario, podría enfrentarse a una multa de hasta 20 millones de euros o a remitir un 4% de sus ingresos globales anuales, según reporta la web Ipmark.
El organismo regulador de Italia ha indicado en su resolución que sus principales preocupaciones se centran en el hecho de que la herramienta no muestra ningún aviso a los usuarios sobre la recolección de datos que realiza al ser utilizada. “No hay una base legal que apoye la recogida masiva y el procesamiento de datos personales para entrenar los algoritmos en los que se basa la plataforma”, señala el texto.
Otra de las objeciones es que el chatbot no verifica la edad de los usuarios, y de este modo “expone a los niños a recibir respuestas que son absolutamente inapropiadas para su edad y conciencia, incluso aunque el servicio esté dirigido a usuarios mayores de 13 años, según los términos del servicio de OpenAI”.
El Garante italiano para la Protección de Datos Personales también cita en su resolución la brecha de seguridad que sufrió OpenAI el 20 de marzo pasado, que expuso conversaciones e información privada de algunos usuarios, como direcciones de correo electrónico y los cuatro últimos dígitos de las tarjetas bancarias. Esta noticia alertó a usuarios de todo el mundo de que las conversaciones con el chatbot se guardan en un servidor y son susceptibles de ser hackeadas.
Acciones simultáneas
Italia es la primera nación occidental en tomar esta decisión, pero el novedoso chatbot ya ha sido bloqueado en China, Irán, Corea del Norte y Rusia. Y otros organismos europeos están evaluando la situación, como el municipio francés de Montpellier, la comisión irlandesa de protección de datos y la Oficina del Comisario de Información, el regulador de datos independiente del Reino Unido, informa Forbes.
Esta medida del gobierno italiano se conoció pocos días después de que líderes tecnológicos, científicos y especialistas publicaran una carta abierta solicitando pausar los grandes experimentos con inteligencia artificial por al menos seis meses. La solicitud ya tiene casi 13 mil firmas.
Uno de los pedidos que especifica este llamado a conciencia de la comunidad tecnológica es precisamente el trabajo conjunto de los desarrolladores con legisladores para crear un sistema de gobernanza de la IA sólido, en contraste con el vacío legal actual, que incluya “autoridades reguladoras nuevas y capaces dedicadas a la IA; supervisión y seguimiento de sistemas de IA de alta capacidad y grandes conjuntos de capacidad computacional; sistemas de procedencia y marcas de agua para ayudar a distinguir las fugas reales de las sintéticas y rastrear modelos; un sólido ecosistema de auditoría y certificación; responsabilidad por daños causados por IA; financiación pública sólida para la investigación técnica de seguridad de la IA; e instituciones bien dotadas para hacer frente a las dramáticas perturbaciones económicas y políticas (especialmente en la democracia) que provocará la IA”.