Italia ha emitido una orden a OpenAI para que deje de procesar datos de personas localmente con efecto inmediato debido a las preocupaciones de que la empresa esté violando el Reglamento General de Protección de Datos (RGPD) de la Unión Europea (UE).
En concreto, la Autoridad de Protección de Datos de Italia ha ordenado el bloqueo de ChatGPT por la falta de un sistema para evitar que los menores accedan a la tecnología y porque OpenAI ha procesado ilegalmente los datos de las personas.
La empresa tiene 20 días para responder a la orden y enfrenta multas si no cumple.
Es importante señalar que, como OpenAI no tiene una entidad legal establecida en la UE, cualquier autoridad de protección de datos está facultada para intervenir en virtud del RGPD si ve riesgos para los usuarios locales.
La GDPR se aplica cada vez que se procesan datos personales de usuarios de la UE. Es evidente que el gran modelo de lenguaje de OpenAI ha estado procesando este tipo de información, ya que puede, por ejemplo, producir biografías de personas en la región a pedido.
Además, ChatGPT ha mostrado producir información completamente falsa sobre personas nombradas, lo que plantea preocupaciones adicionales sobre la GDPR.
La declaración también destaca una violación de datos que el servicio sufrió a principios de este mes, cuando OpenAI admitió que una función de historial de conversación estaba filtrando las conversaciones de los usuarios y que podría haber expuesto la información de pago de algunos usuarios.
Las violaciones de datos son otra área regulada por la GDPR, con un enfoque en garantizar que las entidades que procesan datos personales estén protegiendo adecuadamente la información.
La gran pregunta que surge es la base legal en la que OpenAI ha confiado para procesar los datos de los europeos en primer lugar, es decir, la legalidad de este procesamiento. La GDPR permite una serie de posibilidades, desde el consentimiento hasta el interés público, pero la escala de procesamiento para capacitar a estos modelos de lenguaje complican la cuestión de la legalidad.
Si OpenAI ha procesado los datos de los europeos ilegalmente, las Autoridades de Protección de Datos de toda la UE podrían ordenar que se eliminen los datos.
La autoridad también señala la preocupación por el riesgo de que los datos de los menores sean procesados por OpenAI, ya que la empresa no está impidiendo activamente que las personas menores de 13 años se registren para usar el chatbot, como mediante la aplicación de tecnología de verificación de edad.
El riesgo para los datos de los niños es un área en la que el regulador ha estado muy activo, recientemente ordenando una prohibición similar del chatbot de amistad virtual, Replika, por preocupaciones de seguridad infantil.
En respuesta a la decisión, OpenAI ha señalado que está revisando cuidadosamente las preocupaciones planteadas por la DPA italiana y trabajando para abordarlas de manera adecuada.
La compañía también ha destacado su compromiso de cumplir con las leyes de protección de datos aplicables y ha asegurado que está trabajando para garantizar que ChatGPT cumpla con los requisitos de la GDPR y otras normativas relevantes.
En resumen, la DPA italiana ha ordenado el bloqueo de ChatGPT, alegando preocupaciones de protección de datos y la posible violación de la GDPR.
La orden se produce en medio de crecientes llamados a la regulación de la inteligencia artificial y el desarrollo de IA generativa cada vez más poderosa.
