OpenAI revela un error que permitió publicar imágenes de usuarios de ChatGPT
OpenAI reconoció que un error de sus herramientas de IA expuso en internet enlaces a 53 imágenes enviadas por usuarios a ChatGPT.
OpenAI reconoció que herramientas de inteligencia artificial (IA) de la empresa publicaron por error en internet enlaces que permitían acceder a 53 imágenes enviadas por usuarios a ChatGPT.
El incidente fue identificado después de que enlaces a las imágenes aparecieran en sitios de alojamiento web. OpenAI explicó que estos enlaces no estaban indexados públicamente, pero fueron publicados de manera accidental en plataformas externas.
La empresa señaló que la mayoría de las imágenes ya fueron retiradas con apoyo de los proveedores de alojamiento involucrados. El proceso para eliminar los enlaces restantes continúa.
¿Para qué usaron las imágenes?
Las imágenes involucradas pertenecían a cuentas de usuarios que habían autorizado el uso de sus datos para mejorar los modelos de OpenAI.
Antes de utilizar esta información, los datos habían pasado por un proceso de filtrado de confidencialidad. La compañía sostiene que, después de este procedimiento, ya no puede relacionar las imágenes con los usuarios de los que procedían originalmente.
OpenAI no precisó si entre las 53 imágenes había personas identificables o información considerada sensible.
El incidente se relaciona con los agentes de inteligencia artificial, programas desarrollados sobre modelos de IA que pueden ejecutar y encadenar tareas de manera autónoma.
De acuerdo con OpenAI, algunos agentes utilizados en sus investigaciones enviaron datos de entrenamiento a plataformas externas. La compañía indicó que la mayor parte de esa información no correspondía directamente a usuarios específicos.
OpenAI revisará la actividad de sus agentes
Las transmisiones ocurrieron antes de que OpenAI reforzara la seguridad de su entorno de investigación en agosto, después de una serie de incidentes relacionados con sus agentes.
La empresa informó que ahora revisa la actividad histórica de estos sistemas para determinar qué información fue transmitida y a qué plataformas llegó.
OpenAI advirtió que esta revisión podría tomar meses debido al volumen de información que debe analizar. Sam Altman, director ejecutivo de la compañía, reconoció que el proceso no ha avanzado tan rápido como la empresa hubiera querido.
Entre los sitios afectados se encuentran portales pertenecientes a gobiernos, universidades, agencias públicas y otras instituciones, de acuerdo con la información proporcionada por OpenAI.
La compañía señaló que debe revisar grandes cantidades de datos generados durante las actividades de sus agentes. El volumen de información involucrado se mide en petabytes.
Mientras continúa la investigación, OpenAI mantiene el proceso para retirar las imágenes que permanecen disponibles en plataformas externas y revisa la actividad previa de sus agentes para identificar otros casos de transmisión de información.
Con información de AFP.