Por Katie Paul
NUEVA YORK, 6 feb (Reuters) - Meta Platforms empezará a detectar y etiquetar imágenes generadas por los servicios de inteligencia artificial de otras empresas en los próximos meses, utilizando un conjunto de marcadores invisibles incorporados a los archivos, dijo el martes su máximo responsable de normativa.
Meta aplicará las etiquetas a cualquier contenido que lleve los marcadores y que se publique en sus servicios de Facebook (NASDAQ:META), Instagram y Threads, en un esfuerzo por señalar a los usuarios que las imágenes —que en muchos casos se parecen a fotos reales— son en realidad creaciones digitales, escribió el presidente de asuntos globales de la empresa, Nick Clegg, en un blog.
La empresa ya etiqueta cualquier contenido generado con sus propias herramientas de inteligencia artificial.
Una vez que el nuevo sistema esté en funcionamiento, Meta hará lo mismo con las imágenes creadas en servicios gestionados por OpenAI, Microsoft (NASDAQ:MSFT), Adobe (NASDAQ:ADBE), Midjourney, Shutterstock y Alphabet (NASDAQ:GOOGL) Google, explicó Clegg.
El anuncio ofrece un primer vistazo a un sistema emergente de normas que las empresas tecnológicas están desarrollando para mitigar los daños potenciales asociados a las tecnologías de inteligencia artificial generativa, que pueden crear contenidos falsos, pero de apariencia realista, en respuesta a simples indicaciones.
El planteamiento se basa en un modelo establecido en la última década por algunas de las mismas empresas para coordinar la retirada de contenidos prohibidos en las plataformas, incluidas las representaciones de violencia masiva y explotación infantil.
En una entrevista, Clegg dijo a Reuters que confiaba en que las empresas pudieran etiquetar imágenes generadas por IA de forma fiable en este momento, pero afirmó que las herramientas para marcar contenidos de audio y vídeo eran más complicadas y aún estaban en fase de desarrollo.
"Aunque la tecnología aún no está totalmente madura, sobre todo en lo que respecta al audio y el vídeo, esperamos poder generar un impulso y un incentivo para que el resto de la industria nos siga", dijo Clegg.
Mientras tanto, añadió, Meta empezará a exigir a los usuarios que etiqueten sus contenidos de audio y vídeo alterados y les impondrá sanciones si no lo hacen. Clegg no describió las sanciones.
Añadió que actualmente no existe ningún mecanismo viable para etiquetar el texto escrito generado por herramientas de IA como ChatGPT.
"Ese barco ya ha zarpado", dijo Clegg.
Un portavoz de Meta declinó decir si la empresa aplicaría etiquetas a los contenidos generados por IA compartidos en su servicio de mensajería cifrada WhatsApp.
La junta de supervisión independiente de Meta reprendió el lunes la política de la empresa sobre vídeos manipulados de forma engañosa, afirmando que era demasiado limitada y que el contenido debía etiquetarse en lugar de eliminarse.
Clegg se mostró de acuerdo con estas críticas.
El consejo tenía razón al afirmar que la política actual de Meta "simplemente no es adecuada para un entorno en el que va a haber muchos más contenidos sintéticos e híbridos que antes".
Citó la nueva asociación de etiquetado como prueba de que Meta ya estaba avanzando en la dirección propuesta por el consejo.
(Reporte de Katie Paul en Nueva York; editado en español por Benjamín Mejías Valencia)