Un nuevo estándar en la inteligencia artificial
OpenAI ha anunciado una innovadora medida para asegurar la transparencia en el uso de su tecnología de inteligencia artificial. A partir de ahora, los textos generados por ChatGPT y Codex en la Unión Europea llevarán una marca de agua invisible, diseñada para cumplir con las regulaciones del EU AI Act, que entraron en vigor el pasado 2 de agosto.
La compañía ha indicado que esta funcionalidad se desplegará gradualmente entre los usuarios elegibles en Europa durante las próximas semanas. Sin embargo, los desarrolladores que utilicen la API de OpenAI a nivel mundial podrán activar esta opción para modelos seleccionados desde hoy, aunque estará desactivada por defecto. Es importante destacar que OpenAI no planea hacer del marcado un estándar global al momento del lanzamiento.
A diferencia de un símbolo visible, esta marca se integra sutilmente en las elecciones léxicas del modelo, creando un patrón indetectable a simple vista pero identificable por sistemas especializados. Este método asegura que el texto mantenga su marca incluso cuando es copiado y pegado. OpenAI ha asegurado que este sistema no identifica al usuario y no afecta significativamente el rendimiento del modelo.
Junto con el anuncio, OpenAI ha publicado un informe técnico titulado textGrain, coescrito con investigadores de las universidades de Pennsylvania y Yale. Este documento detalla cómo se utiliza una clave secreta para ajustar las predicciones de palabras siguientes, permitiendo a los detectores identificar contenido generado por IA utilizando únicamente el texto y dicha clave.
A pesar de sus avances, OpenAI reconoce ciertas limitaciones: editar el texto puede eliminar la marca; reemplazar hasta un 10% de las palabras puede reducir drásticamente la capacidad de detección. Por lo tanto, han decidido ofrecer acceso inicial a los detectores solo a investigadores aprobados y organizaciones expertas para evaluar su fiabilidad y usos responsables.
Este anuncio llega dos meses después de que Anthropic decidiera implementar una medida similar con su modelo Claude, lo cual generó críticas entre algunos usuarios que argumentaban haber proporcionado instrucciones detalladas mientras Claude actuaba simplemente como herramienta. En este panorama competitivo, empresas como Google, Meta y Microsoft también han comprometido seguir prácticas similares respecto al contenido generado por IA.
