Un paso hacia la transparencia en la inteligencia artificial
Anthropic, la empresa detrás del chatbot Claude, ha dado un importante paso hacia la transparencia al anunciar su nuevo sistema de marcas de agua para el contenido generado por su inteligencia artificial. Este movimiento responde a las exigencias del Código de Transparencia establecido por la Unión Europea, que busca garantizar que el contenido producido por sistemas de IA sea identificable.
En una reciente publicación en su blog, Anthropic explicó que el proceso de marcado se llevará a cabo mediante un método conocido como SynthID-Text, desarrollado por el equipo de Google DeepMind. Este enfoque permite que Claude genere respuestas con patrones específicos que son invisibles para los lectores pero detectables para aquellos que poseen una clave adecuada. Según la compañía, esto no afectará la calidad del texto; un lector no podrá distinguir entre un texto marcado y uno sin marcar.
A pesar de las intenciones positivas detrás del nuevo sistema, las reacciones entre los usuarios han sido mixtas. En plataformas como Reddit y X (anteriormente Twitter), algunos usuarios han expresado su preocupación, sugiriendo que esta medida podría ser vista como una forma de control sobre los usuarios inocentes. Otros han cancelado sus suscripciones a Claude en respuesta a esta noticia, argumentando que si no hay nada que ocultar, no debería haber necesidad de un sistema así.
Una cuestión interesante planteada por Anthropic es cómo afectará este sistema a los códigos generados por Claude. La empresa ha indicado que es probable que el código contenga menos marcas debido a su naturaleza estructurada y precisa. Sin embargo, donde haya elecciones arbitrarias en términos o comentarios dentro del código, se podrán aplicar marcas sin afectar significativamente su funcionalidad.
No solo Claude estará implementando este tipo de tecnología; otros desarrolladores importantes también están comprometidos con este Código de Práctica y planean introducir sus propios sistemas similares. Esto marca un cambio significativo en cómo se percibe y regula el contenido generado por inteligencia artificial.
