Un giro inesperado en el mundo de la IA
El panorama de la inteligencia artificial se ha visto sacudido por recientes revelaciones que involucran a Amazon y su CEO, Andy Jassy. Según informes del Wall Street Journal, Jassy expresó preocupaciones significativas sobre los modelos de IA desarrollados por Anthropic, lo que llevó al gobierno estadounidense a imponer restricciones severas sobre el acceso a estos sistemas.
En una reunión con el secretario del Tesoro, Scott Bessent, y otros funcionarios gubernamentales, Jassy alertó sobre el uso potencialmente peligroso del modelo Claude Fable 5 de Anthropic. Se alegó que investigadores de Amazon habían utilizado este modelo para obtener información susceptible de ser empleada en ciberataques. Esta declaración provocó una rápida reacción gubernamental, resultando en un embargo a la exportación de los modelos Fable 5 y Mythos 5.
A pesar de las preocupaciones planteadas, un portavoz de Amazon subrayó que es habitual que las autoridades busquen asesoría sobre riesgos potenciales. Sin embargo, no se compartieron detalles específicos sobre las conversaciones mantenidas con el gobierno. Además, se confirmó que los servicios web de Amazon (AWS) han sido impactados por esta decisión.
Por su parte, Anthropic emitió un comunicado donde defendió sus modelos, argumentando que las capacidades cuestionadas ya están disponibles en otros sistemas accesibles públicamente. Esta defensa llega en un momento crítico para la empresa, ya que enfrenta presiones tanto del sector privado como del gobierno.
David Sacks, quien fue czar de IA durante la administración Trump y actualmente co-preside el Consejo Asesor del Presidente sobre Ciencia y Tecnología, también aportó su perspectiva al asunto. Sacks reveló que un “socio confiable” tanto para Anthropic como para el gobierno había presentado una vulnerabilidad crítica o “jailbreak” relacionada con los modelos. Según él, tras esta revelación, se solicitó a Dario Amodei, CEO de Anthropic, corregir la falla o retirar el modelo; sin embargo, Amodei habría rechazado dicha solicitud.
A medida que avanza esta situación tensa entre gigantes tecnológicos y reguladores gubernamentales, surgen preguntas cruciales acerca del futuro desarrollo y despliegue seguro de tecnologías avanzadas como la inteligencia artificial. La comunidad tecnológica observa atentamente cómo estas decisiones afectarán no solo a empresas como Amazon y Anthropic sino también al ecosistema más amplio de innovación tecnológica.
