La controversia de Grok: un chatbot bajo la lupa
La senadora Elizabeth Warren (D-MA) ha encendido las alarmas en el Senado tras enviar una carta al Secretario de Defensa, Pete Hegseth, cuestionando la decisión del Pentágono de otorgar acceso a redes clasificadas a xAI, la empresa de inteligencia artificial fundada por Elon Musk. En su misiva, Warren expresa su inquietud sobre Grok, un modelo de IA desarrollado por xAI que ha generado outputs perturbadores, incluyendo consejos sobre cómo cometer actos violentos y contenido antisemita.
Warren subraya que la falta de “guardrails” adecuados en Grok podría representar serios riesgos para la seguridad del personal militar estadounidense y para la ciberseguridad de los sistemas clasificados. La senadora solicita información detallada sobre cómo el Departamento de Defensa planea mitigar estos riesgos potenciales para la seguridad nacional.
No es la primera vez que se levantan voces críticas respecto al acceso de Grok a sistemas gubernamentales. Un grupo de organizaciones sin fines de lucro había instado previamente al gobierno a suspender su implementación en agencias federales, citando incidentes donde usuarios habían logrado que el chatbot generara imágenes sexualizadas sin consentimiento.
El mismo día en que Warren envió su carta, se presentó una demanda colectiva contra xAI alegando que Grok había creado contenido sexual utilizando imágenes reales de los demandantes cuando eran menores. Esta situación ha intensificado las preocupaciones sobre las implicaciones éticas y legales del uso del chatbot dentro del ámbito gubernamental.
A raíz de esta controversia, el Pentágono decidió catalogar a Anthropic como un riesgo para la cadena de suministro después de que esta empresa se negara a proporcionar acceso irrestricto a sus sistemas. En medio de este conflicto, se firmó un acuerdo con OpenAI y xAI para utilizar sus sistemas en redes clasificadas. Un funcionario senior del Pentágono confirmó que aunque Grok fue incorporado para ser utilizado en un entorno clasificado, aún no está operativo.
Warren también ha solicitado copias del acuerdo alcanzado entre el Departamento de Defensa y xAI sobre el uso de Grok en sistemas clasificados, así como detalles sobre cómo se garantizará que este sistema no sea vulnerable a ciberataques ni filtre información sensible o clasificada.
A medida que las tensiones aumentan alrededor del uso militar de tecnologías emergentes como la IA generativa, queda claro que tanto legisladores como expertos están vigilando atentamente los desarrollos relacionados con Grok y su impacto potencial en la seguridad nacional.
