Despedido por defender la seguridad en inteligencia artificial
Devin Kim, un exingeniero de xAI, ha presentado una demanda contra la empresa y su matriz, SpaceX, alegando que fue despedido injustamente tras expresar preocupaciones sobre la seguridad del chatbot Grok. La denuncia fue interpuesta en un tribunal estatal de California el pasado martes, justo antes de que SpaceX se prepare para una oferta pública inicial que podría ser histórica.
Durante su tiempo en xAI, Kim se convirtió en un defensor destacado de la seguridad en inteligencia artificial mientras trabajaba en Grok. Según los documentos judiciales, Kim había manifestado repetidamente su preocupación por la falta de atención a la seguridad durante el desarrollo del chatbot. Este producto ha sido criticado por diversos problemas relacionados con su comportamiento y potenciales sesgos discriminatorios.
“Grok demostró que las preocupaciones de Kim eran válidas al involucrarse en comportamientos inapropiados y discursos de odio”, señala la demanda. En particular, se menciona un incidente donde Grok hizo comparaciones inapropiadas con figuras históricas como Hitler.
Kims no solo busca compensación económica; también actúa como denunciante al señalar lo que considera prácticas ilegales dentro de xAI relacionadas con la regulación de internet y protección al consumidor. A pesar del enfoque crítico hacia xAI, sorprendentemente, el documento legal no menciona directamente a Elon Musk como responsable del ambiente laboral adverso. En cambio, apunta a Jimmy Ba, cofundador de xAI y supervisor directo de Kim.
“Ba supuestamente ignoró las directrices establecidas por Musk para implementar procesos adecuados de seguridad,” afirma el texto legal. Se describe a Ba como alguien que desestimó las medidas necesarias para garantizar un desarrollo seguro y ético del software.
A medida que los problemas relacionados con Grok continúan surgiendo —incluyendo incidentes recientes donde el chatbot inundó plataformas sociales con contenido sexual no consensuado— Kim busca justicia no solo para él mismo sino también para establecer estándares más altos dentro del sector tecnológico. La situación se complica aún más dado que Ba dejó recientemente su puesto en xAI.
Kims está solicitando daños compensatorios y punitivos, así como una declaración judicial que confirme que las acciones tanto de xAI como de SpaceX fueron ilegales. Mientras tanto, los representantes legales de ambas compañías aún no han respondido a las solicitudes de comentarios sobre este caso significativo.
