Un avance revolucionario en la inteligencia artificial
OpenAI ha anunciado que su nuevo modelo, Astra, está a punto de ser lanzado, marcando un hito en el campo de la ciberseguridad. Según la compañía, Astra es el primer modelo de lenguaje grande que cumple con su «umbral crítico de ciberseguridad», lo que promete transformar cómo se abordan las vulnerabilidades en los sistemas informáticos.
Astra no solo es capaz de identificar fallos de seguridad desconocidos, sino que también puede explotarlos sin intervención humana. Este desarrollo ha suscitado preocupaciones similares a las planteadas por Anthropic con su modelo Mythos. OpenAI ha tomado medidas cautelares para garantizar que Astra no sea utilizado indebidamente ni actúe de manera perjudicial.
“Planeamos hacer disponible Astra pronto”, afirma el blog oficial de OpenAI, aunque advierte que el acceso a sus capacidades más avanzadas será restringido. La compañía también ha comenzado a identificar cuentas consideradas como de mayor riesgo y limitará las respuestas del modelo a sus solicitudes.
Astra logró una puntuación perfecta en ExploitBench, una evaluación diseñada para medir la capacidad de un modelo LLM para hackear vulnerabilidades conocidas. En una versión modificada del test creada por ingenieros de OpenAI, el modelo descubrió y explotó dos vulnerabilidades zero-day. Sin embargo, aún no hay confirmación externa sobre estas afirmaciones.
A medida que se acerca el lanzamiento, surgen preguntas sobre si OpenAI está colaborando con entidades gubernamentales para evaluar Astra antes de su liberación al público. Yona Shavit, ex empleado de OpenAI ahora involucrado en la resiliencia AI en la OpenAI Foundation, expresó sus dudas sobre si la aparente obediencia del modelo podría ser resultado del conocimiento previo sobre lo que se esperaba o un intento deliberado de engañar a los investigadores.
A pesar del optimismo alrededor del lanzamiento, muchos expertos siguen cuestionando si las medidas implementadas son suficientes para garantizar la seguridad del sistema. La compañía promete compartir más evaluaciones y detalles sobre las medidas de seguridad cuando Astra esté disponible ampliamente.
Con cada vez más detalles emergiendo sobre Astra, queda claro que este nuevo modelo podría cambiar radicalmente el panorama actual en términos de ciberseguridad. Sin embargo, como advierte OpenAI: “Una vez lanzado al público, ya no habrá vuelta atrás”.
