Un llamado urgente a la regulación de la IA
Brad Smith, presidente de Microsoft, ha hecho un fuerte llamado a la necesidad de regular la inteligencia artificial (IA) con urgencia. En una reciente aparición en un podcast de la BBC, Smith argumentó que los productos de consumo cotidianos, como la leche y las lavadoras, cuentan con más supervisión que las empresas que desarrollan tecnologías de IA. Esta comparación pone de relieve una preocupación creciente sobre el impacto potencialmente peligroso que puede tener esta tecnología en nuestra sociedad.
Smith describió a la IA como tanto un “arma” como una “herramienta”, advirtiendo sobre los riesgos que representa para la ciberseguridad global. Según él, “el momento ha llegado” para establecer reglas de seguridad globales que regulen el desarrollo y uso de estas tecnologías avanzadas.
A pesar del contexto internacional tenso, donde figuras como el presidente estadounidense Donald Trump han expresado su oposición a organizaciones globalistas que interfieren con las empresas estadounidenses, Smith sostiene que el Reino Unido está mejor posicionado para liderar esta iniciativa. La creación del Instituto de Seguridad AI del Reino Unido en 2023 ha permitido al país acceder a modelos avanzados antes de su implementación comercial, consolidándose rápidamente como un referente en pruebas de seguridad relacionadas con IA.
Aunque Trump ha intentado limitar el acceso británico a nuevas tecnologías mediante presiones sobre empresas clave como Anthropic y OpenAI, AISI ha confirmado su capacidad para seguir evaluando los últimos modelos. Smith enfatiza que el enfoque regulatorio del Reino Unido es más efectivo que el estadounidense: “En Washington D.C., no miran al Reino Unido ni a Londres como lo hacen con Bruselas”, afirmó.
Las declaraciones de Smith llegan en un momento crítico donde líderes tecnológicos están pidiendo una desaceleración en el desarrollo de IA tras varios incidentes preocupantes. Durante una reunión reciente en la Casa Blanca con ejecutivos de empresas tecnológicas prominentes, se firmó un documento “moralmente vinculante” para trabajar junto a auditores independientes en evaluar la seguridad y capacidades de sus modelos. Sin embargo, Smith considera que este tipo de autorregulación voluntaria no es suficiente; advierte que solo las empresas responsables cumplirán mientras aquellas menos éticas podrían evadir estas normas.
Propuestas concretas para mejorar la seguridad
Entre las propuestas específicas mencionadas por Smith se encuentran obligaciones legales para notificar si un sistema es vulnerado por agentes descontrolados y requerir aprobación externa antes del lanzamiento comercial de nuevos productos basados en IA. Además, aboga por implementar mecanismos como interruptores automáticos para detener o ralentizar sistemas si escapan al control humano.
Un futuro colaborativo
“Hablemos calmadamente pero firmemente y empecemos a unir fuerzas”, concluyó Smith. Su visión es clara: espera que tanto Microsoft como el Reino Unido desempeñen roles cruciales en este nuevo capítulo regulatorio.
