Un nuevo enfoque hacia la inteligencia artificial
Campbell Brown, exjefa de noticias de Meta, ha lanzado una alerta sobre el impacto que la inteligencia artificial (IA) está teniendo en nuestra forma de consumir información. En un reciente evento en San Francisco, Brown compartió su visión sobre cómo su empresa, Forum AI, se propone evaluar y mejorar los modelos de IA que abordan temas críticos como la geopolítica y la salud mental.
Fundada hace 17 meses en Nueva York, Forum AI nació tras una revelación que tuvo Brown durante el lanzamiento público de ChatGPT. “Me di cuenta de que esta tecnología sería el canal a través del cual fluiría toda la información”, explicó. La preocupación por el futuro educativo de sus hijos fue lo que impulsó su decisión: “Si no encontramos una solución, mis hijos estarán desinformados”, reflexionó.
A pesar del potencial transformador de la IA, los hallazgos iniciales de Forum AI fueron alarmantes. Brown mencionó ejemplos como el modelo Gemini, que extraía contenido desde sitios web del Partido Comunista Chino para historias irrelevantes. Además, observó un sesgo político predominante y fallos sutiles en los modelos actuales, como falta de contexto y perspectivas.
Brown enfatiza que las empresas detrás de estos modelos deben cambiar su enfoque. “La precisión no debería ser opcional”, afirmó. Su experiencia previa en Facebook le enseñó las consecuencias negativas cuando se prioriza el engagement sobre la calidad informativa. “Hemos fracasado al optimizar para lo incorrecto”, admitió.
A pesar del escepticismo generalizado hacia la IA, Campbell Brown ve una oportunidad única: las empresas están cada vez más interesadas en utilizar IA para decisiones críticas donde la responsabilidad es clave. “Las empresas querrán optimizar para obtener resultados correctos”, aseguró. Este interés podría ser el motor detrás del crecimiento sostenible para Forum AI.
A medida que avanza el desarrollo tecnológico, Campbell Brown mantiene una postura ambivalente sobre el futuro: “Podría ir en cualquier dirección”. Sin embargo, su objetivo es claro: transformar los sistemas actuales para ofrecer a los usuarios información veraz y útil. Con un financiamiento reciente de $3 millones liderado por Lerer Hippeau, está decidida a cerrar la brecha entre las promesas tecnológicas y las realidades cotidianas.
