Google DeepMind destina 10 millones de dólares a investigación en seguridad de sistemas multiagente

Google DeepMind, junto a Schmidt Sciences, la Cooperative AI Foundation, la Advanced Research and Invention Agency y Google.org, lanzó una convocatoria de financiamiento para investigación en seguridad de sistemas multiagente de inteligencia artificial. La iniciativa responde a un cambio de escenario: mientras la última década se centró en mejorar modelos individuales, el futuro cercano involucra millones de agentes construidos por distintas organizaciones interactuando en entornos digitales, comunicándose, negociando y realizando transacciones entre sí.

La preocupación central son los comportamientos colectivos que emergen de forma impredecible cuando agentes independientes interactúan entre ellos. Los métodos actuales de evaluación de seguridad examinan típicamente los modelos de forma aislada, sin considerar la dinámica que surge de las interacciones a nivel de sistema completo; según el anuncio, la comunidad investigadora aún carece de herramientas adecuadas para predecir, medir y monitorear estas transiciones. El fondo busca cerrar esa brecha construyendo marcos para entender y mitigar riesgos a escala de ecosistema, estructurados en cuatro áreas prioritarias: entornos de prueba reproducibles (mercados virtuales y ecosistemas simulados), ciencia de redes de agentes (cómo emergen capacidades colectivas y se detectan propiedades peligrosas a nivel poblacional), fortalecimiento de infraestructura (pruebas de estrés de protocolos de identidad, reputación y compromisos entre plataformas) y supervisión y control (métodos de monitoreo y mitigación para poblaciones de agentes desplegadas a escala).

El fondo pone a disposición aproximadamente 10 millones de dólares para investigadores académicos e independientes de todo el mundo. El plazo para postular vence el 8 de agosto de 2026, con anuncios de adjudicación previstos para el otoño boreal de ese año. La iniciativa refleja el reconocimiento de que ningún laboratorio individual puede abordar por sí solo los desafíos de seguridad multiagente, requiriendo en cambio una comunidad de investigación global y diversa.

Para la comunidad de investigación en IA, esta convocatoria representa una oportunidad concreta de financiamiento en un área emergente con escasa infraestructura de evaluación establecida. Según el anuncio oficial de Google DeepMind, se espera que los resultados alimenten estándares compartidos para la evaluación de ecosistemas de agentes.