SandIA (Buenos Aires, 18 de septiembre de 2026).- Google y Google DeepMind lanzaron el DeepMind Institute para impulsar la conversación sobre inteligencia artificial general (AGI). El instituto busca exponer las diferencias de visión entre las empresas y la comunidad investigadora global, según TechCrunch.
Dirección y objetivos del nuevo instituto
El DeepMind Institute cuenta con Shane Legg, cofundador de DeepMind, James Manyika, ejecutivo de Google, y Demis Hassabis, presidente de Google DeepMind, como directores. Legg ocupa el cargo de editor gerente. La entidad busca sacar a la luz las opiniones divergentes entre Google, Google DeepMind y la comunidad investigadora global en torno a la AGI. Según el anuncio, "no siempre estarán de acuerdo, y es probable que cambien de opinión a medida que surjan más datos e información en la frontera tan cambiante".
Cuatro ensayos inaugurales
La colección inaugural incluye cuatro ensayos que abordan una variedad de temas: políticas económicas para gestionar una posible disrupción por AGI, la preservación del razonamiento legible por humanos en los modelos, principios para el florecimiento humano y un marco para evaluar modelos de IA frontera. Uno de los textos, de los investigadores de seguridad de DeepMind Rohin Shah y Anca Dragan, sostiene que la ventana decreciente de transparencia de la IA no es inevitable y que desarrolladores y reguladores deben confrontar directamente las compensaciones de seguridad.
Propuesta de estándares y desaceleración coordinada
En otro ensayo, Hassabis propone un organismo de estándares de IA frontera liderado por Estados Unidos para evaluar los modelos más avanzados. Bajo su marco, los desarrolladores enviarían modelos voluntariamente para revisión hasta 30 días antes de su lanzamiento. Una vez que el sistema de evaluación demuestre ser efectivo, aprobar sus pruebas podría convertirse en un requisito para desplegar modelos frontera en Estados Unidos. El organismo diseñaría evaluaciones en consulta con empresas de IA, pero eventualmente desarrollaría pruebas independientes y no divulgadas, conocidas como "held-out", para evitar que los laboratorios ajusten sus modelos a evaluaciones conocidas.
Un cambio en el debate de seguridad
Los ensayos llegan en un momento en que el debate sobre seguridad en la industria pasa de declaraciones amplias de preocupación a propuestas concretas de divulgación, escrutinio externo y, si las salvaguardas se quedan atrás, desaceleraciones coordinadas. Ese giro se aceleró esta semana cuando líderes de la industria respaldaron elementos del llamado del CEO de Anthropic, Dario Amodei, a "marcar el ritmo" del desarrollo de IA frontera. Hassabis indicó que el marco podría "intensificarse si la seriedad de la situación lo demanda", incluyendo potencialmente una desaceleración coordinada entre desarrolladores de IA frontera.
