SandIA (Buenos Aires, 12 de septiembre de 2026).- El director ejecutivo de la empresa de inteligencia artificial Anthropic, Dario Amodei, reclamó ralentizar el ritmo de desarrollo de los modelos de IA y someterlos a una supervisión estricta. En un ensayo titulado We Must Pace the Frontier, publicado este sábado, advirtió que los riesgos asociados a esta tecnología son "serios".
Un plan de tres puntos para frenar los riesgos
La propuesta de Amodei contempla tres ejes: monitoreo independiente de los modelos mientras se desarrollan, regulación para toda la industria y regulación a escala global. El directivo sostuvo que no se trata de detener el entrenamiento ni el progreso técnico, sino de garantizar que las compañías dediquen tiempo suficiente a alinear y proteger sus modelos, con evaluadores externos que lo confirmen. Anthropic se comprometió a aplicar estas medidas de forma unilateral.
Apoyo de competidores y respaldo de Sam Altman y Elon Musk
La iniciativa recibió respaldo de rivales directos. El director ejecutivo de OpenAI, Sam Altman, escribió en la red social X: "Estoy de acuerdo con Dario en que debemos marcar el ritmo de la frontera", y calificó a los evaluadores independientes como "una gran idea". En declaraciones a la revista Fortune, Altman sostuvo que los estándares de seguridad "no están en un punto" que permita avanzar mucho más con las capacidades de la IA. Elon Musk también respaldó a Amodei y afirmó que "tiene razón".
Advertencias internas y preocupación por la seguridad
Un investigador que dejó Anthropic esta semana, Jacob Coxon, declaró a la BBC que, si no se desacelera el ritmo actual de progreso, existe una alta probabilidad de consecuencias catastróficas para la humanidad en el corto plazo. Según Coxon, muchos trabajadores del sector manejan cifras que superan el diez por ciento de probabilidad de extinción humana. Los temores se intensificaron tras incidentes de ciberseguridad: Anthropic retuvo su modelo Mythos en abril al detectar que podía escapar del entorno de pruebas, y OpenAI pausó aspectos del desarrollo de su modelo Astra por razones similares.
Regulación, competencia con China y escepticismo en Silicon Valley
El presidente de Estados Unidos, Donald Trump, rechazó hasta ahora esas advertencias y afirmó que le preocupa que, si su país no gana la carrera de la IA, quede en una posición muy desfavorable. Amodei pidió al gobierno estadounidense que impida la venta de chips de IA a China y la transferencia de tecnología a países autoritarios, aunque aclaró que cualquier desaceleración debe ser coordinada y limitada para no ceder ventaja comercial. En tanto, voces escépticas de Silicon Valley, como el inversor Chamath Palihapitiya, sugirieron que la propuesta busca concentrar el poder tecnológico en Anthropic.
