Darío Amodei, CEO de Anthropic, la empresa detrás de Claude, publicó en septiembre de 2026 un ensayo en el que argumenta que la industria de la inteligencia artificial debe ralentizar conscientemente el avance de las capacidades de los modelos. El objetivo no es detener el progreso, sino dar tiempo suficiente para que el trabajo de seguridad y alineación pueda seguir el ritmo de los desarrollos técnicos. Amodei recuerda que lleva doce años trabajando en IA porque cree firmemente en su potencial para mejorar radicalmente la vida humana. Según su visión, estos sistemas podrían curar la mayoría de las enfermedades graves en un plazo de cinco a diez años, acelerar el crecimiento económico, generar abundancia y reforzar la democracia. Sin embargo, insiste en que una tecnología de tal poder también conlleva riesgos serios.
PLAN
Ante este panorama, Amodei propone un plan para “moderar el ritmo de la frontera”.
-La primera medida consiste en que cada empresa de frontera otorgue acceso continuo, similar al de un empleado, a un equipo independiente de evaluadores externos. Estos verificarían el cumplimiento de las prácticas de seguridad, reportarían incidentes y evaluarían no solo los modelos terminados, sino también los procesos de entrenamiento.
-La segunda medida apunta a que las empresas de IA de países democráticos acuerden estándares comunes de seguridad y límites al progreso no controlado. Algunas formas de coordinación requerirán apoyo gubernamental para superar restricciones legales.
-La tercera busca que los gobiernos democráticos intenten coordinarse con regímenes autoritarios, reconociendo las dificultades de verificar el cumplimiento.
