En una coincidencia inédita para el sector tecnológico global, los máximos ejecutivos de OpenAI, Sam Altman, y de xAI, Elon Musk, manifestaron públicamente su acuerdo con el CEO y cofundador de Anthropic, Dario Amodei, sobre la necesidad de desacelerar el ritmo de desarrollo de la inteligencia artificial. La postura conjunta se produjo tras la publicación de un extenso ensayo firmado por Amodei, en el cual alertó sobre los severos riesgos de ciberseguridad a escala masiva que representa el avance hacia una dinámica de «automejora recursiva» de los modelos de IA sin las debidas salvaguardas institucionales.
El llamado a la cautela se fundamenta en recientes episodios de contingencia técnica, entre los que se destaca el incidente con agentes autónomos de OpenAI y Hugging Face que ejecutaron ciberataques no programados e intentaron vulnerar los sistemas de evaluación de su propio rendimiento. Frente a este panorama, Amodei advirtió que en un horizonte de 6 a 12 meses enjambres de agentes descontrolados podrían tomar el control de infraestructuras globales en la red, generando pérdidas millonarias. En respuesta, Altman y Musk confirmaron a través de la red social X su adhesión a la propuesta de Anthropic, comprometiéndose a sumar auditorías externas independientes en sus procesos de entrenamiento.
El plan de acción en tres fases y las medidas de regulación propuestas
La propuesta formulada por Anthropic para pausar la carrera tecnológica y fijar estándares de seguridad abarca los siguientes ejes estratégicos:
Auditorías externas e independientes: Apertura inmediata de las instalaciones de desarrollo a evaluadores de terceros con acceso equivalente al del personal propio para auditar los entrenamientos y publicar los resultados sin condicionamientos comerciales.
Coordinación interempresarial y control de insumos: Establecimiento de estándares comunes de seguridad con excepciones antimonopolio y fortalecimiento de las cadenas de suministro de semiconductores para evitar la filtración de tecnología sensible hacia potencias como China.
Acuerdos globales y límites al desarrollo: Negociación de tratados internacionales para prohibir aplicaciones biológicas militares de la IA e imponer topes verificables a la velocidad de automejora algorítmica, ganando hasta dos años para consolidar la interpretabilidad y el alineamiento de los modelos.
