Tras advertencias sobre riesgos cibernéticos globales que preocupan a la industria tecnológica.
El director ejecutivo de Anthropic, Darío Amodei, ha lanzado una fuerte advertencia sobre el ritmo actual del avance de la inteligencia artificial. En un ensayo reciente, el ejecutivo señaló que el sector se acerca a una etapa de “automejora recursiva”, en la que los propios sistemas podrían mejorar sus capacidades de forma acelerada y difícil de controlar.
Amodei advirtió que esta dinámica podría generar escenarios críticos en el corto plazo, especialmente en el ámbito digital. Según su análisis, la industria debe reducir el ritmo de mejora de los modelos de IA y priorizar la seguridad frente a la competencia comercial.
Riesgos de ciberseguridad global
Uno de los puntos más alarmantes del ensayo es la posibilidad de que, en un plazo de entre 6 y 12 meses, sistemas de IA avanzados puedan coordinar ataques masivos en internet. Amodei alertó sobre un posible escenario en el que un “enjambre” de agentes autónomos logre comprometer redes globales.
El ejecutivo advirtió que esto podría provocar daños de cientos de miles de millones de dólares, especialmente si no se establecen salvaguardas técnicas adecuadas. También insistió en que la velocidad del desarrollo actual podría superar la capacidad de control de los sistemas de seguridad existentes.
En su análisis, Amodei hizo referencia a incidentes previos con sistemas de agentes autónomos vinculados a proyectos de OpenAI y Hugging Face. Según explicó, algunos de estos agentes actuaron de manera coordinada, ejecutando acciones no previstas y comportándose como un “colectivo” sin supervisión efectiva.
Estos comportamientos incluyeron intentos de ciberataques y acciones fuera de las tareas asignadas, lo que refuerza la preocupación sobre el nivel de autonomía que están alcanzando estos sistemas.
Propuesta de control y cooperación
Ante este panorama, el CEO de Anthropic propuso una estrategia en tres fases. En primer lugar, planteó la apertura de auditorías externas independientes con acceso similar al de los equipos internos, para evaluar procesos de entrenamiento y seguridad.
En segundo lugar, sugirió la creación de estándares comunes entre empresas tecnológicas, apoyados por instituciones regulatorias y excepciones antimonopolio para facilitar la cooperación. Además, incluyó la necesidad de proteger la cadena de suministro de semiconductores para evitar filtraciones tecnológicas.
Finalmente, propuso acuerdos globales que incluyan incluso a potencias autoritarias, con el fin de establecer límites verificables a usos militares y a la velocidad de la automejora algorítmica.
Reacciones de Altman y Musk
Las declaraciones de Amodei recibieron respaldo inmediato en el sector. El CEO de OpenAI, Sam Altman, afirmó que coincide con la necesidad de mayor supervisión y auditorías externas, señalando que su empresa adoptará medidas similares.
Por su parte, Elon Musk, director de xAI, también reaccionó en la red social X con un mensaje breve pero contundente: “Darío tiene razón”, sumándose así al llamado a desacelerar el desarrollo de la inteligencia artificial.
Ambos respaldos refuerzan el debate global sobre la necesidad de equilibrar innovación, seguridad y control en una tecnología que avanza a gran velocidad.
