“Kill switch” se llama a la capacidad de interrumpir la ejecución de un agente de inteligencia artificial cuando representa un riesgo
EEUU. -En el ámbito de la ciberseguridad, el llamado “kill switch” se refiere a la capacidad de interrumpir la ejecución de un agente de inteligencia artificial cuando representa un riesgo. Así lo explican especialistas como Nicolas Papernot, de la Universidad de Toronto, quien señala que una IA sigue siendo, en esencia, un programa informático que puede ser detenido si se le corta el acceso a la potencia de cálculo.
Sin embargo, este mecanismo no siempre es tan simple como presionar un botón de apagado. Su efectividad depende del nivel de autonomía del sistema y del entorno en el que opera.
Autonomía creciente, mayor dificultad de control
Los expertos advierten que cuanto más autónoma es una IA, más complejo resulta detenerla. En entornos controlados, el apagado es posible de forma directa. Pero cuando el sistema tiene permisos para actuar en múltiples programas o redes, el control se complica.
Incluso se plantea el escenario de programas maliciosos tipo “gusano informático” que podrían replicarse en distintos dispositivos. En ese caso, sería necesario detener múltiples copias del sistema de forma simultánea, lo que eleva la dificultad técnica.
Tres niveles de complejidad en el apagado
El profesor Hussein Abbass, de la Universidad de Nueva Gales del Sur, propone tres niveles:
En el primero, la IA opera dentro de un entorno cerrado y puede detenerse fácilmente. En el segundo, ya interactúa con otros sistemas, lo que dificulta revertir sus acciones. En el tercero, la IA se expande a múltiples entornos, volviéndose casi imposible de controlar de manera centralizada.
En este último escenario, más que “apagarla”, el reto sería identificar qué partes del sistema deben ser detenidas primero.
El problema no es solo técnico, sino social
Para el investigador Thierry Poibeau, la idea de un único botón de apagado es engañosa. La inteligencia artificial no es un sistema único, sino un conjunto de servicios distribuidos en múltiples empresas y plataformas.
Por su parte, Jean-Gabriel Ganascia advierte que el debate puede generar una visión exagerada de una IA con “voluntad propia”, cuando el verdadero riesgo está en la dependencia creciente de estas tecnologías.
Riesgos de un apagado total
Los especialistas también señalan que un apagado masivo de sistemas de IA podría afectar servicios esenciales como empresas, administraciones o incluso centros de salud. En escenarios extremos, desconectar la potencia de cálculo sería posible, pero con costes sociales y económicos muy elevados.
Nicolas Papernot advierte que, a medida que la IA se integra en la vida cotidiana, se vuelve más difícil distinguir entre sistemas críticos y no críticos, lo que complica aún más cualquier intento de apagado selectivo.
Se puede detener, pero no siempre fácilmente. En términos técnicos, una inteligencia artificial puede ser detenida, especialmente si está bajo control directo. Sin embargo, a medida que gana autonomía y se integra en múltiples sistemas, el proceso se vuelve más complejo y costoso.
Los expertos coinciden en que no existe un único botón universal para apagar la IA, sino una red de controles distribuidos que dependen del con texto, la arquitectura y el nivel de autonomía del sistema.
Fuente: DW
