El pionero de la inteligencia artificial advierte que la humanidad debe prepararse para sistemas que podrían escapar de su control.
Estados Unidos. – Geoffrey Hinton, reconocido como el “padrino de la inteligencia artificial”, volvió a alertar sobre los riesgos de esta tecnología. El científico considera que la humanidad enfrenta un desafío sin precedentes ante el desarrollo de sistemas cada vez más avanzados.
En una entrevista con el diario británico The Guardian, Hinton afirmó que la sociedad dispone de apenas un par de años para adaptarse a esta nueva realidad. “Estamos creando seres de un tipo diferente”, expresó al referirse a las capacidades que están adquiriendo los sistemas de inteligencia artificial.
El investigador es una de las figuras pioneras en el desarrollo de las redes neuronales. Durante años trabajó en Google, pero renunció en 2023 para hablar con mayor libertad sobre los posibles peligros de esta tecnología.
Hinton advierte sobre el control humano
El científico reiteró que existe una posibilidad seria de que los sistemas de inteligencia artificial lleguen a escapar del control humano. Aclaró que no presenta este escenario como una predicción inevitable, sino como un riesgo que debe tomarse en serio.
Para explicar su preocupación, Hinton comparó el peligro con la posibilidad de sufrir un accidente durante un viaje en autobús. “Si te dicen que hay un 10% de posibilidades de que el autobús choque, no te subís al autobús”, señaló.
El investigador explicó que las cifras buscan dimensionar la gravedad del problema. Sin embargo, reconoció que todavía existe incertidumbre sobre la magnitud real del riesgo.
Su principal advertencia es que la humanidad no debe ignorar un peligro potencial solo porque todavía no puede calcularse con precisión. Por ello, considera necesario prestar atención a las capacidades que están desarrollando estos sistemas y a las consecuencias que podrían tener para las personas.
Crece el debate sobre los riesgos de la IA
Las declaraciones de Hinton se producen después de un mes marcado por nuevas advertencias de científicos e investigadores sobre los peligros de la inteligencia artificial. Estas preocupaciones contribuyeron a impulsar reuniones en el Congreso de Estados Unidos y a generar un consenso internacional poco habitual sobre la necesidad de actuar.
No obstante, las advertencias también han provocado fuertes desacuerdos entre figuras destacadas del sector tecnológico. Uno de los críticos es Jensen Huang, director ejecutivo de Nvidia, empresa que fabrica los chips utilizados por numerosas compañías dedicadas al desarrollo de inteligencia artificial.
Durante su participación en el pódcast de Ezra Klein, Huang cuestionó las estimaciones de Hinton sobre los posibles efectos de esta tecnología. En particular, rechazó la probabilidad de entre un 10% y un 20% de que la inteligencia artificial provoque la extinción humana en las próximas décadas.
El ejecutivo calificó esas predicciones de “no basadas en ciencia” y las consideró “dañinas”. Sus declaraciones reflejan las diferencias que existen entre los principales referentes tecnológicos sobre la gravedad de los escenarios que podrían surgir con el avance de estos sistemas.
El desafío de crear una IA segura
Hinton también abordó las dificultades de desarrollar sistemas que respondan de manera adecuada a los intereses humanos. Según explicó, los modelos se entrenan con grandes cantidades de contenido disponible en internet, lo que puede llevarlos a desarrollar tendencias problemáticas.
Posteriormente, se les enseña a reprimir esas tendencias. Sin embargo, el científico advirtió que este proceso no equivale necesariamente a construir un carácter genuinamente bueno en los sistemas de inteligencia artificial.
El investigador sostuvo que los intereses humanos deben tener prioridad frente a los de las tecnologías que se están creando. Al mismo tiempo, destacó la importancia de diseñar sistemas capaces de convivir en equilibrio con las personas.
La discusión plantea un reto central para el futuro de la inteligencia artificial: desarrollar herramientas cada vez más capaces sin perder de vista la seguridad y el bienestar de la humanidad. Para Hinton, reconocer los riesgos y actuar con anticipación resulta fundamental ante una tecnología cuyo desarrollo continúa generando interrogantes.
