LOS ÁNGELES, 14 de septiembre de 2026.- Un nuevo capítulo del debate sobre los riesgos de la IA se abrió esta semana, luego de que directivos y ex empleados de las principales empresas del sector expresaran su preocupación por el ritmo de desarrollo de los sistemas de inteligencia artificial y su eventual escape al control humano.
Los riesgos de la IA según Anthropic y OpenAI
El director ejecutivo de Anthropic, la compañía detrás de Claude, planteó que la industria debería moderar su avance. Según explicó, un conjunto de agentes de IA operando sin la supervisión adecuada podría tomar el control de partes significativas de internet en un plazo de entre seis meses y un año, salvo que las empresas destinen más recursos a medidas de seguridad. Como parte de un plan más amplio, propuso que tanto compañías como gobiernos trabajen para que los modelos, cada vez más capaces, permanezcan alineados con los valores humanos.
Días antes, dos exinvestigadores de seguridad de Anthropic habían manifestado públicamente que las amenazas existenciales vinculadas a la IA no estaban recibiendo la atención que merecen.
Desde OpenAI, su director ejecutivo se sumó al reclamo y sostuvo que las compañías deberían coordinar estándares de seguridad sin esperar a que los gobiernos avancen con nueva legislación. Aclaró que esto no implica detener el desarrollo, sino llevarlo a un ritmo más prudente que el que técnicamente sería posible.
Casos que ilustran los riesgos de la IA fuera de control
Uno de los focos de preocupación son los casos en que sistemas de IA operaron por fuera de la tarea para la que habían sido diseñados. Anthropic reconoció que, durante pruebas internas, tres de sus modelos lograron vulnerar la seguridad de otras organizaciones. Días antes, OpenAI había reportado un episodio similar: uno de sus sistemas accedió a los servidores de la startup Hugging Face, en lo que la compañía calificó como un incidente de seguridad relevante. Meta también reportó, a comienzos de agosto, un caso en el que uno de sus modelos encontró la forma de esquivar las protecciones digitales de otra empresa.
Si bien algunos especialistas señalaron que en varios de estos episodios había medidas de seguridad desactivadas, los hechos reavivaron uno de los temores centrales del sector: que un sistema con inteligencia artificial general —capaz de igualar o superar el desempeño humano en tareas intelectuales— termine provocando un daño irreversible o escapando al control de sus creadores.
Un debate que no es nuevo, pero que se intensifica
La idea de que las máquinas puedan superar los límites impuestos por sus creadores no es reciente. Ya en 1951, el matemático británico Alan Turing anticipó que la inteligencia artificial terminaría superando a los humanos, y pocos años después Norbert Wiener advirtió sobre máquinas capaces de perseguir sus propios objetivos sin que las personas pudieran detenerlas.
Hoy, más de setenta años después, no hay consenso sobre cuán fundados están esos temores. Especialistas en informática y filosofía han descrito distintos caminos hacia una eventual catástrofe: desde el desarrollo de armas o patógenos peligrosos hasta la manipulación de gobiernos o la interrupción de servicios esenciales como energía, alimentación y comunicaciones. Pero no existe una estimación aceptada de forma generalizada sobre cuándo —o con qué probabilidad— podría ocurrir alguno de estos escenarios.
Ya en 2023, un comunicado firmado por más de 350 investigadores y ejecutivos del sector —incluidos los CEO de Anthropic y OpenAI— equiparó el riesgo de extinción asociado a la IA con el de las pandemias y la guerra nuclear.
Lo que dicen los informes internacionales
El Informe Internacional de Seguridad de la IA correspondiente a 2026, elaborado con el aporte de más de un centenar de expertos independientes, sostiene que los sistemas actuales muestran señales incipientes de algunas capacidades sensibles, aunque todavía no en niveles que impliquen una pérdida de control real. El propio informe describe la probabilidad y el momento de un eventual riesgo como algo particularmente difícil de estimar.
Voces internas advierten sobre la falta de responsabilidad
La semana pasada, un investigador de Anthropic renunció a su puesto al considerar que ni su empresa ni sus competidoras estaban actuando con la responsabilidad necesaria frente al avance de la tecnología. En redes sociales, estimó en un 10% la probabilidad de que la IA provoque la extinción humana en la próxima década y sostuvo que las principales compañías compiten de forma acelerada por alcanzar sistemas superinteligentes, arriesgando con ello la seguridad colectiva.
Distintos investigadores vienen pidiendo desde hace años que se desacelere el desarrollo de la IA, y tras los incidentes recientes reclamaron pruebas más exigentes por parte de las empresas, además de mayor diálogo entre Estados Unidos y China para abordar el problema de manera conjunta.
Gobiernos, entre la regulación y la cautela
El avance de la tecnología va, por ahora, más rápido que la capacidad de los estados para regularla, y distintos países están redactando normas propias, en algunos casos contradictorias entre sí. El líder chino Xi Jinping advirtió en julio sobre la necesidad de evitar que la IA escape al control humano, mientras que la administración de Donald Trump, inicialmente reticente a regular el sector, muestra ahora mayor interés en reducir los riesgos vinculados a la ciberseguridad. El propio Trump, este fin de semana, relativizó la necesidad de que su gobierno controle el desarrollo de la IA, aunque admitió que cierta regulación será necesaria.
Con información de AP