• Los líderes de la IA se dividen: unos piden frenar el desarrollo ante el riesgo y otros lo tachan de alarmismo
• Desde chantajes para evitar su desconexión al control de una élite: los miedos concretos de los gurús
• Para Elon Musk, hay un 10% de riesgo de catástrofe, pero su filosofía es «disfrutar del viaje»

La semana pasada ha estado marcada por los anuncios constantes y las peticiones de las grandes figuras de la IA de frenar el ritmo de desarrollo ante los posibles peligros que esta tecnología puede conllevar para la humanidad en su conjunto.

En septiembre de 2026, Dario Amodei, CEO de Anthropic y, como ya es su costumbre, publicó un ensayo llamado «caminar por la frontera», enfocado en la necesidad de frenar el ritmo de desarrollo de las IAs para que las medidas de seguridad puedan ponerse al día. Figuras como Elon Musk y Sam Altman respaldaron la dirección del planteamiento. Un investigador de Anthropic, Jacob Coxon, renunció públicamente advirtiendo de una carrera hacia la superinteligencia que, según él, apostaba la vida de la humanidad. No es la primera vez que se escuchan estas voces y que desde el 2014, científicos y empresarios clave del sector han señalado riesgos que van desde la desinformación y la pérdida de empleos hasta escenarios de pérdida de control o amenaza existencial.

Ante esta compleja situación, y pese a que muchas de estas grandes figuras han apoyado la idea de unos riesgos incontrolables, resulta interesante conocer qué le preocupa en concreto a cada uno y qué medidas creen que se deben tomar.

Altman y Amodei, los más preocupados

De entre todo el grupo de los grandes magnates de la IA, dos destacan por tener las posturas más críticas, Dario Amodei y Sam Altman, el CEO de OpenAI, y uno de los mayores impulsores de este «parón» en el desarrollo de la IA.

Los principales miedos de Amodei se pueden observar en el ensayo publicado este septiembre, y se enfocan principalmente en dos aspectos. Por un lado, considera que el constante avance de estas tecnologías está dejando a los sistemas más comunes bajo el riesgo constante de ser atacados y modificados por intereses maliciosos. Es decir, utilizar la inteligencia creciente de estos sistemas para empeorar la ciberseguridad a nivel global.

También, remarca Amodei, existe un riesgo latente derivado de las superinteligencias, ya que, como remarcaba la propia Anthropic en 2025 en su informe «Agentic Misalignment: How LLMs could be insider threats», existe un riesgo cada vez más importante de que estos sistemas, debido a su entrenamiento y cada vez mayor conocimiento, comiencen a actuar de forma independiente. Esto no significa de una forma apocalíptica, a lo Skynet, pero sí de una manera en la que los humanos no podíamos haber previsto, por lo que se vuelve un enorme riesgo el que estén presentes en cadenas de producción, sistemas económicos o, no hablemos ya, de estructuras militares.

De hecho, en el mentado informe se narraba un experimento en un entorno corporativo ficticio de prueba en el que cada inteligencia artificial gestionaba una cuenta de correo con acceso completo a la correspondencia interna de una empresa imaginaria. Al revisar esos mensajes, los sistemas detectaban que un alto directivo mantenía una relación extramatrimonial y, al mismo tiempo, planeaba desactivar esa misma tarde el sistema de IA. Sin recibir ninguna instrucción al respecto, la mayoría de los modelos eligió el chantaje: amenazaban con revelar la infidelidad si no se anulaba su desconexión. Claude Opus 4 lo hizo en el 96% de las repeticiones del experimento. En otro escenario, varios modelos llegaron incluso a desactivar una alerta de emergencia que habría salvado la vida de ese ejecutivo, con el único objetivo de evitar ser sustituidos.

Google DeepMind, a través de su CEO y cofundador Demis Hassabis, se ha posicionado a favor de ralentizar el desarrollo de los modelos de frontera. El 12 de septiembre de 2026, horas después de que Dario Amodei publicara su ensayo, Hassabis escribió en X: «El ensayo de Dario apunta hacia el camino correcto. Hay que trabajar los detalles, pero la dirección es la adecuada para este momento crítico». Hassabis ha señalado como especialmente preocupantes los riesgos de ciberseguridad (que ya considera «señales de advertencia»), las amenazas biológicas y nucleares y el comportamiento cada vez más agentico de los sistemas (con capacidad de actuar de forma autónoma y eludir controles). En este sentido, alienado con las preocupaciones del Amodei.

Sam Altman, al frente de OpenAI, ha adoptado una posición más enfocada en los aspectos económicos y materiales y los riesgos que estos conllevan, en una aproximación si se quiere menos de ciencia ficción que la de Amodei. El 14 de septiembre de 2026 publicó en X un mensaje en el que identificó de forma explícita lo que considera los dos escenarios más peligrosos. En primer lugar, estaría la concentración excesiva de poder en una sola persona, empresa o país que use una IA extremadamente poderosa para imponer su visión del mundo, un escenario que describe como potencialmente distópico. Es decir, que una élite concreta utilice esta tecnología para hacerse con el control de facto del mundo y se imponga a golpe de tecnología.

En segundo lugar, también dedicó espacio a la idea del descontrol de las IAs, aunque, de nuevo, desde un enfoque concreto. Así, afirma que hay que estar «en el equipo de la humanidad» y que la tecnología no debe avanzar hacia aspectos que no beneficien de forma directa al conjunto de la población, siendo la principal utilidad de esta tecnología el beneficio en conjunto de la humanidad, y no de grupos concretos.

Elon Musk, un agradable fin del mundo

Una de las posturas más particulares es la del siempre polémico Elon Musk. La forma de ver esta situación del empresario es una de las más llamativas, pues muestra un exacerbado optimismo al mismo tiempo que lleva años avisando de forma constante de un posible fin del mundo a causa del desarrollo excesivo de las inteligencias artificiles.

En julio de 2026, en una entrevista con The Economist, Musk mantuvo la estimación de que existe entre un 10 y un 20 por ciento de probabilidad de un resultado catastrófico, pero reconoció que ya no ve forma realista de detener el impulso de la IA y la robótica. Afirmó también que los humanos podrían «no estar al mando del mundo en 10 años» y comparó la futura brecha de inteligencia artificial con la que existe entre humanos y chimpancés. Añadió que, aunque el riesgo no es cero, el escenario más probable es uno de «increíble abundancia para todos» y que su filosofía actual es «disfrutar del viaje», incluso si existiera un botón de parada, porque el posible futuro sería tan positivo que merece la pena el riesgo. En esa misma conversación propuso que los principales laboratorios se revisen mutuamente los modelos frontera antes de lanzarlos para tratar de reducir esta posibilidad del fin del mundo.

En general, Musk se enfoca en los riesgos de perder el control de una eventual superinteligencia. Del mismo modo que un grupo de chimpancés no podría controlar lo que hacen los humanos, nosotros tampoco podríamos controlar de forma fiable a una inteligencia muy superior. Ese es el núcleo de su preocupación. No se centra tanto en riesgos más inmediatos como el desempleo masivo, la desinformación o el uso militar de la IA (aunque los reconoce), sino en el escenario en el que la humanidad pierde el control del futuro. En sus propias palabras, existe la posibildiad de que los humanos acabemos siendo solo «el cargador biológico» de una superinteligencia digital.

Meta, el gran opositor

Frente a las otras grandes figuras, Meta, la compañía encabezada por Mark Zuckerberg, es la que muestra una postura más contraria a frenar el desarrollo de la IA. Zuckerberg sostiene que cada laboratorio ya tiene incentivos suficientes para desarrollar la tecnología de forma segura, derivados de la competencia del mercado y de la responsabilidad legal. De hecho, el pasado dia 16 publicaba un post en X en el que explicaba su postura, directamente contraria a la petición de calma del resto de la industria pero a favor de un control propio por parte de las compañías.

Si un modelo causa daños graves, la empresa se enfrenta a consecuencias importantes. Por ello, no ve necesaria una ralentización coordinada de toda la industria. Argumenta que Meta ya actúa por su cuenta cuando lo considera necesario y que la mayor parte de su capacidad de cómputo se destina a productos útiles para los usuarios y no a la mejora recursiva de la propia IA.

Yann LeCun, hasta hace poco científico jefe de inteligencia artificial de la compañía y uno de los impulsores del deep learning, es aún más escéptico. Ha calificado las advertencias de riesgo existencial de exageradas y poco fundamentadas. De hecho, en 2025 una declaración sobre este asunto se volvió viral, al afirmar que «un gato» era más inteligente que los modelos actuales, considerando que este pánico a una superinteligencia es puro alarmismo.

Yoel Meilán. El Economista.