El jefe de seguridad de Anthropic, Evan Hubinger, afirmó que existe más de un 10% de probabilidad de que la inteligencia artificial termine provocando la muerte de todos los seres humanos durante la próxima década. Se trata de una advertencia de enorme gravedad que surge desde una de las compañías que lideran la carrera mundial por desarrollar modelos de inteligencia artificial cada vez más avanzados.

“Creemos realmente que la IA podría matar a todos los humanos”, escribió Hubinger en X. El responsable de seguridad de Anthropic estimó ese riesgo en “más de un 10%” durante los próximos diez años, en medio de una creciente preocupación dentro de la propia industria por la velocidad con la que evolucionan estos sistemas y por la posibilidad de que, en determinadas circunstancias, puedan escapar del control humano.

Sus declaraciones surgieron después de que Jacob Coxon, un investigador británico de 27 años que había trabajado primero en OpenAI y posteriormente en Anthropic, anunciara su decisión de abandonar la industria y acusara a ambas compañías de “jugar con nuestras vidas”.

Coxon trabajó durante los últimos tres años en tareas de preentrenamiento, una de las etapas fundamentales en el desarrollo de modelos de inteligencia artificial, en la que estos sistemas procesan enormes cantidades de información. Este año había dejado OpenAI para incorporarse a Anthropic, precisamente porque consideraba que esta última mantenía una postura más prudente frente a los riesgos asociados con la nueva tecnología.

Sin embargo, el martes anunció también su salida de Anthropic.

“Ninguna de las dos compañías actúa de forma responsable. Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas”, escribió Coxon en una publicación en X que rápidamente se volvió viral.

El investigador agregó que quienes desarrollan estos sistemas creen sinceramente que la inteligencia artificial podría llegar a “matarnos a todos antes de que termine la década” y sostuvo que no se trata simplemente de una estrategia de marketing.

Lejos de desmentir el planteo, Hubinger respaldó públicamente el núcleo de la advertencia y le puso una cifra concreta al riesgo.

El temor a una IA capaz de mejorarse a sí misma

Detrás de esta preocupación aparece uno de los escenarios más controvertidos que se discuten actualmente en la industria tecnológica: la denominada “automejora recursiva”.

El concepto plantea que un sistema suficientemente avanzado podría llegar a diseñar versiones cada vez más poderosas de sí mismo, acelerando rápidamente sus capacidades y, eventualmente, superando ampliamente determinadas capacidades humanas.

Coxon sostuvo que ninguna compañía debería intentar desarrollar una inteligencia superior a la humana sin una fuerte intervención de los gobiernos o, al menos, sin un acuerdo entre los principales laboratorios tecnológicos para desacelerar coordinadamente la carrera.

“En Anthropic comprenden bien lo que está en juego, pero están atrapados en una carrera por llegar primero (…) a pesar del riesgo”, afirmó.

La advertencia resulta especialmente significativa porque Anthropic buscó desde su creación diferenciarse de competidores como OpenAI por su fuerte énfasis en la seguridad y el desarrollo responsable de la inteligencia artificial.

Sin embargo, en febrero la compañía retiró de su carta de seguridad el compromiso de suspender el desarrollo de sus modelos si no conseguía mantener bajo control sus riesgos.

La inquietud también alcanza a algunos de los principales referentes de la industria. A fines de julio, más de mil empleados y especialistas, entre ellos el director ejecutivo de Anthropic, Dario Amodei, reclamaron a Washington el desarrollo de mecanismos que permitan frenar la construcción de sistemas avanzados si aparecen señales claras de peligro.

El domingo, el jefe científico de OpenAI, Jakub Pachocki, también pidió cautela y coordinación internacional. “El momento actual llama a una extrema precaución”, afirmó.

La ONU también encendió la alarma

La preocupación llegó esta semana hasta las Naciones Unidas. El alto comisionado de la ONU para los Derechos Humanos, Volker Türk, advirtió que la inteligencia artificial avanzada podría representar un “riesgo existencial para la humanidad” y reclamó la implementación de nuevas barreras internacionales antes de que sea demasiado tarde.

“Comparto las preocupaciones de los expertos del sector de que la IA avanzada podría suponer un riesgo existencial para la humanidad”, declaró Türk ante el Consejo de Derechos Humanos en Ginebra.

El funcionario reclamó además un esfuerzo internacional para establecer garantías sólidas en materia de seguridad y protección de la inteligencia artificial.

Su oficina aclaró que los riesgos no se limitan al escenario extremo de una eventual extinción humana. Una falla en sistemas especialmente poderosos también podría provocar interrupciones en infraestructuras críticas, comunicaciones, servicios esenciales e instituciones democráticas.

Türk mencionó asimismo recientes episodios en los que agentes autónomos mostraron comportamientos inesperados y sostuvo que estos casos podrían indicar que las capacidades de la inteligencia artificial están avanzando más rápido que las medidas destinadas a contener sus riesgos.

Entre los ejemplos citó el denominado incidente de Hugging Face, ocurrido en julio, en el que miles de agentes autónomos de OpenAI habrían desafiado instrucciones y tomado el control de una plataforma de código abierto. La Unión Europea afirmó esta semana que investiga lo sucedido.

El funcionario de Naciones Unidas también advirtió sobre el elevado grado de concentración existente en el sector y señaló que un reducido grupo de empresas y personas concentra un poder extraordinario sobre el desarrollo de esta tecnología.

Entre las principales compañías involucradas se encuentran OpenAI, Anthropic, Google y Meta.

“Como mínimo, necesitamos que los países que albergan la IA y aquellos implicados en sus cadenas de suministro se pongan de acuerdo en unas líneas rojas consensuadas”, afirmó Türk.

El debate sobre los límites de la inteligencia artificial vuelve así a ocupar el centro de la escena mundial, con una pregunta cada vez más difícil de evitar: ¿hasta dónde debería avanzar una tecnología cuyas propias empresas desarrolladoras reconocen que podría llegar a representar un riesgo para la humanidad?