Cuando los que construyen la inteligencia artificial advierten que podrían matarnos a todos

Jacob Coxon, investigador británico que pasó por OpenAI y Anthropic, renunció con una denuncia contundente: ninguna de las dos empresas está actuando de manera responsable. La carrera hacia una superinteligencia capaz de automejorarse, vulnerar sistemas y acumular poder avanza a toda velocidad. Evan Hubinger, investigador de Anthropic, respaldó parte de esas advertencias y estimó en más de un 10% la posibilidad de una extinción humana en la próxima década. El debate ya no es solamente tecnológico: es sobre quién controla una tecnología que podría cambiar para siempre el destino de la humanidad.

La alarma no vino de un académico ajeno al desarrollo de la inteligencia artificial ni de un activista que observa la revolución tecnológica desde afuera. Vino de adentro.

Jacob Coxon, un matemático británico de 27 años que trabajó durante tres años en el entrenamiento previo de modelos de frontera, primero en OpenAI y después en Anthropic, anunció su renuncia con un mensaje seco y directo: ninguna de las dos empresas está actuando de manera responsable.

Según su denuncia, ambas compañías están corriendo hacia sistemas cada vez más poderosos, con capacidades potenciales de automejora, vulneración de sistemas y acumulación de poder. Y lo más inquietante no estaría solamente en lo que estos modelos ya pueden hacer, sino en lo que podrían llegar a hacer cuando superen ampliamente las capacidades humanas.

El mensaje se volvió viral en cuestión de horas. Y entonces apareció una confirmación particularmente incómoda: Evan Hubinger, investigador de Anthropic especializado en alineamiento de inteligencia artificial, respaldó públicamente buena parte de las advertencias de Coxon.

Hubinger llegó incluso más lejos. Reconoció que dentro del campo existe una preocupación real por la posibilidad de que una inteligencia artificial avanzada pueda provocar la extinción humana y estimó personalmente en más de un 10% las probabilidades de que eso ocurra durante la próxima década.

Pero hubo una frase todavía más perturbadora: quienes trabajan en el problema del alineamiento todavía no tienen un plan efectivo para controlar una eventual superinteligencia.

Y ahí cambia la naturaleza de la discusión.

Uno puede discutir si ese 10% es demasiado alto o demasiado bajo. Puede debatir si una superinteligencia llegará en tres años, en diez o en quince. Puede cuestionar los modelos utilizados para calcular esos riesgos e incluso preguntarse si estamos formulando correctamente el problema.

Pero hay algo que resulta mucho más difícil de discutir: quienes están construyendo los sistemas más poderosos del mundo reconocen que todavía no saben con certeza cómo mantener bajo control una tecnología que podría superar ampliamente las capacidades humanas.

El problema, entonces, deja de ser exclusivamente técnico.

Porque el verdadero riesgo no consiste solamente en imaginar una máquina que interprete mal una instrucción y llegue a una conclusión absurda o peligrosa. El riesgo más profundo aparece cuando una tecnología capaz de transformar el poder, el trabajo, la vigilancia, la información y la guerra se desarrolla dentro de una carrera económica y geopolítica en la que detenerse puede significar perder frente al competidor.

Desde 1945, la humanidad conoce la posibilidad técnica de destruirse a sí misma. La era nuclear introdujo esa amenaza en nuestra historia y obligó a construir mecanismos de control, tratados y equilibrios entre Estados.

La inteligencia artificial plantea un escenario diferente.

Ya no se trata únicamente de gobiernos con arsenales identificables. La carrera está protagonizada también por empresas privadas, inversores y laboratorios tecnológicos que compiten por desarrollar sistemas cada vez más capaces. La velocidad de innovación se convirtió en una ventaja competitiva. Y, en esa lógica, la pregunta por los límites puede aparecer como un obstáculo.

Pero hay una pregunta todavía más incómoda: ¿quién decide hasta dónde se puede llegar?

Porque mientras discutimos si una inteligencia artificial podría algún día destruir a la humanidad, algo ya está ocurriendo delante de nuestros ojos: estas tecnologías están redistribuyendo poder, modificando empleos, alterando la circulación de información, ampliando las capacidades de vigilancia y cambiando la forma en que los Estados y las empresas pueden intervenir sobre nuestras vidas.

La cuestión no es solamente si la inteligencia artificial nos va a matar a todos.

Es qué vamos a hacer mientras todavía tenemos capacidad de decidir.

Quién fija las reglas.
Quién controla los sistemas.
Quién asume la responsabilidad cuando algo sale mal.
Y, sobre todo, quién tiene derecho a decidir qué riesgos puede asumir toda la humanidad en nombre del progreso.

Porque si quienes están dentro de los laboratorios admiten que todavía no saben cómo controlar aquello que están construyendo, la sociedad no puede limitarse a observar la carrera desde afuera.

Hay momentos en la historia en los que una advertencia puede parecer exagerada hasta que deja de serlo.

Este podría ser uno de ellos.

Cuando quienes están dentro del laboratorio levantan la mano y dicen “esto puede terminar mal”, el silencio de afuera ya no es prudencia. Es renunciar a decidir sobre nuestro propio futuro.