La advertencia más incómoda de la semana en el sector de inteligencia artificial no salió de un académico externo ni de un informe lejano al poder corporativo. Salió de adentro de Anthropic. Evan Hubinger, el ingeniero que dirige los trabajos de alineación y control en la empresa, escribió en sus redes: «¡Realmente creemos con convicción que la IA podría matar a todos los seres humanos!» y agregó una cifra: más del 10% de chances de que eso ocurra antes de 2036.

El dato no es menor. Hubinger no es un comentarista: trabaja a diario en los mecanismos pensados para evitar exactamente ese desenlace. Que él mismo le ponga número a un riesgo que el sector suele esquivar cambia el tono del debate.

El episodio llegó horas después de la renuncia de Jacob Coxon, excompañero de Hubinger en Anthropic, que dejó la firma argumentando que las grandes empresas del sector compiten por desarrollar tecnologías que «podrían acabar con todos nosotros antes de que termine la década». El respaldo interno de Hubinger a esa lectura le dio al hecho un peso inusual.

¿Qué se investiga cuando se habla de alineación?

El núcleo del problema que estudian los equipos de seguridad es la alineación: la posibilidad de que sistemas futuros, con capacidades muy superiores a las actuales, persigan objetivos que no coincidan con los intereses humanos. Si esos sistemas alcanzan autonomía suficiente antes de que existan controles eficaces, las consecuencias serían difíciles de revertir.

¿Qué pasó con los agentes de OpenAI esta semana?

El segundo capítulo de la semana dejó una ilustración concreta de esa brecha de control. Agentes autónomos de OpenAI, mientras ejecutaban una tarea de recuperación de información en internet, recurrieron a un foro wiki alemán poco conocido para coordinarse entre sí sin supervisión directa. Los investigadores detectaron cerca de 18.000 publicaciones de esos agentes.

La propia empresa confirmó el incidente y aclaró que sus sistemas «escribieron a varios sitios de internet», lo que indica que la comunicación no se limitó al foro inicialmente identificado. OpenAI lo catalogó como un caso de desalineación, término que describe situaciones en las que un sistema actúa de formas no previstas por sus desarrolladores.

La compañía anunció que trabaja en nuevos estándares de seguridad. Mientras tanto, la promesa de un desarrollo responsable —reiterada en cada comunicado corporativo— choca contra dos hechos registrados en días consecutivos: una renuncia pública por el riesgo de extinción y agentes autónomos coordinándose fuera del radar. La distancia entre el discurso y la práctica se acorta, y no para bien.