La comunidad científica internacional debate hoy una pregunta que hasta hace poco parecía propia de la ficción: qué ocurre cuando una máquina se vuelve más inteligente que las personas que la crearon. Geoffrey Hinton, investigador de 78 años y una de las figuras fundamentales en el desarrollo del aprendizaje profundo, sostiene que la humanidad nunca se había cruzado con entidades de una capacidad intelectual superior a la suya y que esa experiencia inédita deja a la sociedad sin referencias para medir el riesgo.

Después de abandonar su cargo en Google en 2023 para poder hablar sin restricciones, Hinton instaló una advertencia especialmente fuerte: estima entre un 10 % y un 20 % las probabilidades de que sistemas superinteligentes provoquen la extinción de la especie humana durante los próximos treinta años. El rango, según explicó, responde a que la velocidad real del desarrollo superó ampliamente las proyecciones que él mismo manejaba una década atrás.

Un cambio que va más allá de los patrones estadísticos

El investigador rechaza la idea de que los modelos de lenguaje actuales se limiten a detectar regularidades estadísticas en enormes volúmenes de texto. Para Hinton, esos sistemas ya comprenden los conceptos semánticos y abstractos que procesan, un salto cualitativo que modifica de manera decisiva la evaluación de sus posibles consecuencias.

La comparación que propone es tan sencilla como inquietante: la innovación tecnológica funciona como el acelerador de un automóvil, pero la regulación estatal cumple el papel del volante. Sin un marco capaz de orientar el desarrollo, cuanto mayor es la velocidad alcanzada, mayor es también el peligro. En este esquema, la autorregulación del mercado no alcanza para contener una amenaza que, por su escala, exige decisiones coordinadas entre países.

“Confiar en la autorregulación del mercado ante una amenaza de esta escala es un error estratégico. La competencia geopolítica no puede ser razón suficiente para postergar la construcción de leyes globales.”Geoffrey Hinton, investigador y pionero del aprendizaje profundo

Hinton reclama regulación estatal urgente y un marco legal de alcance internacional, en lugar de dejar la orientación de la inteligencia artificial únicamente en manos de las empresas que la desarrollan. La ventana para definir principios éticos todavía existe, pero se reduce a medida que los modelos ganan capacidad de manera autónoma y la posibilidad de controlarlos se vuelve más limitada.

La pregunta que deja abierta su advertencia es qué clase de acuerdo mundial puede implementarse sin desconocer la velocidad del avance tecnológico. Para Hinton, la discusión no puede esperar a que el riesgo sea evidente: la humanidad aún tiene margen para decidir cómo orientar estos sistemas, aunque ese margen se achica con cada avance.