Sam Altman, director ejecutivo de OpenAI, advirtió que el desarrollo de la inteligencia artificial enfrenta dos riesgos centrales. El primero es que la humanidad pierda el control sobre sistemas cada vez más avanzados. El segundo es que una sola persona, empresa o país acumule un poder desproporcionado a partir de esa tecnología. Para reducir ambos peligros, el ejecutivo respaldó la creación de un marco regulatorio federal en Estados Unidos, la incorporación de auditores independientes y la coordinación internacional entre gobiernos.

Pérdida de control y concentración de poder

Altman sostuvo que evitar los dos riesgos al mismo tiempo implica recorrer lo que describió como un angosto camino intermedio. En primer lugar, señaló que las técnicas de alineación y seguridad deben avanzar al mismo ritmo que las capacidades de los modelos de frontera, e incluso por delante de ellas. En segundo término, advirtió que si una IA extraordinariamente poderosa es utilizada por un actor único para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos. El ejecutivo reconoció que atraviesa ese equilibrio con cautela y sin plazos definidos.

“Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas.”Sam Altman

Regulación federal y coordinación internacional

El director ejecutivo de OpenAI planteó que un marco federal debería fijar requisitos de seguridad comunes para los modelos de frontera e incorporar auditores independientes en los mecanismos de supervisión. Aclaró, no obstante, que las empresas no deberían esperar nuevas leyes para aplicar medidas de seguridad por cuenta propia. Además, sostuvo que ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia y que la coordinación internacional es uno de los ámbitos en los que las empresas requerirán el respaldo de los gobiernos.

• Pérdida de control humano sobre sistemas de IA cada vez más capaces.
• Concentración de poder en una persona, empresa o país mediante IA avanzada.
• Necesidad de alinear seguridad y capacidades de los modelos.
• Respaldo a un marco regulatorio federal con requisitos comunes.
• Incorporación de auditores independientes en la supervisión.
• Coordinación internacional entre gobiernos como respaldo a las empresas.