Altman enciende la alarma: la humanidad podría perder el control de la inteligencia artificial o quedar a merced de unos pocos

Sam Altman volvió a poner el dedo en la llaga. El director ejecutivo de OpenAI publicó una serie de declaraciones en las que identificó los dos riesgos que, a su entender, concentran la mayor preocupación en el avance de la inteligencia artificial: que la humanidad pierda el control sobre sistemas cada vez más avanzados, o que una sola persona, empresa o país acumule un poder desproporcionado gracias a esa tecnología.

El primer riesgo: perder las riendas del futuro

Para el creador de ChatGPT, la posibilidad de que los humanos queden a merced de sus propios inventos no es una hipótesis lejana ni un recurso de ciencia ficción. Por eso insistió con una definición tajante: "Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas".

Su planteo apunta a que las técnicas de alineación y seguridad deben avanzar al mismo ritmo que las capacidades de los modelos, o incluso por delante de ellas. La idea es sencilla de explicar y difícil de ejecutar: no alcanza con que la máquina sea más poderosa; tiene que ser, al mismo tiempo, más dócil y más transparente.

El segundo riesgo: que todo el poder quede en pocas manos

El otro escenario crítico es la concentración desmedida. "Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos", advirtió Altman. Lo dijo sin rodeos y dejando en claro que esquivar ambos peligros al mismo tiempo exige transitar un sendero angosto, casi como caminar por la cornisa de un techo.

Regulación, auditores y coordinación entre países

• Respaldo a un marco regulatorio federal que fije requisitos comunes de seguridad para los modelos de frontera, es decir, los que operan en el límite de las capacidades tecnológicas actuales.
• Incorporación de auditores independientes a los mecanismos de supervisión, para evitar que la fiscalización quede en manos de las propias empresas desarrolladoras.
• Un llamado a la coordinación internacional entre gobiernos, ya que la competencia tecnológica entre países no debería justificar asumir riesgos innecesarios.
• La aclaración de que las empresas no deberían esperar nuevas leyes para comenzar a aplicar medidas de seguridad por cuenta propia.

“Ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia.”Sam Altman, CEO de OpenAI

El debate recién empieza y, como suele ocurrir con la innovación, corre más rápido que la política. En la redacción de este portal seguimos de cerca cada movimiento: por ahora, la pelota está en la cancha de los reguladores y de las propias compañías, que deberán demostrar si están a la altura de lo que prometieron.