¿La IA va a acabar con la humanidad?

¿La IA nos va a extinguir? ¿Sí o no? Unos dicen que sí; Trump, Elon Musk y Sam Altman convenientemente dicen que no.

Desmenuzamos todo esto.

Vean, todo comenzó con Jacob Coxon, un exinvestigador que trabajó tres años entrenando modelos de inteligencia artificial, primero en OpenAI y después en Anthropic, y salió a denunciar que vamos hacia la perdición.

En pocas palabras, acusó a las grandes compañías de IA de actuar de manera irresponsable y de que están compitiendo para desarrollar una superinteligencia capaz de mejorarse a sí misma, todo sin tener mecanismos suficientes para controlarla.

Esto quiero dejarlo muy claro. Jacob no dijo que YA estamos en ese punto, sino que, si no hacemos un cambio, esa va a ser la conclusión inminente.

Y así como Jacob, han salido cientos de investigadores y trabajadores de IA como Evan Hubinger (Anthropic), Rishub Jain (Google Deepmind) y demás que han salido ABIERTAMENTE a decir que creen que la IA tiene la capacidad de aniquilar a la humanidad y que podría ser en menos de 10 años.

Pero de nuevo, todos ellos se refieren a sistemas que se están desarrollando, no a sistemas que existen hoy en día, al menos no de manera pública.

Ahora, al otro lado de la moneda tenemos a figuras como David Sacks, asesor de inteligencia artificial y criptomonedas de la Casa Blanca; Mike Johnson, presidente de la Cámara de Representantes y hasta el mismo Donald Trump, que le han bajado la intensidad a las acusaciones.

Por ejemplo, Johnson dijo que, si las empresas quieren desacelerar por su cuenta, le parece bien, pero que el Congreso no va a intervenir, ya que eso podría hacer que Estados Unidos pierda la carrera tecnológica contra China.

Trump, por su parte, dijo que:

1. No cree que la IA sea capaz de acabar con la humanidad.
2. Todo esto de las regulaciones está siendo manejado e impulsado por "fuerzas negativas".
3. Que lo único necesario para detener a la IA es un presidente fuerte en los Estados Unidos, y que ya lo tienen.

Ahora, ¿qué propuestas se han presentado para regular la IA? Quizás, la más hablada sea la de Dario Amodei, director ejecutivo de Anthropic.

En resumen, él publicó un ensayo en el que, entre otras cosas:

1. Le pidió a la industria en general reducir la velocidad con la que mejorar sus modelos.
2. Contratar evaluadores de seguridad externos e independientes con acceso permanente a los datos de estas empresas.
3. Crear puntos de referencia de seguridad compartidos entre todas las empresas.
4. Desarrollar una coordinación multinacional sobre los riesgos de la inteligencia artificial.

Según cree, una desaceleración controlada de uno o dos años daría tiempo suficiente para controlar los modelos sin sacrificar ni la ventaja comercial de las empresas ni el liderazgo de Estados Unidos frente a China.

Lo curioso es que los principales rivales de Anthropic: Sam Altman, de OpenAI; Elon Musk, de xAI, y Satya Nadella, de Microsoft, todos apoyaron la idea de Amodei y dijeron que ya están trabajando en el tema de los evaluadores.

Pero bueno, ¿qué tan real es la amenaza de que la IA nos aniquile? La respuesta honesta es… no se sabe.

Ninguno de los insiders ha explicado concretamente qué tipo de mecanismo podía exterminarnos.

Una opción sería una IA lo suficientemente avanzada que encuentre vulnerabilidades informáticas, que desarrolle armas o tecnologías peligrosas, o que acumule recursos y poder a una velocidad que los humanos no podamos reaccionar.

Y si bien hay antecedentes, como el hackeo de ChatGPT a Hugging Face, la realidad es que no sabemos qué tan metidos en caca estamos.