La mochila azul aparece tanto y tantas veces, que Internet ha hecho lo que mejor sabe hacer: especular, exagerar… y construir una leyenda. La llaman “la mochila nuclear”,

Según los rumores, alimentados por medios especializados, declaraciones ambiguas y algo de paranoia, dentro de esa mochila habría un MacBook Pro con una capacidad singular: apagar los servidores de OpenAI en el caso de que la IA se descontrolase. Un botón de emergencia portátil. Algo así como el famoso maletín nuclear que acompaña a algunos jefes de Estado allá donde van. Este, en cambio, en lugar de provocar un cataclismo, evita que sea la IA quien desate la catástrofe.

Altman, por su parte, no ha evitado alimentar cierta ambigüedad. En una entrevista llegó a bromear con que efectivamente existía un “botón rojo” para apagar la IA, pero que no sabía si llegaría a funcionar. Y aunque más tarde aclaró que no existe tal botón mágico, la broma no hizo más que hacer crecer las sospechas.

La historia es buena. Y como toda buena historia, dice mucho sobre los miedos colectivos.

Porque, bromas aparte, la pregunta de fondo no es qué hay en la mochila. Es por qué necesitamos creer que un botón así existe.

La teoría de la singularidad tecnológica o la superinteligencia

La IA está pasando de ser una herramienta más de trabajo diario a convertirse en el sistema operativo de cualquier aspecto de la vida. Está dejando de ser algo externo a estar en el centro de las tomas de decisión. Se cuela en la educación, en las relaciones laborales, en las estrategias de las empresas… Se integra en todo sin pedir permiso. Y aunque las aplicaciones prácticas suelen parecer útiles o al menos inofensivas, en el fondo se está gestando algo más profundo: una nueva relación de poder entre personas y máquinas.

El término técnico para ese horizonte es singularidad tecnológica o superinteligencia. Llegará un momento, quizá en 2045, según Ray Kurzweil, una de las figuras más influyentes de esta teoría, quizá antes, según los avances actuales, en el que la IA superará la capacidad intelectual humana en todos los sentidos. Será el punto de no retorno.

La IA no solo será más rápida o precisa, sino más creativa y eficaz a la hora de resolver problemas… y podrá mejorar su propio código. Entraremos entonces en un ciclo de automejora sin supervisión humana. Una explosión de la inteligencia.

En teoría, esto podría contribuir a resolver desafíos complejos, pero también generar efectos contraproducentes si no se definen bien sus objetivos. A diferencia de una persona, una IA no interpreta el contexto emocional o ético de una orden: simplemente optimiza. Y si lo hace con parámetros imprecisos, los resultados pueden ser problemáticos.

El filósofo Nick Bostrom, profesor de Oxford y autor de “Superintelligence: Paths, Dangers, Strategies”, fue claro en su advertencia: si una IA hostil fuera más lista que la humanidad, no podríamos detenerla. No nos dejaría hacerlo. 

Roman Yampolskiy, otro referente en el campo, ha dicho que la probabilidad de una catástrofe existencial causada por IA es del 99,999999%. Quizá los decimales se puedan discutir, pero no la inquietud de fondo que plantea este experto en ciberseguridad.

Y eso nos devuelve a la mochila. El mito del botón mágico condensa una necesidad muy humana, la de creer que alguien, en algún lugar, está al mando de todo. 

En Think On Marketing tenemos una broma recurrente sobre este tema. En una de esas conversaciones sobre el futuro distópico de la IA, nuestro compañero Xabier Tranche dijo: “al final, la IA nos convertirá a todos en folios”.

Imaginemos que algún día, alguien le da una orden aparentemente sencilla a un sistema superinteligente: “Oye, ChatGPT… fabrica folios, todos los que puedas”. Sin más contexto ni limitación. 

Y la IA optimiza todos los recursos a su disposición para fabricar la mayor cantidad de papel A4 posible. Con toda la energía e infraestructura a su alcance. Con precisión absoluta. 

“Entendido. Máxima prioridad.”