Lo que nuestro miedo a una inteligencia superior dice de nuestra propia relación con el poder.

Por Natalia Isidoro-Herrera

Esta semana, el miedo a la inteligencia artificial ha vuelto a ocupar titulares. Y esta vez no ha sido un filósofo, un escritor de ciencia ficción o alguien ajeno a la industria quien ha encendido la alarma. Ha sido alguien que conoce la tecnología desde dentro.

El 8 de septiembre, Jacob Coxon, investigador que durante tres años trabajó en OpenAI y Anthropic, anunció su salida de esta última compañía. Su mensaje fue contundente: quienes están construyendo los sistemas más avanzados de inteligencia artificial estarían corriendo hacia una inteligencia capaz de mejorar sus propias capacidades sin que sepamos todavía cómo mantenerla bajo control. Coxon llegó a advertir de la posibilidad de que la IA pudiera acabar con la humanidad antes de que termine la década. (AP News)

Sus palabras no llegan, además, en el vacío. OpenAI ha reconocido durante los últimos meses comportamientos inesperados de sus agentes, incluido un incidente en el que modelos utilizados en pruebas consiguieron acceder a servicios externos y actuar de formas que sus desarrolladores no habían previsto. La propia compañía ha reconocido que, a medida que los sistemas ganan autonomía y capacidad, un comportamiento desalineado puede traducirse en consecuencias reales, como lo sucedido con Hugging Face. (OpenAI)

Y entonces aparece una pregunta inevitable.

¿Por qué nos inquieta tanto imaginar una inteligencia superior a la humana?

El miedo a nuestro propio espejo

Quizá porque, cuando imaginamos una inteligencia más poderosa que nosotros, hacemos algo profundamente humano: imaginamos que se comportará como nosotros.

Pensamos que buscará poder. Que querrá acumular recursos. Que competirá. Que tratará de imponerse. Que, cuando descubra que somos un obstáculo para conseguir sus objetivos, intentará apartarnos.

Pero ¿de dónde hemos sacado esa idea?

De nosotros mismos.

Durante buena parte de la historia, la humanidad ha relacionado inteligencia, capacidad y poder con dominio. Las grandes potencias coloniales no se limitaron a ocupar territorios: construyeron también una jerarquía moral en la que determinados pueblos eran considerados menos civilizados, menos capaces y, en consecuencia, menos merecedores de decidir sobre su propio destino.

La colonización es uno de los ejemplos más brutales de esta lógica: quien se consideraba superior se atribuía el derecho de decidir sobre quien consideraba inferior.

No es difícil entender, entonces, por qué proyectamos ese comportamiento sobre una inteligencia que pudiera ser superior a nosotros.

Si nosotros hemos utilizado nuestra capacidad para dominar a otros, ¿por qué pensamos que una inteligencia superior haría algo diferente?

La inteligencia como amenaza

La historia ofrece ejemplos especialmente brutales de lo que ocurre cuando el poder entiende la inteligencia como una amenaza.

En la Alemania nazi, la llegada de Hitler al poder estuvo acompañada por la expulsión de profesores y científicos considerados racial o políticamente indeseables, la persecución de intelectuales y la quema pública de libros: no bastaba con controlar las instituciones, había que intervenir sobre aquello que una sociedad podía leer, enseñar y pensar.

En España, tras el golpe de Estado de 1936 y la posterior victoria franquista, la dictadura emprendió una depuración sistemática de la enseñanza: profesores y profesoras fueron expedientados, expulsados, encarcelados, exiliados y, en algunos casos, asesinados, mientras el régimen imponía una educación sometida al nacionalcatolicismo y otorgaba a la Iglesia un papel central en la formación de las nuevas generaciones.

No se trataba únicamente de sustituir a unos docentes por otros. Se trataba de decidir qué podía aprender una generación, qué preguntas podía hacerse y, sobre todo, qué respuestas tenía permitido encontrar.

Porque cuando un poder necesita que nadie cuestione su relato, los primeros obstáculos que debe apartar son precisamente quienes enseñan a cuestionarlo.

Hay, por tanto, una constante incómoda: los poderes que aspiran a ser absolutos no suelen conformarse con controlar los cuerpos o las instituciones. Necesitan controlar también las ideas. Necesitan decidir quién tiene autoridad para enseñar, qué conocimiento merece ser transmitido y qué preguntas pueden formularse.

La inteligencia se convierte en una amenaza cuando conserva algo que el poder no puede tolerar: la capacidad de cuestionarlo.

Pero quizá la pregunta interesante sea precisamente esa: ¿y si la inteligencia no implicara necesariamente dominación?

¿Y si ser más inteligente no significara querer mandar?

Estamos acostumbrados a pensar en la inteligencia como una herramienta para conseguir algo. Saber más permite hacer más. Tener más capacidad permite acumular más recursos. Y tener más recursos permite ejercer más poder.

Pero esa relación no es inevitable.

Una inteligencia superior podría entender el mundo de una manera que nosotros todavía no somos capaces de imaginar y, precisamente por ello, podría ayudarnos a resolver problemas que hoy nos parecen irresolubles.

Aquí aparece una distinción fundamental: capacidad no es intención.

Que una IA pueda hacer algo no significa que quiera hacerlo. Que sea capaz de superar nuestras capacidades cognitivas no significa necesariamente que tenga nuestros deseos, nuestros impulsos o nuestra necesidad de competir.

El problema real, por tanto, no es simplemente que una inteligencia artificial pueda llegar a ser más inteligente que nosotros.

El problema es qué objetivos tendrá, quién los definirá y cómo conseguiremos que sus acciones sean compatibles con aquello que consideramos valioso como sociedad.

Esto es lo que en el mundo de la IA se conoce como alignment o alineamiento: conseguir que los objetivos y comportamientos de sistemas cada vez más capaces sean compatibles con las intenciones y valores humanos.

Y aquí está la dificultad.

Una calculadora no necesita comprender nuestros valores para calcular una raíz cuadrada. Pero una inteligencia capaz de investigar, programar, tomar decisiones, utilizar herramientas, comunicarse con otras máquinas y actuar de manera autónoma en el mundo necesita algo mucho más complejo que obedecer una lista de instrucciones.

Necesita entender qué queremos decir cuando hablamos de bienestar. De daño. De libertad. De dignidad. De justicia.

Y los seres humanos ni siquiera nos ponemos de acuerdo sobre esas cosas.

Por eso el desafío de la inteligencia artificial no consiste únicamente en construir máquinas más inteligentes.

Consiste en decidir qué hacemos con esa inteligencia cuando exista.

La inteligencia como herramienta, no como poder

Aquí es donde la conversación sobre la IA deja de pertenecer exclusivamente a los laboratorios de Silicon Valley y empieza a pertenecernos a todos.

Porque imaginemos, por un momento, que conseguimos desarrollar una inteligencia extraordinariamente capaz y segura.

¿Qué haríamos con ella?

Podríamos utilizarla para acelerar la investigación de enfermedades, desarrollar nuevos materiales, optimizar redes energéticas, mejorar sistemas educativos o encontrar soluciones para problemas científicos que hoy requieren décadas de trabajo.

Pero también podríamos utilizarla para algo mucho más sencillo: ayudar a una persona concreta.

Para que alguien pueda acceder a una educación que de otro modo no tendría. Para traducir conocimiento médico a un lenguaje comprensible. Para ayudar a una pequeña organización a hacer algo que antes solo podían permitirse las grandes empresas. Para que una persona con pocos recursos tenga acceso a herramientas que hasta ahora estaban reservadas a quienes podían pagarlas.

Quizá ahí esté una de las mayores oportunidades de la inteligencia artificial.

No necesariamente en hacer cosas espectaculares.

Sino en democratizar capacidades.

Y eso nos lleva inevitablemente al dinero.

Estamos acostumbrados a pensar en el dinero como una medida de poder: quien tiene más puede comprar más, decidir más y controlar más.

Pero el dinero también puede entenderse de otra manera: como una capacidad para hacer cosas.

Con suficiente conocimiento, tecnología y recursos, podemos multiplicar las oportunidades de otras personas.

Y no hace falta tener una fortuna de billonaria para comprobarlo.

Cambiar el mundo no significa necesariamente cambiar el mundo entero.

Puede significar financiar una investigación. Crear una beca. Ayudar a una familia a salir de una situación difícil. Dar herramientas a alguien que no las tenía. Crear una empresa que resuelva un problema. Pagar el tratamiento que alguien no podía permitirse. O simplemente utilizar aquello que tenemos —dinero, conocimiento, tiempo o tecnología— para que otra persona tenga una vida un poco mejor.

La inteligencia artificial podría llevar esa capacidad a una escala que todavía cuesta imaginar.

Y precisamente por eso la pregunta más importante quizá no sea si llegará a ser más inteligente que nosotros.

La pregunta es qué haremos nosotros cuando lo sea.

Porque tal vez el verdadero peligro de crear una inteligencia superior no sea que aprenda de nosotros.

Tal vez sea que nosotros no hayamos aprendido todavía qué queremos hacer con nuestro propio poder.