Agustín Fernández Mallo: “No podremos razonar porque habremos fiado todo a las IAs”
calendar_today 05.10.2026 - person - timer ~5 Minutos
Agustín Fernández Mallo (A Coruña, 1967) se toma unos segundos para meditar en la sede de la editorial Galaxia Gutenberg, en Barcelona. No le convence nada que la sociedad llame inteligencia artificial a los Chatgpts y compañía… “¿Si no sabemos describir bien la inteligencia humana, cómo vamos a atrevernos con otras?”, se pregunta, y añade al poco: “Eso no son en realidad inteligencias, y hablo en plural porque hay muchas. Son otra cosa. Ni, por supuesto, tampoco son artificiales. Son abusos del lenguaje”.
El escritor debate sobre esta y muchas otras cuestiones en su nuevo ensayo Él ángel de la inteligencia artificial (Galaxia Gutenberg), cuyo título nace de la comparación de estas nuevas tecnologías con la figura del ángel caído, que no es más que “ese ser que se desprende de su Dios, cae a tierra y tiene voluntad propia”. ¿Pasará eso con las Ias? ¿Llegarán a superarnos en algún momento?, se pregunta a menudo la sociedad.
“Las Ias que tenemos no van por el camino de crear algo equivalente al ser humano”, opina el escritor, que cree que esa sensación viene, entre otras cosas, porque las hemos antropomorfizado. “Eso nos pone nerviosos porque las sentimos cercanas. En todas las culturas está la idea de crear algo que se parezca al humano a partir de elementos inertes. Entre otras cosas, porque sentimos que con eso podemos llenar un vacío. Surgen así las religiones y, ahora también, las Ias. Pretendemos crear humanos a partir de algo que no lo es. Y es importante precisamente eso, no olvidar que no lo son”. En resumen, pretendemos crear una definitiva IA por el mismo motivo por el que levantamos sistemas religiosos y divinidades a las que pedimos que nos solucionen los problemas.
Más allá de lo mencionado, Fernández Mallo cree que otro de los principales temores viene ante “la idea de que las Ias puedan llegar a coligar entre ellas y crear microsociedades” que, quien sabe, si terminarían con nosotros. De nuevo, el autor no imagina algo así porque son términos “humanos”, pero sí menciona un posible problema de futuro que, por supuesto, no sabe si llegará o no a ocurrir, “pero podría ser”: que las máquinas acaben adquiriendo derechos.
“No resulta tan extraño que acabemos dando derechos a algo que no es merecedor. Ya lo hemos hecho antes cuando, por ejemplo, decimos cosas como los derechos de los bosques. Pues, también, podríamos llegar a darles a las Ias. ¿Y dónde estaría el problema? Ahora, si nos sobrepasara la situación, tu puedes desenchufar la máquina y terminó todo. Pero, si estas adquieren derechos, el día que tú hagas eso terminarás juzgado ante un tribunal porque cometerás un delito. Y, entonces, será muy difícil que demos pasos atrás”.
Pero, antes de que eso ocurra, “si es que ocurre”, hay otros problemas que ya están surgiendo, apunta el escritor: “Nos estamos cargando el proceso de aprendizaje. Queremos que se nos dé todo masticado, hacerlo bien a la primera. Si yo sé hacer un pollo a la cazuela es porque antes lo he aprendido, y lo he hecho varias veces, y conozco el proceso. Pero estamos saltándonos esta parte y nos volvemos seres cada vez más simples. Habrá un momento en el que ya no puedes razonar por ti mismo porque has fiado todo a un agente externo, que en este caso es la máquina”.
“También será más fácil que nos tomen el pelo” –añade– “porque te darán una respuesta y darás por hecho que es correcta, no te lo cuestionarás. Y, quizás, la información es falsa. Eso ya nos está pasando con Chatgpt. Le hice un día una pregunta sobre números binarios y la respuesta que me dio intuí que no era correcta. La comenté con un amigo matemático y, efectivamente, no lo era. Alguien que no haya aprendido desde joven a algo tan básico como razonar, no podrá ver que le dan una respuesta errónea”.
Otra de las tesis desarrolladas en el ensayo aborda es si la humanidad está preparada para dejar de ser la mayor inteligencia del planeta, de nuevo, poniendo el término ‘inteligencia’ entre comillas: “Creo que no y, desde luego, no es nada deseable”. En todo caso, especifica: “Debe de haber una regulación mayor de la que hay, que no es casi nada. Es decir, si bien el Estado debe dejar que las personas desarrollen su libertad, creo que en este tema debe de ser intervencionista antes de que se nos vaya todo de las manos. Y esto ya se está planteando. Los apóstoles de la tecnología abogan porque Estado desaparezca y que todo sea manejado a través de IAs. Y eso significaría que las democracias liberales desaparecerían. Es algo que no podemos permitirnos. Estamos en un momento en que los gobiernos mundiales tienen que pensar bien qué parte de las IAS dejan entrar en el propio Estado y qué parte se queda fuera”.
Fernández Mallo pide, ante todo, tener algo en cuenta: “El ser humano sabe que algún día se morirá y, con él, se irá su intelecto y sus ideas. Pero una Ia puede seguir creciendo. Simula que es un organismo, por lo tanto parece que tiene mortalidad, pero en verdad no lo es”. Y desarrolla: “Nosotros envejecemos, tenemos heridas y esa experiencia es lo que nos hace ver que somos mortales y nos hace crear conocimiento. Una IA no tiene cuerpo y, por tanto, no siente la experiencia ni la herida. Y, al no sentir la herida, no crea. Desde luego no del mismo modo que nosotros. El suyo es un arte vacío. Y eso nos separará de ellas para siempre”.
Lara Gómez (Barcelona, 1993) es licenciada en Periodismo por la Facultat de Comunicació i Relacions Internacionals Blanquerna y está especializada en cultura y género. Aunque lo intentó, nunca llegó a aprender alemán. Su gran pasión es escribir, por lo que todo aquello que ve es material sensible para transformarse en un pequeño relato o en un guion. Sueña con cubrir los Oscars in situ.