¿Quién piensa cuando piensa una máquina?

En la novela Frankenstein de Mary Shelley, publicada en 1818, un científico crea vida y se horroriza ante su creación y lo abandona. Este monstruo no tiene una madre, solo un padre. Lo que biológicamente parecía imposible, ahora empieza a tomar forma con la IA y con empresas lideradas por hombres que han creado vida sintética, aunque todavía muy simples, en placas de cultivo. Jeanette Winterson señala, en su colección de ensayos 12 bytes, que los logros de la ciencia y la tecnología siempre parten desde la ficción: “no todo lo que se puede imaginar se puede realizar, pero nada se puede realizar si no se ha imaginado”.

La inteligencia artificial suele presentarse como una tecnología nueva, casi como si hubiera aparecido de pronto con ChatGPT. Pero la pregunta por las máquinas capaces de pensar es mucho más antigua. Décadas antes de los grandes modelos de lenguaje, ya existía la fantasía —y también el temor— de construir máquinas que pudieran imitar aquello que consideramos propiamente humano: aprender, razonar, crear, escribir.

La expresión “inteligencia artificial” nació oficialmente en 1956, durante el Dartmouth Summer Research Project on Artificial Intelligence, organizado por John McCarthy y otros investigadores. La propuesta era explorar si cada aspecto del aprendizaje o de la inteligencia podía ser descrito con suficiente precisión como para que una máquina pudiera simularlo. Desde entonces, la historia de la IA ha avanzado entre períodos de entusiasmo y decepción, conocidos como inviernos de la IA, hasta llegar al momento actual, marcado por modelos capaces de generar textos, imágenes, música y código a una escala inédita.

La cuestión deja de ser únicamente si las máquinas pueden pensar. También importa qué entendemos por pensamiento cuando una máquina aprende a partir de todo lo que hemos producido. 

Porque los sistemas actuales no aparecieron de la nada. Es una inteligencia construida con nuestros rastros. Para entrenarlos se necesitan cantidades gigantescas de información: libros, artículos, imágenes, páginas web, conversaciones, fotografías, obras de arte y todo aquello que ha podido convertirse en datos. Y aquí justamente aparece una de las paradojas, porque mientras más inteligente queremos que parezca, más necesita alimentarse de aquello que los seres humanos ya produjimos. 

Esto se vuelve especialmente inquietante con la noticia que nos plagó en los últimos meses desde Estados Unidos, donde empresas vinculadas al desarrollo de IA han buscado libros usados, descatalogados o de difícil acceso para incorporarlos a grandes procesos de digitalización y entrenamiento. En algunos casos, los libros son comprados a bajo precio, escaneados y posteriormente destruidos. El ejemplar físico deja de importar una vez que su información ha sido convertida en datos.

Hay algo profundamente simbólico en esa escena, pues tenemos un libro, objeto material que sobrevivió durante décadas, reducido a aquello que una máquina puede extraer de él. Y también una pregunta que debería inquietarnos —más en el mundo de las artes—: ¿qué ocurre con una obra cuando el conocimiento que contiene se transforma en materia prima para una tecnología comercial?

Hablar de inteligencia artificial como si existiera únicamente en una pantalla también oculta su dimensión material. Detrás de una respuesta generada en segundos hay centros de datos, servidores, chips, redes eléctricas, sistemas de refrigeración y enormes cantidades de agua y energía siendo utilizadas al minuto. El desarrollo de modelos cada vez más grandes requiere infraestructura física a una escala que muchas veces desaparece detrás de la palabra “nube”. La IA, entonces, nunca ha sido inmaterial. La llamada “nube” tiene edificios, cables, minerales, trabajadores, y un alto costo ambiental.

Este aspecto resulta particularmente interesante porque el discurso tecnológico suele hablar de la IA como una herramienta destinada a hacer más eficiente nuestro mundo, porque busca optimizar procesos, reducir tiempos, automatizar tareas. Pero una tecnología que necesita cada vez más infraestructura para producir cada vez más contenido también nos obliga a preguntarnos por el límite de esa expansión.

¿Necesitamos realmente generar infinitamente más imágenes, textos y videos? ¿Qué significa llamar “eficiente” a una tecnología que puede ahorrar unos segundos de trabajo mientras aumenta la demanda de recursos materiales a gran escala?

En El imperio de la IA, la periodista e investigadora Karen Hao propone mirar detrás de la fascinación por estas tecnologías. Su trabajo permite desplazar la mirada desde el producto terminado final, el que usamos, hacia las grandes empresas tecnológicas que presentan el sistema y lo hacen posible, a los trabajadores que sostienen los procesos de entrenamiento y moderación, los recursos naturales y las estructuras económicas que concentran el poder.

Porque detrás de cada “máquina inteligente” existe una enorme cantidad de trabajo humano. Personas que etiquetan imágenes. Que clasifican información. Que moderan contenidos violentos. Que corrigen respuestas. Que realizan tareas repetitivas para que el sistema pueda presentarse finalmente como autónomo.

Y esto también modifica nuestra relación con el conocimiento. Si una máquina puede resumir, escribir, traducir, ilustrar, y más, respondiendo en segundos, ¿qué sucede con el tiempo que antes dedicábamos a investigar, leer, conversar o aprender?

Ahí aparece otra dimensión del problema: la IA no solamente automatiza tareas; puede comenzar a automatizar partes de nuestros propios procesos cognitivos. 

La discusión sobre la IA no puede seguir centrándose solo si las respuestas son correctas o te está inventando datos e información. Hay una mucho más importante, que es qué ocurre cuando dejamos de hacer nosotras mismas ciertas operaciones mentales. Porque buscar una información implica aprender dónde encontrarla. Escribir un texto implica ordenar ideas y una lectura detenida. Traducir implica enfrentarse a las diferencias entre dos lenguas y a todo sus contextos. Leer un libro implica sostener durante horas una atención que no está diseñada para producir resultados inmediatos.

La inteligencia artificial puede facilitar muchas de estas tareas. Pero facilitar no siempre significa enriquecer.

           

12 Bytes, de Jeanette Winterson, resulta especialmente sugerente para pensar esta tensión. El libro recorre distintas dimensiones de la inteligencia artificial y se pregunta por las transformaciones que puede producir en nuestra vida, desde el trabajo y el arte hasta nuestra propia idea de humanidad. Winterson se pregunta qué pueden llegar a hacer las máquinas, pero su pregunta de fondo, transversal en todo el libro es qué queremos que hagan y qué lugar queremos seguir ocupando nosotros como humanidad.

El problema no es si las máquinas llegan a ser más inteligentes (que también), quizás sea que nosotros empecemos a delegarles aquello que nos permite desarrollar nuestra propia inteligencia. Y esto nos lleva inevitablemente a preguntarnos sobre el arte.

Durante siglos, las herramientas han transformado la creación artística. La fotografía cambió la pintura; el cine transformó la narración; la edición digital modificó la producción visual. La IA generativa forma parte de esa historia, pero introduce una diferencia importante: no solamente proporciona una herramienta para ejecutar una idea. Puede producir directamente aquello que antes debía imaginar, escribir, dibujar o componer una persona.

En Después del arte IA, Joanna Zylinska propone pensar precisamente qué sucede con el arte cuando la inteligencia artificial se incorpora a los procesos creativos. Más que aceptar la idea de que las máquinas “reemplazarán a los artistas”, su trabajo permite pensar críticamente las relaciones entre tecnología, creatividad, trabajo y economía. Porque incluso cuando una imagen es generada por una IA, la historia no empieza con el prompt.

Empieza mucho antes, en las millones de imágenes que sirvieron para entrenar el modelo, en los artistas cuyos trabajos fueron incorporados a esos conjuntos de datos, en quienes desarrollaron el sistema y en las empresas que poseen la infraestructura. Porque la IA no crea desde la nada, no puede hacerlo. Crea desde un archivo y ese archivo no se crea solo. 

Aquí es cuando volvemos a los libros. Porque hay algo casi circular en la historia, durante siglos acumulamos conocimiento en bibliotecas, archivos y obras que después los digitalizamos para hacerlos accesibles; ahora esas grandes cantidades de información alimentan sistemas capaces de generar nuevos contenidos. El archivo se convierte en combustible.

¿Qué perdemos cuando transformamos algo en mera información? Un libro no es solamente el texto que contiene, ni su mensaje literal. Es también un objeto, una edición, una traducción, una anotación, una portada, una historia de circulación, un estilo y figuras retóricas. Un ejemplar usado puede haber pasado por las manos de varias personas. Puede tener una historia personalizada que incluya una dedicatoria, una fecha, una página doblada, subrayados con lápiz y anotaciones.

Cuando se escanea y se destruye, toda esa dimensión material desaparece.

Quizá por eso resulta tan violenta la imagen de esos libros comprados para ser digitalizados. Representa una de las tensiones centrales de nuestro presente. Queremos que el conocimiento sobreviva para siempre, pero al mismo tiempo estamos desarrollando tecnologías que pueden tratarlo como materia prima desechable.

Y estamos hablando de una tecnología que tampoco es neutral. La inteligencia artificial también reproduce las estructuras del mundo que la alimenta. Esto es especialmente importante cuando hablamos de género.

           

En La nueva era del machismo, Laura Bates analiza cómo las nuevas tecnologías pueden reproducir y amplificar desigualdades que ya existen fuera de ellas. Porque los sistemas no nacen en una sociedad neutral, aprenden de datos producidos dentro de sociedades atravesadas por desigualdades de género, raza, clase y poder. Por eso una máquina puede parecer objetiva y, sin embargo, reproducir sesgos humanos.

No porque tenga prejuicios propios en el sentido humano, sino porque los datos con los que aprende contienen nuestra propia historia. Y querámoslo o no, es una historia con un largo historial de misoginia y violencia contra las mujeres. Y esta tecnología se vuelve una nueva manifestación del mismo problema. La autora lo ejemplifica de muchas maneras, aquí les dejamos un ejemplo: 

Por ejemplo, sabemos que las mujeres tienen 17 veces más probabilidades de sufrir acoso en línea que los hombres. Si analizamos algunas de las tecnologías que se utilizan para facilitar el acoso, vemos que se trata de un problema con un marcado sesgo de género. Por ejemplo, en el caso de la tecnología deepfake, sabemos que el 96% de todos los deepfakes creados son pornografía no consentida, y que el 99% de estos muestran a mujeres.

Cabe preguntarnos si entrenamos una tecnología con el mundo tal como existe, ¿estamos construyendo una herramienta para transformarlo o una máquina capaz de reproducirlo a una velocidad mucho mayor?

El futuro no está escrito. Aquí entra Profecía, de Carissa Véliz, quien nos dice que hablar  de inteligencia artificial es hablar constantemente del futuro, el futuro del trabajo, de la educación, del arte, de la privacidad, de las relaciones humanas. Pero muchas veces ese futuro se presenta como algo inevitable. Como si el desarrollo tecnológico siguiera una única dirección y nuestra única tarea fuera adaptarnos. Pero esto no es así, las decisiones son políticas, económicas y sociales, no están determinadas sólo por la capacidad tecnológica de turno.

Qué datos pueden utilizarse. Quién puede acceder a ellos. Qué derechos tienen las autoras. Cuánta energía estamos dispuestos a destinar a estos sistemas. Qué trabajos queremos automatizar. Qué información consideramos patrimonio. Qué límites ponemos a la extracción de conocimiento. Qué lugar dejamos para el error, la lentitud y la experiencia humana. Estas no son decisiones que una máquina pueda tomar por nosotros.

Entonces, ¿qué hacemos con la inteligencia artificial? Aquí no se trata de estar a favor o en contra de la IA. Esa dicotomía resulta demasiado pequeña para una tecnología que ya está en todos lados, incluyendo el buscador de donde sacamos algunos de estos datos o en el mismo procesador de texto que usamos para escribir este blog.

Las preguntas deben ser mucho más concretas. Sobre qué tipo de inteligencia artificial queremos, quién la controla, a costa de qué recursos se construye y qué queremos preservar fuera de ella.

Podemos utilizarla para determinadas tareas y, al mismo tiempo, exigir transparencia sobre los datos con los que fue entrenada. Podemos reconocer sus posibilidades sin olvidar el trabajo humano que existe detrás. Podemos preguntarnos por sus beneficios sin dejar fuera su impacto ambiental. Podemos experimentar con nuevas formas de creación sin asumir que todo aquello que una máquina puede producir tiene necesariamente que producirse.

Y, por supuesto, podemos seguir leyendo libros.

No como una forma de escapar de la tecnología, sino como una manera de mantener abiertas preguntas que ninguna tecnología debería responder por nosotras.