Máquinas socráticas

Una lengua conservada en piedra nos recuerda que toda tecnología de la comunicación determina qué puede ser recordado. Fotografía cortesía del autor.

Un día, a principios de la década de 2010, estaba con un amigo en la universidad cuando me encontré con lo que más tarde llegaría a considerar una máquina de «memes». Él recorría una página web llena de chistes y fragmentos de comentarios sobre las noticias. Un contenido seguía a otro, sin fin. Apenas se detenía: un vistazo, una leve sonrisa y enseguida pasaba al siguiente. La escena me fascinaba e inquietaba. ¿Cómo podía alguien asimilar tantos fragmentos inconexos de distintas fuentes con tanta rapidez? ¿Dónde quedaba el tiempo para preguntarse quién los había creado, qué significaban o cómo se relacionaban entre sí? Mi propio impulso era detenerme ante cada contenido, convertirlo en una pregunta e invitar a otros a conversar. Su atención parecía seguir otro ritmo mientras avanzaba por un torrente digital diseñado para no terminar nunca. La información había sido comprimida de forma agresiva y despojada de contexto, hasta quedar reducida a fragmentos que pedían reconocimiento y reacción en lugar de una reflexión sostenida. Desde fuera, sin embargo, yo no podía saber qué estaba experimentando. Tal vez él se divertía o simplemente buscaba descansar tras un día difícil. Lo que me perturbaba no era que disfrutase de aquella página, sino la posibilidad de que dos personas pudieran estar sentadas juntas y, al mismo tiempo, cada vez menos disponibles una por la otra.

La intensidad de mi reacción me desconcertó. Parte de ella procedía de las historias con las que había crecido. Mis abuelos se encontraron en bandos opuestos durante guerras civiles y mundiales. Sufrieron prisión, internamiento, trabajos forzados y la amenaza de muerte. No extraje de sus vidas una lección sencilla sobre la resistencia. La escena cotidiana que tenía delante era completamente distinta de sus experiencias, tanto en escala como en sufrimiento. No cabía una comparación directa. Aun así, sus experiencias me habían dejado una pregunta: ¿qué hábitos de atención permiten que los demás sigan siendo personas reales para nosotros? ¿Cómo seguimos siendo responsables los unos ante los otros cuando los sistemas que nos rodean fomentan la distancia? Al observar a mi amigo, aquella pregunta heredada se hizo de nuevo presente. La corriente digital hacía brevemente visible a cada persona y cada acontecimiento, para sustituirlos de inmediato. Lo que me asustaba no era la máquina en sí, sino una forma de atención en la que las personas y los acontecimientos eran sustituidos antes de que tuviéramos tiempo de comprenderlos, responder ante ellos o dejar que nos importaran. La historia que había heredado de mis abuelos hacía que esta forma de distancia tuviera para mí un peso moral: cuando las personas quedan reducidas a abstracciones, resulta más fácil permanecer indiferente ante lo que les sucede.

Lo que me asustaba no era la máquina en sí, sino una forma de atención en la que las personas y los acontecimientos eran sustituidos antes de que tuviéramos tiempo de comprenderlos, responder ante ellos o dejar que nos importaran.

En su mejor versión, la tecnología digital nos ayuda a cooperar. Nos permite mantener relaciones a distancia, organizar comunidades, compartir conocimiento y encontrar un apoyo que de otro modo podría quedar fuera de nuestro alcance. Sin embargo, aquella sucesión interminable de contenidos que había presenciado acabaría convirtiéndose en la base de un poderoso modelo de negocio. Han proliferado aplicaciones y páginas web construidas en torno al «scrolling» infinito, los contenidos personalizados y recompensas semejantes a las de los juegos de apuestas, todas ellas diseñadas para que continuar resulte más atractivo que detenerse. Veo a personas de todas las edades absortas en la luz cegadora de pantallas que muestran interfaces lúdicas y modelos de belleza irreales, a menudo aisladas de quienes las rodean mediante auriculares. Sin embargo, no puedo saber qué están experimentando. Tal vez buscan compañía, distracción o simplemente un momento a solas. También observo, furtivamente, a la persona que habla desde la pantalla. ¿Se siente segura o insegura, alegre o exhausta? ¿Qué parte de una vida puede transmitirse mediante un vídeo breve, un texto y un «hashtag»? Estas plataformas no crearon nuestro deseo de pertenecer al grupo; aprendieron a retener nuestra atención a través de él. En Dopamine Nation, la psiquiatra Anna Lembke describe una forma de «pornografía de la revelación» en la que exponer la intimidad se convierte en una fuente de gratificación, en lugar de «un momento de humanidad compartida». A medida que los sistemas de recomendación se hacen más complejos, puede que ni siquiera sus diseñadores anticipen por completo qué contenidos recomendarán. Sin embargo, aquello que se pide maximizar a estos sistemas sigue siendo una elección humana.

En una época de hiperespecialización, todos contribuimos al sistema, pero la responsabilidad sobre el conjunto parece no pertenecer a nadie. Imágenes, sonidos y demandas de atención nos alcanzan a una escala desconocida para generaciones anteriores, mientras el trabajo que hay detrás se divide en tareas cada vez más estrechas. Mantener a todos ocupados en su propio rincón deja poco espacio para el contexto, la conversación o la responsabilidad. Algunas de las mentes más brillantes de mi generación han trabajado en el diseño de productos que capturan nuestra atención y convierten nuestras emociones en beneficio económico. Como alguien que ha trabajado en tecnología, no puedo hablar de ello como si fuese el fracaso de otros. También formo parte de este sistema. Sin embargo, condenar es demasiado fácil. La mayoría de las personas intenta alimentar y dar cobijo a su familia, y solo ve la pequeña pieza que se le ha pedido construir. Esto no nos absuelve, pero explica cómo personas decentes pueden contribuir a sistemas de los que nadie se siente plenamente responsable. La responsabilidad es compartida, pero no está distribuida por igual: quienes fijan los incentivos y controlan los sistemas tienen mayor poder para cambiarlos. No siempre comprendimos lo que estábamos creando y algunos diseñadores lamentaron más tarde las consecuencias de su trabajo. Pero el arrepentimiento solamente importa si transforma lo que construimos después.

Más tarde, al leer Modernity and the Holocaust, encontré un nombre para parte de esta inquietud. El sociólogo Zygmunt Bauman describió la «producción social de la distancia»: la manera en que las organizaciones complejas pueden separar a las personas de las consecuencias morales de sus actos, sustituyendo la responsabilidad directa por procedimientos, funciones especializadas y decisiones técnicas. Su análisis histórico no debería reducirse a una comparación directa con la tecnología digital. Lo que sigue siendo relevante es el mecanismo que identificó. Cuando otra persona desaparece detrás de una tarea, una métrica o una pantalla, resulta más fácil olvidar quién carga con las consecuencias de lo que hacemos.

Cuando otra persona desaparece detrás de una tarea, una métrica o una pantalla, resulta más fácil olvidar quién carga con las consecuencias de lo que hacemos.

La distancia no es únicamente una condición moral, pues también afecta a nuestra salud. En un informe de 2023, el médico Vivek Murthy, entonces director general de Salud Pública de Estados Unidos, describió la soledad y el aislamiento social como una crisis de salud pública. En aquel momento, aproximadamente uno de cada dos adultos estadounidenses declaraba sentirse solo. La falta de conexión social también se asocia a un mayor riesgo de cardiopatías, ictus, ansiedad, depresión y muerte prematura. La tecnología no es la única causa de esta crisis y, a menudo, ayuda a las personas a mantenerse conectadas. Sin embargo, los productos diseñados para retener nuestra atención pueden profundizar el aislamiento que prometen aliviar. Detrás de las métricas abstractas de interacción hay jóvenes que también pueden enfrentarse al uso compulsivo de internet, el acoso, la explotación y la soledad, con consecuencias que alcanzan a sus familias, sus centros educativos y unos sistemas sanitarios ya sometidos a una gran presión. Como desarrollo herramientas utilizadas por profesionales sanitarios que tratan a niños, esto me resulta especialmente doloroso. En Hope for Cynics, el psicólogo Jamil Zaki resume la paradoja: «Cuando necesitamos sentirnos parte de una comunidad, se nos empuja de nuevo hacia el mercado, que acaba alejándonos aún más unos de otros».

¿Cómo podríamos, entonces, reducir la distancia entre nosotros? No rechazando la tecnología, sino recuperando los hábitos a los que debería servir: la presencia, la atención y el diálogo. Estar presente es algo más que apartar un dispositivo. Es ponerse a disposición de otra persona y permitir que sus palabras y circunstancias nos interpelen. La filósofa Simone Weil entendía la atención como una de las formas más puras de generosidad, porque nos pide dejar a un lado, por un momento, nuestro propio yo.

La respuesta no puede descansar únicamente en la fuerza de voluntad individual. El trabajador social Agustín Bonifacio nos recuerda que no deberíamos esperar que ningún niño, ni ningún adulto, afronte circunstancias difíciles utilizando solamente sus recursos personales. Las familias, los educadores, los profesionales sanitarios, las empresas tecnológicas y las instituciones públicas comparten la responsabilidad de crear condiciones en las que las personas puedan pedir ayuda y ser recibidas con cuidado. Una idea conocida en las comunidades de recuperación sostiene que lo opuesto a la adicción no es simplemente la abstinencia, sino la conexión. Las tecnologías que merece la pena construir deberían fortalecer esas relaciones, en lugar de dejar que las personas carguen solas con esa responsabilidad.

El diálogo socrático da a esta práctica de la atención una forma concreta: la disposición a decir «no lo sé». Considera la ignorancia no como un fracaso, sino como el comienzo de la indagación. Sus preguntas no se formulan para derrotar a otra persona, extraer información o producir una respuesta inmediata. Crean un espacio donde ambos participantes pueden examinar sus suposiciones y revisar su pensamiento. En Open Socrates, la filósofa Agnes Callard desarrolla esta concepción del pensamiento como una indagación compartida, en la que otra persona puede poner en cuestión las respuestas que ya nos hemos dado. Esto exige moderación y proporción, sentido del momento y contención, paciencia y discernimiento, cualidades contrarias a la velocidad y la reacción constante. De niño imaginaba que la vida adulta dependería sobre todo del conocimiento, la información y la capacidad. Todavía no entendía que algunas de sus prácticas más difíciles serían prestar atención, mantener la concentración y cuidar de uno mismo y de los demás.

Pensar comienza con la voluntad de cuestionar aquello que creemos saber. Fotografía de Andy Bodemer.

La creciente capacidad de los sistemas de inteligencia artificial (IA) para trabajar con lenguaje, imágenes y código no plantea un problema enteramente nuevo. Durante décadas, la digitalización prometió ahorrar tiempo, pero vino acompañada por capas cada vez mayores de administración, informes, supervisión y coordinación. El antropólogo David Graeber utilizó la expresión deliberadamente provocadora que da título a Bullshit Jobs para describir formas de empleo cuya utilidad incluso quienes las desempeñaban tenían dificultades para justificar. Su crítica no se dirigía contra estos trabajadores, cuya necesidad de ingresos y seguridad seguía siendo real, sino contra una economía capaz de inventar tareas sin fin mientras el trabajo esencial en los cuidados, la salud, la educación y el mantenimiento permanecía infravalorado, y muchas necesidades básicas seguían sin cubrirse. En Feeding the Machine, el sociólogo James Muldoon, el geógrafo económico Mark Graham y el investigador laboral Callum Cant muestran que incluso las tecnologías presentadas como autónomas dependen de un trabajo humano amplio y a menudo oculto. Estos sistemas tampoco son inmateriales: desarrollarlos y hacerlos funcionar requiere cantidades considerables de energía, agua, minerales e infraestructura física. Estos costes humanos y ecológicos pueden desaparecer tras la aparente sencillez de la interfaz. Un acceso más amplio es importante, pero el acceso por sí solo no distribuye el poder, que también reside en fijar los objetivos e incentivos de una tecnología y en controlar la infraestructura que permite ofrecerla. La cuestión más profunda es si el progreso técnico acelerará la producción o creará mayor seguridad compartida y más tiempo para aquello que sostiene una vida en común.

Para mí, esta pregunta es personal. Cuando dejé de dedicar tanto tiempo a la programación rutinaria de «software», sentí que podía volver a levantar la cabeza y mirar el cielo y las estrellas. Más importante aún, empecé a reparar en las personas cuyas necesidades había pasado por alto sin darme cuenta mientras estaba absorto en mi trabajo. Esto no hizo que programar perdiera su sentido, ni fue una máquina la que me enseñó a cuidar de los demás. La tecnología me devolvió parte de mi tiempo. La manera de emplearlo siguió siendo una elección moral. Recibo mensajes de profesionales sanitarios que utilizan programas que desarrollé para atender a sus pacientes. Esos mensajes me recuerdan lo que la tecnología puede hacer posible cuando está al servicio de las personas. En la atención sanitaria, la IA debería reducir las tareas tediosas que rodean al cuidado sin desplazar la relación humana que lo sostiene. El mismo principio puede guiarnos en otros ámbitos: las máquinas deberían asumir tareas cuando hacerlo permita a las personas prestar mayor atención las unas a las otras.

En un mundo de respuestas cada vez más abundantes, no deberíamos competir con las máquinas ni en velocidad ni en volumen. Es crucial que preservemos nuestra capacidad de juicio: cuestionar las premisas, tolerar la incertidumbre, considerar las consecuencias y decidir qué merece nuestro tiempo y esfuerzo. Por eso las humanidades siguen siendo esenciales. La literatura, la historia, la filosofía y las artes no se limitan a ofrecernos más información. Muestran cómo las ideas toman forma dentro de vidas, conflictos e instituciones. Nos ayudan a decidir adónde ir, en lugar de enseñarnos únicamente cómo llegar más rápido. Las humanidades también cultivan la capacidad de dar testimonio: reconocer a otra persona como algo más que un problema que resolver, un patrón que identificar o una fuente de datos. Esto no es simplemente otra forma de procesar información, sino una relación en la que otra vida puede respondernos, ofrecernos resistencia y alterar nuestro juicio.

En un mundo de respuestas cada vez más abundantes, no deberíamos competir con las máquinas ni en velocidad ni en volumen. Es crucial que preservemos nuestra capacidad de juicio: cuestionar las premisas, tolerar la incertidumbre, considerar las consecuencias y decidir qué merece nuestro tiempo y esfuerzo.

Esto también exige evitar una visión de la tecnología en blanco y negro. Usar una tecnología de forma compulsiva y negarse por completo a utilizarla no son el mismo problema, pero ninguna de estas respuestas debería impedirnos preguntarnos cuándo una herramienta resulta útil y cuándo conviene dejarla a un lado. En términos aristotélicos, el término medio adecuado no es un punto aritmético entre dos extremos, sino la respuesta apropiada a un propósito y unas circunstancias concretas. Encontrar esa medida exige preguntarnos: ¿para quién es esta herramienta? ¿Qué capacidades humanas fortalece? ¿Qué relaciones puede desplazar? ¿Nos hace más capaces de actuar libremente o más dependientes de ella? El juicio comienza cuando rechazamos tanto la inevitabilidad como el pánico.

La socióloga Sherry Turkle escribe que «la conversación es algo que podemos olvidar, pero también algo que podemos recordar. Podemos volver los unos a los otros y a nosotros mismos». Esa tarea se ha vuelto más difícil a medida que las máquinas han aprendido a imitar la propia conversación. Las primeras tecnologías digitales interrumpían a menudo el intercambio humano. Las más recientes pueden incluso ofrecerse a sustituirlo. Las máquinas pueden imitar el lenguaje del cuidado, pero no pueden ser vulnerables, verse transformadas por el intercambio ni asumir la responsabilidad de sus consecuencias. Una respuesta fluida, por convincente que resulte, no es lo mismo que una relación humana.

Una máquina no es socrática solo porque formule preguntas. Merece ese nombre únicamente si devuelve el juicio al usuario y sabe cuándo retirarse. Ayudaría a los usuarios a examinar cómo se formaron sus objetivos, a quién afectan y si merece la pena perseguirlos. También haría visibles las fuentes, las limitaciones y los intereses que dan forma a sus respuestas, se resistiría a la adulación y preservaría la responsabilidad del usuario sobre su propio juicio. El mismo criterio debería aplicarse a las instituciones que crean estos sistemas. En Nexus, el historiador Yuval Noah Harari sostiene que una red de información sabia no es la que nunca se equivoca, sino la que es capaz de reconocer y corregir sus errores. Nuestras tecnologías reflejan los propósitos, los incentivos y las instituciones que orientan su creación. Su dirección actual no es inevitable. Podemos seguir diseñando sistemas que capturen la atención y oculten sus límites, o construir otros que devuelvan la atención, expongan la incertidumbre y dejen más espacio para el juicio humano. La máquina no debería convertirse en la conversación. Debería ayudar a que la conversación vuelva a ser posible.

Pienso de nuevo en mi amigo y en aquel torrente de información que parecía no terminar nunca. No puedo saber qué encontraba allí, pero sí debo preguntarme si, al preocuparme por su falta de atención, fui yo quien terminó por desatenderlo. La cuestión, por tanto, no es solo cómo podría haberse diseñado el sistema de otra manera, sino también cómo podríamos haber seguido presentes el uno para el otro dentro de él. Un sistema diferente podría haber introducido una pausa, planteado una pregunta y después haberse retirado, no simplemente para poner fin a la interacción, sino para devolvernos al encuentro que ya tenía lugar junto a la pantalla. Sin embargo, ningún sistema, por bien diseñado que esté, puede obligarnos a prestarnos atención. Esa responsabilidad sigue siendo nuestra. Lo más inteligente que puede hacer una máquina quizá sea recordarnos que la persona que está a nuestro lado sigue ahí.

Sin embargo, ningún sistema, por bien diseñado que esté, puede obligarnos a prestarnos atención. Esa responsabilidad sigue siendo nuestra. Lo más inteligente que puede hacer una máquina quizá sea recordarnos que la persona que está a nuestro lado sigue ahí.

Referencias

• Bauman, Zygmunt. Modernity and the Holocaust. Cornell University Press, 1989.
• Bonifacio, Agustín. El plan B: Qué podemos hacer para ayudar a los jóvenes a superar su desesperanza vital. Libros Cúpula, 2025.
• Callard, Agnes. Open Socrates: The Case for a Philosophical Life. W. W. Norton & Company, 2025.
• Castro Rey, Ignacio. Antropofobia: Inteligencia artificial y crueldad calculada. Pre-Textos, 2024.
• Graeber, David. Bullshit Jobs: A Theory. Simon & Schuster, 2018.
• Harari, Yuval Noah. Nexus: A Brief History of Information Networks from the Stone Age to AI. Random House, 2024.
• Lembke, Anna. Dopamine Nation: Finding Balance in the Age of Indulgence. Dutton, 2021.
• Muldoon, James, Mark Graham y Callum Cant. Feeding the Machine: The Hidden Human Labour Powering AI. Canongate, 2024.
• Oficina del Director General de Salud Pública de Estados Unidos. Our Epidemic of Loneliness and Isolation: The U.S. Surgeon General’s Advisory on the Healing Effects of Social Connection and Community. Departamento de Salud y Servicios Humanos de Estados Unidos, 2023.
• Turkle, Sherry. Reclaiming Conversation: The Power of Talk in a Digital Age. Edición del décimo aniversario, Penguin Books, 2025.
• Programa de las Naciones Unidas para el Medio Ambiente. Artificial Intelligence (AI) End-to-End: The Environmental Impact of the Full AI Lifecycle Needs to Be Comprehensively Assessed. 2024.
• Weil, Simone. Carta a Joë Bousquet, 13 de abril de 1942. Citada en Simone Pétrement, Simone Weil: A Life. Traducción del francés de Raymond Rosenthal. Pantheon Books, 1976.
• Zafra, Remedios. El informe: Trabajo intelectual y tristeza burocrática. Anagrama, 2024.
• Zaki, Jamil. Hope for Cynics: The Surprising Science of Human Goodness. Grand Central Publishing, 2024.