De los oráculos antiguos a la inteligencia artificial
Heródoto cuenta la historia de Creso, rey de Lidia. Antes de atacar a los persas, consultó al oráculo de Delfos. La respuesta parecía favorable: si cruzaba el río Halis, destruiría un gran imperio. Creso cruzó el río. Y un gran imperio cayó, en efecto, pero fue el suyo. La anécdota encierra una lección incómoda. Las profecías rara vez describen el futuro. Más bien empujan a actuar a quien las escucha. Y el dueño de la profecía domina, en buena medida, las decisiones ajenas. Veinticinco siglos después, los oráculos han cambiado de forma. Ya no habitan en los templos. Habitan en los servidores.
Carissa Véliz y el poder de las predicciones
Carissa Véliz, profesora en el Instituto de Ética en la Inteligencia Artificial y miembro de Hertford College en la Universidad de Oxford, conoce bien a esos oráculos. Su libro Privacidad es poder la convirtió en una referencia de la ética digital. Ahora presenta en España Profecía. Lecciones sobre el uso y abuso de la predicción, desde los antiguos oráculos hasta la IA, publicado por Debate. Su tesis central es tan sencilla como demoledora. Una predicción no es un hecho. Es una conjetura y, a menudo, una maniobra de poder. Los algoritmos hoy ocupan el lugar de los oráculos, los astrólogos y los adivinos. Su función política, por tanto, apenas ha cambiado, sostiene Véliz.
Privacidad, vigilancia y libertad
El punto de partida está en su obra anterior. La privacidad, defiende Véliz, no es un lujo ni una preocupación menor. Es una condición irrenunciable de la libertad personal, de la autonomía ciudadana y de la democracia. Acumular datos, no obstante, equivale a acumular poder. En manos de las empresas, ese poder multiplica el riesgo de manipulación; en manos de los gobiernos, el de autoritarismo. Y persigue un objetivo muy preciso. No le basta con conocernos. Quiere anticipar nuestras decisiones. Y, cuando puede, influir en ellas. La economía digital, advierte, descansa sobre una lógica de vigilancia. Su producto estrella es la predicción.
El peligro de las profecías autocumplidas
Aquí, en consecuencia, es donde aparece el gran peligro. Los algoritmos no describen el futuro sin más, sino que contribuyen a moldearlo. Convierten probabilidades en destinos y generan profecías autocumplidas. Véliz, por eso, recurre a Karl Popper, su filósofo de referencia en este terreno. Cuando predecimos el comportamiento humano, influimos en él. El observador deja de ser imparcial. Y eso ya no es ciencia. De ahí una de sus ideas más inquietantes. Una mayor precisión en la predicción del comportamiento humano no revela un avance científico. Revela un avance autoritario. La manera más segura de saber dónde estará alguien mañana es encarcelarlo hoy.
Predicciones algorítmicas y decisiones injustas
Esa lógica hoy en día ya decide asuntos muy concretos. La concesión de un crédito, el acceso a un empleo o la evaluación de riesgos dependen cada vez más de predicciones algorítmicas. El problema que surge con ello, explica Véliz, es triple. Las predicciones no admiten la verificación propia de un hecho, porque son una predicción sobre la que se toma una decisión sin haber contrastado antes su validez. Las predicciones, además, dificultan la rendición de cuentas. ¿Cómo recurrir una conjetura? Y, por último, cierran oportunidades con dinámicas de exclusión difíciles de cuestionar. Un algoritmo puede negar un préstamo por lo que una persona quizá haga, no por lo que hizo. Además, más datos no garantizan mejores resultados. La IA, por el contarrio, puede incluso aumentar los riesgos en lugar de reducirlos, advierte.
Los nuevos profetas de Silicon Valley
Véliz detecta también un fenómeno casi religioso en torno a la IA. Los magnates tecnológicos actúan como los adivinos de la corte. Marcan la agenda del futuro con predicciones interesadas. Silicon Valley, dice, cada vez recuerda más a una secta, con sus líderes venerados, su liturgia y su fe en una superinteligencia salvadora o destructora. Los profetas siempre han cultivado el miedo. Cuanto mayor es el temor, mayor es el deseo de alguien capaz de anunciar el porvenir. Así, los creadores de la IA presentan su propio producto como una amenaza existencial. Y la gente, asustada, les concede más poder, pero olvida un detalle primordial: ellos son los constructores de ese futuro.
Redes sociales, polarización y autonomía
Las redes sociales ofrecen el ejemplo más visible de este modelo. Véliz recuerda su diseño original. Nunca buscaron fortalecer el debate público ni la convivencia cívica. Lo que buscaban era captar la atención y recopilar datos. Por esta razón, ese modelo de negocio premia la polarización y los contenidos de alta carga emocional. Y el resultado es que fragmenta el espacio público y debilita los relatos compartidos, base de la cooperación social y de la confianza entre ciudadanos. Los jóvenes son quienes sufren las peores consecuencias. La vigilancia constante, la comparación social y la dependencia de la validación ajena alimentan su ansiedad y erosionan su autonomía. Sin privacidad, recuerda Véliz, no hay espacio para el desarrollo personal.
La lectura como resistencia digital
Frente a ello, Véliz propone una resistencia sencilla, casi doméstica: leer un libro en papel. No hay notificaciones en sus páginas. Nadie vigila al lector. Cada lectura supone una conversación larga y sofisticada entre dos seres humanos. Pule la atención, alimenta el pensamiento crítico y abre la puerta a las experiencias ajenas. La filósofa amplía la receta al mundo analógico: cuidar a la gente próxima a uno, el bar favorito, el cine del barrio. Parecen gestos menores. No lo son. La cultura, insiste, pesa mucho más de lo que creemos. Y los libros siguen como nuestra mejor herramienta para transmitir experiencias y argumentos complejos.
Una inteligencia artificial al servicio de las personas
Véliz, sin embargo, no rechaza la inteligencia artificial en bloque. En realidad, distingue dos usos muy distintos de la IA. Uno de ellos busca comprender fenómenos físicos o naturales, como en la investigación biomédica o el descubrimiento de nuevos materiales. Ese uso encaja en procesos científicos rigurosos. El otro clasifica, vigila o predice el comportamiento humano y, en consecuencia, condiciona las decisiones y las oportunidades de las personas. Este uso exige, por tanto, una cautela ética especial. En este mismo ámbito, tampoco acepta el falso dilema entre ética e innovación. La historia del automóvil lo desmiente. Las exigencias de seguridad, pese a la resistencia de los fabricantes, trajeron cinturones, airbags y nuevos materiales. La ética, lejos de frenar la tecnología, la impulsa.
Democracia y soberanía digital
El trasfondo de todo este asunto es político. Véliz rechaza la tendencia a presentar el desarrollo tecnológico como un proceso inevitable. Por eso, reclama que exista un control democrático, transparencia en las decisiones automatizadas y protección de la autonomía ciudadana. A su juicio, la pregunta decisiva es muy simple: ¿amplían estas tecnologías nuestra capacidad para dirigir nuestras vidas? ¿O la reducen y transfieren el poder a actores públicos y privados cada vez más opacos? Europa, añade, necesita además soberanía digital. No puede depender de empresas capaces de bloquear servicios esenciales en cualquier momento. Ahí ve también una oportunidad: crear productos al servicio de la democracia, no de su erosión.
La incertidumbre como condición de la libertad
La conclusión de Véliz desemboca en una paradoja luminosa. La incertidumbre no es un defecto pendiente de corrección. Es una condición de la libertad. Como, en realidad, nadie conoce el futuro, queda espacio para la creatividad, la responsabilidad y la acción colectiva. Una sociedad libre, concluye, no necesita más predicciones. Necesita una mejor preparación. Creso nunca aprendió esa lección. Confió en el oráculo y cruzó el río seguro de su victoria. Su error no fue la falta de información. Fue la fe ciega en una profecía. Los oráculos de hoy hablan el lenguaje de los datos. Pero el futuro, recuerda Véliz, sigue sin estar escrito.
