Dialogue between Carissa Véliz and Vicente J. Montes Gan
Privacy, prophecy and power: from ancient oracles to algorithms
La Fundación Rafael del Pino organizó, el día 17 de junio, el diálogo titulado «Privacy, prophecy and power: from ancient oracles to algorithms» in which the following participated Carissa Véliz y Vicente J. Montes Gan to mark the publication of his latest book, *Prophecy: Lessons on the Use and Abuse of Prediction, from Ancient Oracles to AI*, published by Debate
Carissa Véliz is a lecturer at the Institute for Ethics in Artificial Intelligence and a Fellow of Hertford College at the University of Oxford. She is the recipient of the prestigious Herbert A. Simon 2021 award for outstanding research in computer science and philosophy. His academic work has been published by Nature, Harvard Business Review, and AI & Society, among others. She has published for the Guardian, Wired, and El País. She is the author of the acclaimed book «Privacy is Power: Data, Surveillance and Freedom in the Digital Age» (Debate) and editor of the Oxford Handbook of Digital Ethics. She advises policy makers around the world on privacy and the ethics of artificial intelligence. In Spain, she has been a member of the expert group that advised the Ministry of Economic Affairs and Digital Transformation on the Charter of Digital Rights; she also advised the Ministry of Foreign Affairs on the country's Digital Strategy.
Vicente J. Montes Gan, holds a degree in Economics and Business Administration from the UAM and a PhD from the Faculty of Law of the UCM. He is a member of the Cuerpo Superior de Técnicos Comerciales y Economistas del Estado and of the European Academy of Sciences and Arts of Salzburg. Officer of the Order of Isabel La Católica, Leão de Oro de la República de Angola (AIA), I Premio de Ensayo Casa África and Medalla al mérito de la Guardia Civil con distintivo blanco. He is Director of the Rafael del Pino Foundation, Vice-President of the Spanish Association of Foundations, Patron of the NGO AMREF Salud Africa, Founder and President of Liberdom and member of the Editorial Board of ICE. His previous professional activities include: Vice-President of the Spanish Network of the United Nations Global Compact; President of the Association of TCEE; Chief Economic and Commercial Counsellor at the Spanish Embassies in Angola, Namibia, Congo, D.R. Congo, Sao Tome and Principe and Zambia; Director of Division of ICEX; and Deputy Director General of the Court for the Defence of Competition. He has been Professor of Economic Analysis at the Carlos III University of Madrid and President of the Economic Sciences Section of the Ateneo de Madrid.
Summary:
La Fundación Rafael del Pino acogió el 17 de junio el diálogo «Privacy, prophecy and power: from ancient oracles to algorithms», en el que participaron la filósofa Carissa Véliz, profesora asociada del Instituto para la Ética de la Inteligencia Artificial de la Universidad de Oxford, y Vicente J. Montes Gan, director de la Fundación Rafael del Pino, con motivo de la publicación de Prophecy. Lessons on the use and abuse of prediction, from ancient oracles to AI. (Debate).
La privacidad como condición de la libertad
Durante la conversación, Véliz defendió que la privacidad no constituye un lujo ni una preocupación individual secundaria, sino una condición indispensable para la libertad personal, la autonomía ciudadana y el buen funcionamiento de las democracias. Según explicó, la acumulación masiva de datos personales otorga un poder sin precedentes a quienes los controlan, permitiéndoles anticipar y, en ocasiones, influir en el comportamiento de los individuos.
La predicción como nueva forma de poder
Uno de los principales ejes del encuentro fue la reflexión sobre la predicción como nueva forma de poder. La autora sostuvo que la actual economía digital se apoya en una lógica de vigilancia cuyo objetivo no es únicamente conocer a las personas, sino predecir sus decisiones futuras. En este sentido, alertó sobre el riesgo de que los algoritmos no se limiten a describir el futuro, sino que contribuyan activamente a moldearlo, convirtiendo probabilidades en destinos y generando profecías autocumplidas.
Véliz subrayó que muchas decisiones relevantes para la vida de los ciudadanos —como la concesión de créditos, el acceso a determinados empleos o la evaluación de riesgos— se basan cada vez más en predicciones algorítmicas. A su juicio, esto plantea importantes problemas éticos, ya que las predicciones no son hechos verificables y pueden dificultar la rendición de cuentas, limitar las oportunidades individuales y reforzar dinámicas de exclusión difíciles de cuestionar.
Redes sociales, democracia y espacio público
El diálogo abordó también el impacto de las redes sociales y de las plataformas digitales sobre la calidad de la vida democrática. Véliz argumentó que estas herramientas no fueron diseñadas para fortalecer la deliberación pública ni la convivencia cívica, sino para maximizar la captación de atención y la recopilación de datos. Este modelo de negocio, afirmó, favorece la polarización, la difusión de contenidos emocionalmente intensos y la fragmentación del espacio público, debilitando los relatos compartidos que hacen posible la cooperación social y la confianza entre ciudadanos.
El impacto sobre los jóvenes y la cultura de la atención
La filósofa mostró asimismo su preocupación por los efectos de estas tecnologías sobre los jóvenes. En su opinión, la vigilancia constante, la exposición permanente a la comparación social y la dependencia de la validación externa están contribuyendo al aumento de la ansiedad y a la pérdida de autonomía. Frente a ello, reivindicó la importancia de la privacidad como espacio necesario para el desarrollo personal y defendió el valor de la lectura y de los libros como herramientas privilegiadas para cultivar la atención, el pensamiento crítico y la comprensión de experiencias ajenas.
Inteligencia artificial y responsabilidad ética
En relación con la inteligencia artificial, Véliz distinguió entre las aplicaciones destinadas a comprender fenómenos físicos o naturales —como la investigación biomédica o el descubrimiento de nuevos materiales— y aquellas orientadas a clasificar, vigilar o predecir el comportamiento humano. Mientras que las primeras pueden integrarse en procesos científicos rigurosos, advirtió de que las segundas exigen una especial cautela ética debido a su capacidad para influir sobre las decisiones y oportunidades de las personas.
Tecnología, democracia y derechos humanos
Otro de los aspectos destacados del encuentro fue la reflexión sobre la relación entre tecnología, democracia y derechos humanos. Frente a la tendencia a presentar el desarrollo tecnológico como un proceso inevitable, Véliz defendió la necesidad de reforzar los mecanismos de control democrático, garantizar la transparencia en la toma de decisiones automatizadas y proteger la autonomía de los ciudadanos. A su juicio, la cuestión fundamental es determinar si las nuevas tecnologías amplían la capacidad de las personas para dirigir sus propias vidas o, por el contrario, reducen su margen de decisión y transfieren poder a actores públicos y privados cada vez más opacos.
La incertidumbre como espacio de libertad
Como conclusión, la autora reivindicó una visión crítica pero esperanzadora del futuro. Recordó que la incertidumbre constituye una condición esencial de la libertad humana y sostuvo que la imposibilidad de conocer completamente el futuro abre un espacio para la creatividad, la responsabilidad y la acción colectiva. En este sentido, defendió que la privacidad y la predicción se han convertido en dos cuestiones centrales para comprender los desafíos de nuestro tiempo y para preservar la libertad, la democracia y los derechos humanos en la era digital.
The Rafael del Pino Foundation is not responsible for the comments, opinions or statements made by the people who participate in its activities and which are expressed as a result of their inalienable right to freedom of expression and under their sole responsibility. The contents included in the summary of this conference are the result of the debates held at the meeting held for this purpose at the Foundation and are the responsibility of their authors.
The Rafael del Pino Foundation is not responsible for any comments, opinions or statements made by third parties. In this respect, the FRP is not obliged to monitor the views expressed by such third parties who participate in its activities and which are expressed as a result of their inalienable right to freedom of expression and under their own responsibility. The contents included in the summary of this conference are the result of the discussions that took place during the conference organised for this purpose at the Foundation and are the sole responsibility of its authors.
