Diálogo entre Carissa Véliz y Vicente J. Montes Gan
Privacidad, profecía y poder: de los antiguos oráculos a los algoritmos
La Fundación Rafael del Pino organizó, el día 17 de junio, el diálogo titulado «Privacidad, profecía y poder: de los antiguos oráculos a los algoritmos» en el que participaron Carissa Véliz y Vicente J. Montes Gan con motivo de su última obra «Profecía. Lecciones sobre el uso y abuso de la predicción, desde los antiguos oráculos hasta la IA» editado por Debate
Carissa Véliz es profesora en el Instituto de Ética en la Inteligencia Artificial y miembro de Hertford College en la Universidad de Oxford. Ha recibido el prestigioso premio Herbert A. Simon 2021 a la investigación destacada en informática y filosofía. Su trabajo académico ha sido publicado por Nature, Harvard Business Review, y AI & Society, entre otros. Ha publicado para medios como the Guardian, Wired, y El País. Es autora del aclamado libro «Privacidad es poder: Datos, vigilancia y libertad en la era digital» (Debate) y editora del Oxford Handbook of Digital Ethics. Asesora a responsables políticos de todo el mundo sobre la privacidad y la ética de la inteligencia artificial. En España, ha sido miembro del grupo de expertos que asesoró al Ministerio de Asuntos Económicos y Transformación Digital para la Carta de Derechos Digitales; también asesoró al Ministerio de Asuntos Exteriores en la Estrategia Digital del país.
Vicente J. Montes Gan, es Licenciado en CC. Económicas y Empresariales por la UAM y Doctor por la Facultad de Derecho de la UCM, es miembro del Cuerpo Superior de Técnicos Comerciales y Economistas del Estado y de la Academia Europea de Ciencias y Artes de Salzburgo. Oficial de la Orden de Isabel La Católica, Leão de Oro de la República de Angola (AIA), I Premio de Ensayo Casa África y Medalla al mérito de la Guardia Civil con distintivo blanco. Es Director de la Fundación Rafael del Pino, Vicepresidente de la Asociación Española de Fundaciones, Patrono de la ONG AMREF Salud África, Fundador y Presidente de Liberdom y miembro del Consejo Editorial de ICE. Entre sus actividades profesionales anteriores destacan: Vicepresidente de la Red española del Pacto Mundial de Naciones Unidas; Presidente de la Asociación de TCEE; Consejero Económico y Comercial Jefe en las Embajadas de España en Angola, Namibia, Congo, R.D. del Congo, Santo Tomé y Príncipe y Zambia; Director de División del ICEX; y Subdirector General del Tribunal de Defensa de la Competencia. Ha sido Profesor de Análisis Económico de la Universidad Carlos III de Madrid y Presidente de la Sección de Ciencias Económicas del Ateneo de Madrid.
Resumen:
La Fundación Rafael del Pino acogió el 17 de junio el diálogo «Privacidad, profecía y poder: de los antiguos oráculos a los algoritmos», en el que participaron la filósofa Carissa Véliz, profesora asociada del Instituto para la Ética de la Inteligencia Artificial de la Universidad de Oxford, y Vicente J. Montes Gan, director de la Fundación Rafael del Pino, con motivo de la publicación de Profecía. Lecciones sobre el uso y abuso de la predicción, desde los antiguos oráculos hasta la IA (Debate).
La privacidad como condición de la libertad
Durante la conversación, Véliz defendió que la privacidad no constituye un lujo ni una preocupación individual secundaria, sino una condición indispensable para la libertad personal, la autonomía ciudadana y el buen funcionamiento de las democracias. Según explicó, la acumulación masiva de datos personales otorga un poder sin precedentes a quienes los controlan, permitiéndoles anticipar y, en ocasiones, influir en el comportamiento de los individuos.
La predicción como nueva forma de poder
Uno de los principales ejes del encuentro fue la reflexión sobre la predicción como nueva forma de poder. La autora sostuvo que la actual economía digital se apoya en una lógica de vigilancia cuyo objetivo no es únicamente conocer a las personas, sino predecir sus decisiones futuras. En este sentido, alertó sobre el riesgo de que los algoritmos no se limiten a describir el futuro, sino que contribuyan activamente a moldearlo, convirtiendo probabilidades en destinos y generando profecías autocumplidas.
Véliz subrayó que muchas decisiones relevantes para la vida de los ciudadanos —como la concesión de créditos, el acceso a determinados empleos o la evaluación de riesgos— se basan cada vez más en predicciones algorítmicas. A su juicio, esto plantea importantes problemas éticos, ya que las predicciones no son hechos verificables y pueden dificultar la rendición de cuentas, limitar las oportunidades individuales y reforzar dinámicas de exclusión difíciles de cuestionar.
Redes sociales, democracia y espacio público
El diálogo abordó también el impacto de las redes sociales y de las plataformas digitales sobre la calidad de la vida democrática. Véliz argumentó que estas herramientas no fueron diseñadas para fortalecer la deliberación pública ni la convivencia cívica, sino para maximizar la captación de atención y la recopilación de datos. Este modelo de negocio, afirmó, favorece la polarización, la difusión de contenidos emocionalmente intensos y la fragmentación del espacio público, debilitando los relatos compartidos que hacen posible la cooperación social y la confianza entre ciudadanos.
El impacto sobre los jóvenes y la cultura de la atención
La filósofa mostró asimismo su preocupación por los efectos de estas tecnologías sobre los jóvenes. En su opinión, la vigilancia constante, la exposición permanente a la comparación social y la dependencia de la validación externa están contribuyendo al aumento de la ansiedad y a la pérdida de autonomía. Frente a ello, reivindicó la importancia de la privacidad como espacio necesario para el desarrollo personal y defendió el valor de la lectura y de los libros como herramientas privilegiadas para cultivar la atención, el pensamiento crítico y la comprensión de experiencias ajenas.
Inteligencia artificial y responsabilidad ética
En relación con la inteligencia artificial, Véliz distinguió entre las aplicaciones destinadas a comprender fenómenos físicos o naturales —como la investigación biomédica o el descubrimiento de nuevos materiales— y aquellas orientadas a clasificar, vigilar o predecir el comportamiento humano. Mientras que las primeras pueden integrarse en procesos científicos rigurosos, advirtió de que las segundas exigen una especial cautela ética debido a su capacidad para influir sobre las decisiones y oportunidades de las personas.
Tecnología, democracia y derechos humanos
Otro de los aspectos destacados del encuentro fue la reflexión sobre la relación entre tecnología, democracia y derechos humanos. Frente a la tendencia a presentar el desarrollo tecnológico como un proceso inevitable, Véliz defendió la necesidad de reforzar los mecanismos de control democrático, garantizar la transparencia en la toma de decisiones automatizadas y proteger la autonomía de los ciudadanos. A su juicio, la cuestión fundamental es determinar si las nuevas tecnologías amplían la capacidad de las personas para dirigir sus propias vidas o, por el contrario, reducen su margen de decisión y transfieren poder a actores públicos y privados cada vez más opacos.
La incertidumbre como espacio de libertad
Como conclusión, la autora reivindicó una visión crítica pero esperanzadora del futuro. Recordó que la incertidumbre constituye una condición esencial de la libertad humana y sostuvo que la imposibilidad de conocer completamente el futuro abre un espacio para la creatividad, la responsabilidad y la acción colectiva. En este sentido, defendió que la privacidad y la predicción se han convertido en dos cuestiones centrales para comprender los desafíos de nuestro tiempo y para preservar la libertad, la democracia y los derechos humanos en la era digital.
La Fundación Rafael del Pino no se hace responsable de los comentarios, opiniones o manifestaciones realizados por las personas que participan en sus actividades y que son expresadas como resultado de su derecho inalienable a la libertad de expresión y bajo su entera responsabilidad. Los contenidos incluidos en el resumen de esta conferencia son resultado de los debates mantenidos en el encuentro realizado al efecto en la Fundación y son responsabilidad de sus autores.
The Rafael del Pino Foundation is not responsible for any comments, opinions or statements made by third parties. In this respect, the FRP is not obliged to monitor the views expressed by such third parties who participate in its activities and which are expressed as a result of their inalienable right to freedom of expression and under their own responsibility. The contents included in the summary of this conference are the result of the discussions that took place during the conference organised for this purpose at the Foundation and are the sole responsibility of its authors.
