martes, 9 de diciembre de 2025

Desafíos éticos de la IA

 Del 26 al 28 de noviembre, tuvo lugar en la Universidad de Deusto el Congreso Ahotsak. El papel de las ciencias sociales y humanas ante los retos del presente, organizado por la Facultad de Ciencias Sociales y Humanas. Como señala la Decana, Ane Ferran, “un congreso donde queremos reivindicar nuestras voces: voces que explican la realidad, que contribuyen colaborativamente a la transformación y la justicia social” (ver el programa aquí).

Voy a recoger aquí algunas de las ideas que salieron en la mesa: “Resituando (y gobernando) el entusiasmo: desafíos éticos de la irrupción de la IA”. Tuvo como ponentes a:  María López — Dra. en Derechos Humanos—, Borja Sanz —Dr. en Sistemas de Información—, Ruth Carbajo — Dra. en Ingeniería, Energía y Tecnologías de la Información— y Laura Marrón —Directora de Basque Artificial Intelligence Center (BAIC)—. Y como moderador, Peru Sasia —Dr. en Química Macromolecular—.

El punto de partida fue que si hiciéramos un análisis ético profundo no asumiríamos que la IA es inevitable y, mucho menos, ingobernable. Antes de hablar de los efectos conviene plantearse la pertinencia del uso y desarrollo de la IA. En primer lugar se presentaron algunos de los principales desafíos éticos de la irrupción de la IA:

  • Debemos reflexionar no sólo sobre lo que podemos hacer, sino sobre lo que debemos hacer. La implantación de las innovaciones no siempre asume los retos de la cohesión social, la democratización, etc.
  • Actualmente vivimos en un tecnofeudalismo —véase Robledo (2024)—, un capitalismo gobernado por un pequeño grupo de hombres —no hay mujeres CEO de las grandes empresas tecnológicas— que controla tanto el dinero como los datos, lo que provoca una profunda desigualdad social que amenaza la democracia. Además, se está dando una pérdida de relevancia de los marcos normativos. Los nuevos señores feudales necesitan que los marcos normativos les opriman lo menos posible.
  • ¿Cómo se pueden diseñar algoritmos justos si no hay fórmulas a aplicar? Los tecnólogos se encuentran con sistemas complejos, muy complejos, de difícil explicabilidad —no se sabe cómo funcionan y por qué lo hacen así—. Un caso sugerente es Anthropic, empresa dedicada a la seguridad y la investigación en inteligencia artificial, que pretende crear sistemas de IA fiables, interpretables y controlables y que publican los fallos que encuentran en sus sistemas.·  

Vistos los desafíos, el siguiente paso fue plantear los tratamientos, las medidas, a aplicar:

  • Auditar los algoritmos puede ayudar a identificar problemas, aunque esta medida sea a posteriori y su alcance no sea general. Es muy importante la pregunta por la trazabilidad del dato. La base de conocimiento de la IA es todo internet. [Esta intervención me recordó la charla que dio Gema Galdón hace dos años en Deusto Forum, ver entrada].
  • Poner a las personas en el centro. Corremos el peligro de acabar pareciéndonos a las máquinas, en lugar de al revés.
  • Mapear cómo y para qué se usa la IA y así valorar el nivel de riesgo. Y a partir de ahí hacer planes de capacitación, entendiendo que no sólo se trata de saber usarla, sino de conocer qué datos uso, de quién son, y preguntarse si se pueden compartir.
  • A las universidades nos corresponden algunas tareas fundamentales como: desarrollar un posicionamiento crítico respecto de la IA, encontrar un idioma común desde la interdisciplinariedad, una reflexión profunda sobre la innovación y cómo esta debe revertir a la sociedad (democratización del sistema de innovación).
  • No se puede dar un paso atrás en el ámbito normativo. Hay que asegurar un marco normativo fuerte que proteja los derechos de todas las personas.
  • Hay que generar consensos y transversalizar la perspectiva ética: qué entendemos por sostenibilidad, por explicabilidad, incluir el concepto de rendición de cuentas. 

·       Para terminar la mesa cada participante eligió una palabra o concepto. Suscribo todos ellos: potencial de la colaboración, perplejidad, responsabilidad compartida y militancia. No se puede ser un ciudadano, una ciudadana, responsable sin preguntarse y posicionarse ante los retos éticos de la IA. Y como dice el proverbio africano: "Si quieres ir rápido, ve solo; si quieres llegar lejos, ve acompañado".

Referencias




Publicado por en No hay comentarios:
Etiquetas: ,

martes, 2 de diciembre de 2025

Experiencias cercanas a la muerte

 

El pasado 27 de noviembre, Lori Thompson, Doctora en Psicología y especialista en cuidados paliativos —ver aquí su perfil—, impartió la Clase magistral “Experiencias cercanas a la muerte”, organizada por la Fundación Pía Aguirreche en la Universidad de Deusto.

He de reconocer que el tema de la charla me resultaba especialmente interesante. Siendo adolescente cayó en mis manos el libro Vida después de la vida, de Raymond A. Moody, Jr. Creo que ahí comenzó mi interés por la tanatología, el duelo, los cuidados paliativos y otros temas afines. Lo que podría parecer un gusto macabro, no ha hecho más que conectarme con la vida y animarme a vivir con consciencia todas sus etapas. Esta charla me aportó nuevos argumentos.

En la presentación de la ponente el Dr. Jacinto Bátiz —reconocido paliativista— señaló que el tema de la conferencia conecta con la necesidad de una continuidad, el deseo de que la vida no termine.

Lori Thompson inició su conferencia aludiendo a que no podemos hacer afirmaciones categóricas bajo la ilusión de que la ciencia tiene todas las respuestas —más bien está permanente descubriendo—. Suscribo que al tema de la charla hay que acercarse con apertura de mente.

Como indicó Lori, una Experiencia Cercana a la Muerte (ECM), según Moody, es: “cualquier experiencia perceptual consciente que tenga lugar en una situación cercana a la muerte”. Actualmente hay quienes prefieren hablar de Experiencia recordada de la muerte —Recalled Experience of Death (RED) — entendida como: “Una experiencia cognitiva y emocional específica que ocurre durante un periodo de pérdida de conocimiento en relación con un evento que amenaza la vida, incluido el paro cardíaco”.  

Las ECM ocurren en situaciones muy diversas: parada cardíaca, electrocución, cirugía cardíaca, coma, fiebre, accidentes de tráfico, trabajo de parto, asfixia, ahogamiento, hipoglucemia, etc.

Moody hace una lista con algunos de los factores comunes de las ECM: inefabilidad —dificultad para expresar lo vivido con palabras—, escuchar frases como: “ha muerto”, una sensación de paz como nunca antes se había sentido, determinados ruidos o sonidos, encontrarse en un túnel o espacio oscuro, visión del propio cuerpo desde fuera, encuentros con seres no físicos ­—personas conocidas ya fallecidas, seres religiosos, personas desconocidas, etc. —, revisión de la vida —atemporalidad, toda la vida puede pasar en muy poco tiempo—, revisitar experiencias desde la posición de otra persona —sin juicio, como aprendizaje—, llegar a una frontera —una especie de punto de no retorno cuya simbología puede cambiar según las culturas—, decidir volver o que otra persona les anime a hacerlo, pérdida del miedo a la muerte, contar con detalle cosas que sucedieron mientras no se era consciente, recibir comentarios negativos al contar la experiencia, sentir la experiencia como “más real que la realidad”, etc.

Ninguna ECM es completa, en el sentido de que no cuenta con todos los elementos mencionados. Hay un porcentaje pequeño de personas, en tono a un 4-5%, que hablan de la experiencia como negativa. Lori se preguntaba si las expectativas o el miedo interferirían en la experiencia, o incluso si no sería una señal de una necesidad de aprendizaje. Tampoco parece que las experiencias en los niños y niñas difieran mucho, salvando su capacidad de expresarlas —suele suceder que los niños y niñas que las han vivido maduran mucho tras la experiencia—. No se han encontrado correlaciones con la clase social, el sexo, el nivel de estudios, la profesión, el lugar de nacimiento, las convicciones religiosas, la salud mental, o el estado civil.

Lori contó cómo en los años 80s tuvo la suerte de conocer la experiencia, mientras era soldado en la Segunda Guerra Mundial, de Gordon Gatch, quien durante muchos años no se lo contó a nadie aparte de a su mujer [en el vídeo a partir de 49:15].  Gordon en un primer momento pensó: “¿Me habré muerto? ¿Qué tengo que hacer ahora?”. Después de relatar varios de los mencionados elementos dice que pensó en su mujer —estaba recién casado— y se dijo: “Tengo que vivir. ¿Qué tengo que hacer? Tendré que respirar…”. Gordon expresaba que después de la experiencia seguía siendo agnóstico, pero que se le había quitado el miedo.

Cabría preguntarse si las ECM se dan sólo en Occidente y si son un fenómeno nuevo. En La República de Platón se narra el mito de Er, un guerrero que muere en batalla pero regresa a la vida para contar su experiencia en el más allá. En la cultura tibetana existen los “delogs”, a quienes se les considera personas sabias y portadoras de mensajes para otras personas.

Las ECM se quedan muy grabadas en quienes las han experimentado. De hecho, el relato de las mismas apenas varía con el tiempo. La mayoría de las personas expresan haber sufrido un cambio radical en sus vidas, afirman haberse vuelto más espirituales (que no religiosos o religiosas), señalan que han crecido en empatía y han conectado con su propósito en la vida. Algo que llamó mucho la atención fue que Lori explicó que las investigaciones señalan que quienes han tenido estas experiencias asociadas a un intento de suicidio, normalmente no vuelven a intentarlo —a pesar de ser una experiencia gratificante—.

En el turno de preguntas hubo una, a mi modo de ver, especialmente relevante formulada por Enric Benito que tenía que ver con la recepción por parte de los profesionales de la salud de estas experiencias. Lori respondió que era muy importante acoger bien estos relatos, algo en lo que todavía hay mucho que mejorar. Relacionado con esto contó una anécdota de un foro en el que un médico que estaba en el público replicó de forma contundente que a él nunca le habían narrado algo así. Otra persona respondió: “Yo he sido paciente suyo y nunca se lo contaría”. ¡Qué importante… mantener la mente abierta, escuchar sin prejuicios y acoger incluso lo que nos supera! ¡Cuánto nos queda por entender qué es la consciencia!

Referencias



Publicado por en No hay comentarios:
Etiquetas: , ,
Suscribirse a: Comentarios (Atom)