lunes, 27 de noviembre de 2023

Ni inteligencia, ni artificial

 

[He publicado esta entrada el 27.11.2023 en el Blog de Inteligencia Emocional de Eitb-desaparecido el 01.07.2024]

El pasado 26 de octubre Deusto Forum organizó una sugerente sesión, con el título “Los retos éticos ante la Inteligencia Artificial”, que contó con la Dra. Gemma Galdon Clavell, directora ejecutiva de Eticas Research & Consulting (consultoría especializada en auditoría de algoritmos), como ponente, y el Dr. Pedro M. Sasia, responsable de transferencia del Centro de Ética Aplicada de la Universidad de Deusto, como moderador. Paso a compartir las principales ideas de la sesión.

El acto comenzó con unas palabras del Rector, Juan José Etxeberria Sagastume S.J. que sirvieron para contextualizar el evento: “En estos tiempos, es difícil pensar en un espacio social, una institución o incluso una persona para quien los efectos de la irrupción de lo que ya todos denominamos coloquialmente Inteligencia Artificial no sean relevantes. Privacidad, libertad, igualdad, consentimiento, algoritmos, datos… la ética y la técnica se miran de frente una vez más, como lo han venido haciendo a lo largo de toda la historia de la Humanidad, pero en esta ocasión con diferentes e importantes matices que surgen de la profundidad, velocidad, alcance y contenidos de este fenómeno. Empresas, gobiernos, sociedad civil… todos experimentamos cada vez con más claridad esta realidad, y las Universidades no somos, ni mucho menos, una excepción” (para leer texto íntegro, Universidad de Deusto, 2023a)

Es muy interesante la trayectoria de Gemma. De formación es Doctora en Historia. Lleva 15 años dirigiendo equipos técnicos. Su bagaje y conocimientos aportan valor a la hora de buscar soluciones a posibles riesgos. Hacen auditorías a quienes desarrollan los algoritmos (auditorías internas) y también trabajan con la sociedad civil (auditoría inversa). Su trabajo es explorar posibilidades para desarrollar una Inteligencia Artificial (IA) responsable, “construir los cinturones de seguridad de la IA”. Durante siglos hemos sabido proteger a la humanidad de la innovación. Por eso es importante entender bien cómo funciona.

El nombre de Inteligencia Artificial lleva a confusión social. No es ni lo uno ni lo otro. La idea que siempre hay que tener presente es que para la IA la ‘normalidad’ es muy importante. La IA recoge grandes bases de datos y los procesa buscando ‘patrones de normalidad’ que intenta reproducir. Pensemos qué hay detrás de un GPS. Se procesan datos del pasado, qué ruta han elegido la mayoría de personas y recomienda ese. Entiende que el trayecto óptimo es el más transitado. Algo similar ocurre con las recomendaciones que nos hacen empresas como Netflix empresas como Netflix o semejantes tras analizar lo que han visto después las personas que han estado viendo la misma película o serie que nosotras/os y nos hacen una sugerencia. La IA está entrenada para dejar fuera a quienes han hecho algo diferente. La buena noticia es que la IA se puede entrenar, se pueden añadir normas a la lógica que utiliza; se pueden cambiar los patrones de diseño de los algoritmos.

¿Por qué es importante tener en cuenta la ética?

Los algoritmos trabajan con información privada, lo que a veces se desprecia, o no se tiene suficientemente en cuenta desde ámbitos técnicos.

Los resultados de la IA se reintroducen en el sistema, con lo cual se eliminan las formas/opciones diferentes (outsiders), se reproducen los sesgos. En el ámbito del entretenimiento no es grave que me recomienden algo que no me gusta, lo dejo de ver y ya está. Sin embargo, hay ámbitos de alto riesgo. Pensemos, por ejemplo, en nuestra relación con los bancos. Todas las personas tenemos asignado un riesgo a nuestro perfil. Las mujeres tienen entre 10 y 20 veces menos servicios bancarios, con lo que disminuyen sus posibilidades de acceder a créditos, por ejemplo. Otro ejemplo muy evidente es la selección de CVs (hace tiempo que el primer filtro lo hace la IA) que se realiza atendiendo a la información de quienes están trabajando y tienen un buen desempeño. En una auditoría de algoritmo en una empresa de EE.UU. vieron que el algoritmo privilegiaba a quienes jugaban Lacrosse, eran de una determinada zona o habían ido a universidades muy concretas. “¿Serían esos los criterios con los que elegiríamos a una nueva incorporación para la empresa?

Es peligroso tomar decisiones sobre temas complejos en función de un algoritmo. [Hizo alusión al libro Armas de destrucción matemática de Cathy O’Neil, en el que se cuentan muchos casos]. Puso como ejemplo la auditoría que hicieron en un hospital sobre el triaje en emergencias. Vieron que las decisiones se estaban tomando con base en los datos financieros (según el coste del tratamiento) y no médicos (gravedad de la persona atendida). Cómo entrenamos el algoritmo determina qué problema estamos solucionando. Muchas veces se reproducen discriminaciones no deseadas. Si nuestro algoritmo contiene errores tomará peores decisiones que sin IA. Existen, según su experiencia y lo que han detectado, hasta 15 momentos de error (al introducir datos, al introducir variables, etc.). Si los errores se trasladan a ámbitos sensibles es una tragedia.

Un espacio de preocupación es incorporar a los outsiders (quienes están fuera del radar, de la ‘normalidad’). Gemma explicó que ella misma lo es. Su madre la tuvo con 14 años. Sus abuelos eran refugiados de la Guerra Civil. Si un algoritmo le hubiera asignado riesgo nadie habría creído en ella, no se le habría permitido “jugar”. Algo parecido le pasó a Rafa Nadal hace dos años en la Copa América. Las casas de apuestas le daban un 4% de probabilidad de éxito, pero ganó.

Los retos de la IA no son problemas técnicos con soluciones técnicas. Los retos del presente y del futuro son sociotécnicos, las experiencias humanas son muy complejas.

Me gustaría terminar con unas palabras de Noam Chomsky, Ian Roberts y Jeffrey Watumull [el resaltado es mío] (Chomsky et al., 2023):

“Aquí, el ChatGPT demuestra algo parecido a la banalidad del mal: plagio, apatía y omisión. Resume los argumentos estándar de la materia mediante una especie de superautocompletado, se niega a tomar partido en nada, alega no solo ignorancia sino falta de inteligencia y, en última instancia, ofrece una defensa de “solo cumplía órdenes”, trasladando la responsabilidad a sus creadores.

En resumen, el ChatGPT y sus hermanos son constitutivamente incapaces de equilibrar la creatividad con la responsabilidad. O bien sobredimensionan (produciendo tanto verdades como falsedades, respaldando decisiones éticas y no éticas por igual) o bien minimizan (al mostrar falta de compromiso con cualquier decisión e indiferencia ante las consecuencias). Dada la amoralidad, falsa ciencia e incompetencia lingüística de estos sistemas, solo podemos reír o llorar ante su popularidad”.

Nota – Están disponibles los siguientes vídeos:

  • Conferencia íntegra y espacio de preguntas (pinchar aquí)
  • Entrevista realizada por Peru Sasia. Reflexiones sobre la innovación tecnológica y la urgencia de desarrollar un sistema regulatorio y de prácticas responsables de las empresas (pinchar aquí)
  • Entrevista a Gemma Galdon Clavell realizada por Lorena Fernández Álvarez, Directora de Comunicación Digital de la Universidad de Deusto. Reflexiones sobre el impacto social de los sistemas algorítmicos, la reproducción de los sesgos de la sociedad en los procesos de la Inteligencia Artificial (pinchar aquí)

Referencias

en No hay comentarios:

jueves, 23 de noviembre de 2023

El Poder de la escucha

 


[He publicado esta entrada el 23.11.2023 en el Blog de Inteligencia Emocional de Eitb-desaparecido el 01.07.2024]

A principios de noviembre asistí a un taller que me cautivó por el título, "El Poder de la escucha". Además, conocía al ponente, Eugenio Ibarzabal, y eso también lo hacía atractivo. Mis expectativas fueron superadas. Compartiré aquí las principales ideas.

Hoy en día la comunicación se considera una herramienta instrumental básica. Esta herramienta implica aprender a escuchar, aprender a hablar y aprender a escribir. La escucha es un previo sin el cual difícilmente se pueden desarrollar las demás. Existen muchos cursos de oratoria, hablar bien se considera importante. Escuchar se ve como algo de segundo nivel… Y es fundamental.

Las enseñanzas impartidas por Eugenio parten de su propia vida y experiencia: “Escuchar me ha cambiado la vida”, reconociendo que a veces es una ‘pelmada’ y que también es necesario protegerse. El punto de partida del taller fue una invitación a echar la vista atrás y recordar cuándo me he sentido escuchado, escuchada; en quién pienso si tengo que compartir algún tema importante… Seguramente será una persona callada, que sonríe, que no aconseja… Otra premisa importante: nos hablaba para que cada persona asistente mejorara su escucha, lo que no quiere decir que la demás personas te vayan a escuchar a ti. Lo que tenemos que tener siempre presente, y tenemos que hacérselo notar, es que la protagonista, la importante, es la otra persona.

¿Por dónde empiezo? (especialmente si es a alguien o un tema difícil). Hay que empezar por elegir bien el lugar. Lo mejor es salir del escenario habitual, del lugar en el que transcurre nuestra relación. Es importante conocer el espacio en el que nos vamos a encontrar. Hay que tener en cuenta que tenemos que contar con el tiempo suficiente (dos grandes dificultades para la escucha son la falta de tiempo y el ego, sobre esto volveremos). ¿Cómo convoco a la persona? Lo mejor es que la otra persona ‘colabore’ en la convocatoria, que sea una convocatoria ‘conjunta’. “¿Podríamos hablar en algún momento?” es muy diferente de “Tú y yo tenemos que hablar”. Otras frases podrían ser: “Tenemos un tema, me gustaría saber qué piensas”, “Me interesas, me interesa saber lo que piensas”.  Eugenio compartió una imagen muy potente para él: do personas en un coche, mirando la carretera, sin prisa… parece que tienen el mismo objetivo. Hay que intentar no dar mucha solemnidad a la cita, que forme parte de una normalidad, así se rebajan el miedo y la tensión.

¿Cómo me preparo? La mejor forma es visualizando el encuentro. Es una técnica muy utilizada por deportistas de élite. Me vino a la mente una entrevista fantástica a Enhamed Enhamed, un medallista paraolímpico, que utiliza esta técnica.  Podemos visualizar la conversación, cómo me siento, cómo permanezco en silencio, etc. De esta forma se viven las dificultades anticipadamente. Lo peor que nos puede pasar es tener miedo al miedo. “¡Vívelo, pruébate sin riesgo!”, nos decía Eugenio. Personalmente es una técnica que utilizo y recomiendo. Recuerdo especialmente el día anterior a la defensa de mi tesis doctoral en la que repasé la presentación y ‘viví’ por anticipado el evento… ¡Una experiencia muy recomendable!

¿Cómo empiezo el proceso de escucha? Conviene no ir directamente al grano, empezar por una pregunta general. Un tema relativamente amable es preguntar por la familia. No te has metido en el tema, pero sí en la otra persona. Lo único que pretendes es generar confianza, o superar la desconfianza inicial. A la otra persona le tiene que quedar claro que no le vas a hacer daño y que te interesa. Funciona bien mimetizarse, acompasarse, con la otra persona. Si se mueve un poco, yo también. Si cambia de posición, yo también. [Mensaje: estoy pendiente de lo que me dices, me acomodo]. Tema de la respiración: Puedes llevar una reunión según cómo respires. Se puede conseguir que dos personas respiren acompasadamente. En un momento dado una pregunta que da buenos resultados es: “¿Y tú qué tal estás?”. Seguramente se dará un silencio, levantará a mirada, la dirigirá a la izquierda, puede que resuma alguna información que te ha dado antes. Con esto lo que se trata es de borrar esquemas previos. A lo largo del proceso es importante repetir, contrastar, confirmar, pero no discutir.  [Mensaje: Lo que estás contando me interesa y quiero entenderlo bien; disculpamos los errores, pero no que se aprovechen los malentendidos]. Vamos invirtiendo en confianza, se trata de crear un entorno seguro [Mensaje: tranquilo/tranquila, nadie te va a hacer daño]; es mucho más que guardar confidencialidad. Puede que la persona repita varias veces la misma idea (normalmente si la persona está abrumada o preocupada se puede liar, entremezclar cosas, etc.). Quien escucha puede ayudar a desbrozar, lo que puede ser un gran apoyo. Tú tes vas aclarando y a la otra persona le puede dar luz.

¿Qué pasa con el ego? [Ya hemos dicho que es uno de los enemigos de la escucha]. Va a haber ocasiones en las que el ego te va a estallar, vas a querer intervenir, puedes tener la tentación de interrumpir (y no para contrastar o confirmar). Cada uno tiene que desarrollar su propio mecanismo para no intervenir. Eugenio se dice a sí mismo, a modo de jaculatoria: “¡Cállate!”. Hay quien se agarra a la silla, o aprieta los pies… La escucha no va de dar soluciones. Una muestra de una buena escucha es que se generan silencios.

¿Y si la otra persona nos pide opinión? Darla a partir de los datos, los valore y las palabras de la otra persona. Puedes darte tiempo para responder [si dices que le vas a dar una opinión se la tienes que dar]. Pueden ayudar frases como: “No sé qué decirte. Lo único que se me ocurre es lo que no haría [y dices qué]”, “Me llama la atención… [y utilizas sus palabras]”. Como estás fuera de la situación tienes otra perspectiva y puedes ayudar a la persona a dar importancia a cosas que no veía. 

La importancia de hacer buenas preguntas. “Todos tenemos un límite de intimidad que no queremos sobrepasar. Hay un fondo que no queremos desvelar, un fondo que, sin embargo, explica buena parte del origen del problema y, en ocasiones, también cómo podríamos encaminarnos hacia una posible solución. Si en ese momento haces a quien está escuchando esa pregunta bien formulada y clave, la persona que ha llevado el proceso conforme hemos señalado, inevitablemente, lo quiera o no, dará el paso y contestará, desvelando lo que no tenía, hasta ese momento, la menor intención de desvelar. Ésa es, al menos, mi experiencia” (Ibarzabal, 2022: 162).

NOTA- Estas enseñanzas se pueden utilizar para lo bueno y para lo malo. Aquí se ofrecen como pautas para escuchar mejor, para comprender a la otra persona, para romper preconceptos.

Os invito a conocer al marido de la inglesa que vivía en la casa del danés (Gestion2000Editorial, 2022)…

“Porque escuchar nos da la posibilidad de abrirnos, de olvidarnos de nosotros mismos, de empezar nuevas vidas, de conocer otros parajes, otras profesiones, otras historias, otros platos de cocina, atrapar realidades en lugar de vientos, aprovechar todo eso que tenemos delante y que ha estado a punto de pasar ante nosotros sin que disfrutemos de ello.

Es vida que se nos ofrece para que la vivamos. Basta con pararse y escuchar.

Y puede ocurrir a cada momento” (Ibarzabal, 2022: 186).

 

Referencias

  • Aranzazu Echaniz Barrondo (2019, 5 noviembre). Extracto Visualización Enhamed Enhamed [archivo de vídeo] https://www.youtube.com/watch?v=kxV1Kdq5X3s
  • Gestion2000Editorial (2022, 11 mayo). El marido de la inglesa que vivía en casa del danés - Eugenio Ibarzabal [archivo de vídeo]. https://www.youtube.com/watch?v=9IXWn3RjlSA
  • Ibarzabal, Eugenio (2022). El marido de la inglesa que vivía en la casa del danés. Una historia sobre el poder de la escucha. Barcelona: Gestión 2000.


en No hay comentarios:

domingo, 5 de noviembre de 2023

Algo se muere en el alma…

 

Hoy siento con desgarro la letra de la canción: “Algo se muere en el alma cuando una amiga se va…”. Hace ya unos días que esperaba el demoledor mensaje que he recibido hoy al despertarme. Se podría decir que me estaba preparando, pero eso no evita el dolor, no impide que se te rompa el corazón…

Hace un año Florina (D.E.P.) estaba recopilando cartas para hacerle un libro. Al volver de Monterrey, donde estuve cinco días en el hospital con ella, respondí a la petición de Florina con estas palabras:


Me ha resultado curioso que muchas de las fotos que acompañaban a la carta, así como el color elegido para el fondo, coinciden con las que he seleccionado hoy para hacer un mensaje de despedida… Creo que es porque tengo grabados muy dentro momentos y experiencias compartidas.

En este último año hemos hecho muchas llamadas y videollamadas. Ahora me parece que tendrían que haber sido muchas más… He visto cómo se aferraba a la vida y a todo lo que le parecía importante, cómo ha hecho lo posible para aprovechar cada momento. En marzo recibió un bonito, y merecido, homenaje como fundadora del Premio Mujer Tec. Afortunadamente pudo disfrutar del momento, ya que muchas veces los reconocimientos llegan demasiado tarde… Yo le pude acompañar en la distancias gracias a internet. Me sentí muy orgullosa…

En las dos últimas semanas el contacto ha sido más intenso. Hemos hecho varias videollamadas y, como me dijeron que reaccionaba bien a los audios, le he grabado una serie de mensajes en los que a través de una canción o un texto quería hacerme presente y recordarle lo mucho que la quería (curioso que no pudiera hablarle sin llorar pero sí cantar o leer). Recojo aquí algunos extractos: 

 Viernes  27 oct

“Te quiero / Lo digo como un lamento / Como un quejido que el viento / Se lleva por donde quiera”. (Como quien pierde una estrella letra, Alejandro Fernández)

  Sábado  28 oct

“Eskerrik asko, Jauna / bihotz bihotzetik / Eskerrik asko, Jauna / orain eta beti”. Traducción: “Gracias Señor / de todo corazón / Gracias Señor / ahora y siempre”. (Eskerrik asko Jauna)

Domingo 29 oct

“Que estoy enamorada / Y tu amor me hace grande / Que estoy enamorada / Y qué bien, qué bien me hace amarte”. (Estoy Enamorada, Thalia y Pedro Capó)

   Lunes   30 oct

“Hegoak ebaki banizkio / nerea izango zen / ez zuen aldegingo. / Bainan, honela / ez zen gehiago txoria izango / eta nik... txoria nuen maite”. Traducción: “Si le hubiera cortado las alas / habría sido mío / no habría escapado. / Pero así / habría dejado de ser pájaro / Y yo... lo que amaba era un pájaro”. (Txoria, txori, Mikel Laboa)

  Martes  31 oct

“Aurtxo polita seaskan dago / zapi zuritan txit bero (bis). / Amonak dio, ene potxolo / arren egin ba, lo, lo (bis)”. Traducción: Mi niño precioso está en la cuna / muy calentito, entre sábanas blancas (bis). / La abuela le susurra: mi pocholo / Duerme, cariño mío, duérmete (bis). (Aurtxo seaskan, canción de cuna tradicional vasca)

Miércoles 1 nov

Nota - Me he tomado unas licencias. “Eso que tú me das / No creo lo tenga merecido / Todo lo que me das / Te estaré siempre agradecida / Así que gracias por estar / Por tu amistad y tu compañía / Eres lo, lo mejor que me ha dado la vida / (…) / Con todo lo que recibí / Ahora sé que no estoy sola / Ahora te tengo a ti / Amiga mía, mi tesora” (Eso que tú me das, Jarabe de Palo)

   Jueves    2 nov

“Bendito el lugar, y el motivo de estar ahí / Bendita la coincidencia / Bendito el reloj, que nos puso puntual ahí / Bendita sea tu presencia / Bendito Dios por encontrarnos, en el camino / Y de quitarme esta soledad, de mi destino / Bendita la luz, bendita la luz de tu mirada / Bendita la luz, bendita la luz de tu mirada / Desde el alma” (Bendita tu luz, Maná).

  Viernes   3 nov

“Hoy me siento como un árbol
que se supiera mujer:
Ya no quebradiza rama
sino rotunda intuición,
y la sólida certeza
de saber dónde es que estoy” (Plenitud, Gioconda Belli)

  Sábado    4 nov

 “El amor no posee, y no se deja poseer: Porque el amor se basta a sí mismo” (Sobre el amor, en El profeta, Khalil Gibran)

 Más que escribir estas palabras las he llorado… Ahora necesito ir hacia dentro, llorar todo un río y resurgir con una bonita cicatriz (la que deja tanta vida compartida). Te echo de menos amigochix… ¡Hasta que volvamos a encontrarnos!


Referencias

en 6 comentarios: