“Si solo los hombres desarrollan IA, serán modelos sesgados”

Estoy con Emilia Gómez (Sevilla, 1975) en el Centro Común de Investigación conocido como JRC. Tiene seis oficinas en Europa, yo estoy en Sevilla. Alguno 400 investigadores dan consejos científicos a la UE en diferentes áreas. Emilia Gómez examina el impacto económico y social de inteligencia artificial.

[Esta inteligencia artificial ha logrado la mayor tasa de éxito para detectar el cáncer de mama]

Emilia Gómez no está interesada en trabajar para las grandes empresas tecnológicas. Tiene vocación de servicio público: “Somos una fuente interna de asesoramiento a la Comisión, independiente de la academia y la industria. Llamada telefónica apoyo independienteporque no tenemos otro interés que el de ayudar”.

Fue ingeniera de “Teleco” en la Universidad de Sevilla único médico de su año Informática en la Universidad Pompeu Fabra. era mucho la primera mujer presidenta de ISMIR (International Society for Music Information Retrieval), la sociedad más relevante en el campo de la recuperación de información musical. Y fue una de las 45 mujeres seleccionadas por la UE como referente de mujeres jóvenes en 2020.

PREGUNTA: ¿Qué es la IA (Inteligencia Artificial)?

RESPUESTA: Es un conjunto de tecnologías o herramientas que intentan imitar la inteligencia humana. AI es un sistema, una computadora o, de manera abstracta, un algoritmo que imita tareas específicas. No todo lo que está automatizado es IA. Por ejemplo, no creo que un interruptor de aire acondicionado que se enciende a cierta temperatura sea inteligente.

¿Qué margen de error y de acierto tiene la IA?

El margen de error no se puede saber con certeza, depende de la situación. La IA para tareas altamente controladas y definidas puede tener una tasa de error muy baja. Tome el reconocimiento de voz, por ejemplo: si la voz es clara, tiene una buena pronunciación y se graba en un entorno controlado, no tiene una gran tasa de error. Pero lo puedes tener en un ambiente ruidoso y con una persona que no pronuncia bien.

Emilia Gómez, una de las 45 mujeres de referencia para mujeres jóvenes según la UE.

Emilia Gómez, una de las 45 mujeres de referencia para mujeres jóvenes según la UE.

Lideras el proyecto JRC HUMAINT, ¿en qué consiste?

HUMAINT significa “Inteligencia de máquina humana”. Coordino un equipo de investigadores en diferentes campos: economía, ingeniería y psicología cognitiva. Estudiamos el impacto de la IA en el comportamiento humano, la toma de decisiones y el desarrollo cognitivo y socioemocional.

Estamos tratando de desarrollar una metodología para evaluar estos sistemas con el fin de aprovechar las oportunidades y minimizar los riesgos. Etiquetamos sistemas “Confiables” o “IA confiables” cuyos riesgos han sido analizados e intentado mitigar a través de una serie de pruebas o procedimientos.

¿Cuáles son los principales riesgos?

Uno del que se ha hablado mucho es el riesgo de sesgo o discriminación. Si entrenas y pruebas un sistema en un contexto determinado, por ejemplo en Sevilla con voces andaluzas, entonces cuando lo pones en funcionamiento en un contexto diferente, por ejemplo en Chile, todavía tiene errores.

See also  La Nación / ¿Quién gana?, la incómoda pregunta de Gold-Biss

Sé que este sistema “discrimina” por no entender el acento chileno, pero es una falla de diseño. No se consideró el contexto en el que se pretendía utilizar.

Si este sistema se usa en algunos contextos que la UE identifica como de alto riesgo, como el acceso a un trabajo, podría generar un problema de derechos fundamentales debido a la discriminación. Otro riesgo es que la gente confíe demasiado en un sistema y no cuestione las recomendaciones de la máquina.

Cómo seguir direcciones a ciegas en Google Maps…

Sí, aunque haya un muro, camino como me dice que camine por ese camino. Esto se llama exceso de confianza y se considera exceso de confianza.

¿Cómo se minimiza?

Se debe informar a quienes vayan a utilizar el sistema que éste puede fallar en determinadas ocasiones.

Los algoritmos de IA se basan en los datos accedidos verdad básica. Según se seleccionen unas fechas u otras, ya hay sesgos.

Por supuesto. Estoy colaborando con un estudiante de doctorado de la Universidad Pompeu Fabra que trabaja con las emociones y la música. Nombrar las emociones es muy subjetivo. ¿los tomas? verdad básica y me preguntas si esta canción es alegre o triste, el sistema aprende de mi opinión. Decimos que no existe verdad básica. Los modelos deben ser creados por consenso o personalizados. Por eso la psicología es tan importante en la IA, porque estamos tratando de comprender la inteligencia humana para complementarla con algoritmos.

Y lo que no está incluido en el verdad básica o en los algoritmos, no existe? Por ejemplo, ¿los idiomas que no están integrados en el sistema son como si ya no existieran?

Cuando se trata de idiomas, es muy claro. Hay muchas tecnologías y bases de datos hechas para inglés. En España, la ENIA (Estrategia Nacional para la Inteligencia Artificial) tiene el plan de impulsar las tecnologías del lenguaje para fomentar que el español tenga una fuerte presencia en la IA.

¿Qué posibilidades tiene la IA?

Mucho más que riesgos. Son tecnologías que nos permiten dar soporte a las personas, optimizar recursos, automatizar muchos procesos repetitivos… En educación, en medicina… nos permiten mejorar y personalizar los tratamientos. La IA puede ayudar en todas las áreas. Es como Internet, estas son tecnologías que están etiquetadas como de “propósito general”.

Más que puestos de trabajo, las tareas están siendo reemplazadas. Por ejemplo, el radiólogo no se reemplaza, pero el radiólogo debe aprender a usar la herramienta radiológica.

¿Cuáles son los retos?

El desafío es evaluar bien estos sistemas. A veces se pusieron en el mercado sin regulación. Por eso la UE ha propuesto una ley de IA. Esto se está negociando actualmente con los colegisladores, el Consejo y el Parlamento. La propuesta se basa en los riesgos. No es necesario regular la IA en todos los casos, solo en contextos de alto riesgo. Son como los juguetes, hay un sello europeo que dice: Este juguete es seguro.

See also  Los secretarios de Estado de Agricultura y Ciencia se unen para impulsar la innovación

¿Qué trabajos reemplazará la IA?

En un estudio que realizamos en colaboración con la Universidad Politécnica de Valencia, vimos que algo más que puestos de trabajo sustituirá a las tareas. Por ejemplo, no reemplazará al radiólogo, pero el radiólogo debe aprender a usar la herramienta radiológica. La Unión Europea considera que las habilidades digitales, incluida la IA, son esenciales.

El paso de lo analógico a lo digital es tan enorme que hay personas mayores y no tan mayores que se están perdiendo.

Sí, hay muchas preocupaciones de que los humanos puedan adaptarse a este tipo de tecnologías. Por eso, los planes de competencia digital no son solo para niños, sino para todos. No debe haber diferencia de edad o género.

¿Serán capaces los robots de IA de conquistar la Tierra?

Eso depende de la gente. Surge un miedo a este tipo de tecnología, y otras cosas hacen más daño…

¿Qué es la “Inteligencia General Artificial”?

Como te dije antes, la IA se enfoca en tareas específicas. La IA general puede hacer muchos trabajos como un ser humano. Si nos preocupamos por esto, no veremos los problemas que tenemos ahora con estas tecnologías. Por ejemplo, cómo se utilizan las redes sociales. Su impacto es enorme.

En Europa tenemos dos proyectos normativos muy importantes, la Ley de IA y la Ley de Servicios Digitales, dirigidos a las redes y plataformas sociales. Uno de los objetivos es que las empresas actúen con responsabilidad y analicen los riesgos de los productos que ponen en el mercado.

Otro proyecto que lideras es el AI Watch

Pertenece a la misma entidad que HUMAINT, pero AI Watch examina más que los riesgos, las oportunidades y el ecosistema de la IA en Europa: el impacto económico, las inversiones de los países europeos en IA, cómo han afectado al ecosistema, cuántas empresas las utilizan creado, cuántas patentes, cuántos artículos se publicaron…

¿Y cómo le va a España en el campo de la IA?

La estrategia española está muy bien ligada a la europea. Todos los países tenían que participar en un plan coordinado. Parte del fondo de recuperación se dedicó a la transición digital y ecológica. La ENIA tiene una parte de competencias digitales y otra de generar proyectos impulsores o relevantes. Además, el gobierno ha elaborado una Declaración de Derechos Digitales.

No hubo ensayos durante el Covid, hemos desarrollado una app que te permite ensayar en casa. Podrías ver las notas, usar IA para sintetizar la voz de tu cuerda, escucharla y escuchar otras cuerdas también.

También ha colaborado en muchos proyectos musicales. ¿Cantas en un coro?

Sí, y como no hubo ensayos durante el Covid hemos desarrollado una app que te permite ensayar en casa. Podrías ver las notas, usar IA para sintetizar la voz de tu cuerda, escucharla y escuchar otras cuerdas también.

See also  La ciencia, los valores, el deporte y la música centran el programa de campamentos de verano del Ayuntamiento de Bilbao

En el grupo de tecnología musical de la Pompeu Fabra, donde soy profesor invitado, hemos hecho un proyecto muy bonito, Banda Sonora Vital, en colaboración con la Fundación Pasqual Maragall. Es un sistema de recomendación musical para personas con Alzheimer. Este es un contexto de musicoterapia contextualizada, pero en la música hay muchas posibilidades con la tecnología.

¿Por ejemplo?

Ahora, en el mismo grupo, hemos iniciado un proyecto sobre el impacto que tendrá la IA en la producción musical y los músicos. Me preguntaste sobre los efectos en el trabajo, porque también es relevante en el campo de la música. Hay muchos músicos que llevan muchos años trabajando con ordenadores. Ahora estas tecnologías pueden sugerirte acordes o melodías en el estilo que quieras. Hay una competencia similar a Eurovisión con canciones compuestas por IA.

¿Podrías distinguir una canción compuesta por IA de una compuesta por un humano?

no Dado que las voces se procesan tanto a veces, tampoco son naturales.

En 2020, una de las 45 mujeres de referencia para mujeres jóvenes fue seleccionada por la UE. Sin embargo, hay pocas mujeres que estén interesadas en la ingeniería.

Sí, esto tiene dos problemas. Los prejuicios que tienen las mujeres y los hombres están en los sistemas, ya sea en los datos o en los algoritmos. Por ejemplo en el sector de los videojuegos, como hay más hombres, diseñan más juegos que les gustan. Si solo los hombres desarrollan los sistemas de IA, estarán sesgados. La discriminación puede ser involuntaria. No desarrollarán la visión, las aplicaciones que queremos…

Y luego hay otro problema, el de la igualdad económica. Hay muchas oportunidades en estas carreras, muchas oportunidades de crecimiento y poder, pero somos pocas mujeres. En segundo de ESO, cuando fui a un colegio a dar clases de ingeniería, me encontré con que allí no había ni una sola chica.

Es una nueva era. La transformación digital implica una forma diferente de relacionarse con las cosas, con la vida.

Creo que la IA ya no es solo algo técnico. Continúa Debemos fomentar carreras interdisciplinarias. Cabe aclarar que estudiar ingeniería también tiene un fin social. La educación y la regulación son esenciales. Tenemos que vivir con esta tecnología y tenemos que asumir la responsabilidad.

Leave a Comment