Tenemos una buena noticia. La edición 2021 de la Beca FunDatos, organizada por Fundar, ya tiene sus ganadores: Camila Di Ielsi, para su investigación titulada “Formación de falsas memorias en hechos delictivos utilizando redes adversarias”; María Agustina Ricci Lara, por su proyecto “Existencia y naturaleza de sesgos en imágenes dermatoscópicas”; Nicolás Abbate, por “Sesgo de datos y perspectiva de género: las personas trans y no binarias en las encuestas en América Latina”; y Lucía González, por “Sesgos e impacto social de las soluciones basadas en procesamiento del lenguaje natural”.
La Beca FunDatos es organizada por el Área de Datos de Fundar y este año convocó a estudiantes de grado próximos a recibirse y profesionales jóvenes de Ingeniería, Matemática, Estadística, Economía, Actuarial, Ciencia de Datos y carreras afines. Los y las ganadoras debieron presentar proyectos de investigación académica en temas relacionados a: ética en inteligencia artificial; ética en uso de datos; sesgos en algoritmos; sesgos en datos; privacidad y anonimización; e intercambio seguro de datos e información.
En principio, la beca estaba pensada para premiar a tres postulantes, pero dada la calidad de las propuestas recibidas, el jurado decidió elevar ese número a cuatro. A continuación, les presentamos un breve perfil de los y las ganadoras y cuál es el eje de sus investigaciones.
Camila Di Ielsi
Cursa el 4° año de la Licenciatura en Ciencias de la Computación de la Facultad de Ciencias Exactas y Naturales de la Universidad de Buenos Aires (FCEyN-UBA). La propuesta que presentó a la beca FunDatos se centra en el estudio de la formación de falsas memorias en hechos delictivos utilizando redes adversarias, que realiza en el Grupo de Procesamiento de Imágenes del Departamento de Computación de la FCEyN-UBA. El nombre del proyecto es “Construcción de falsas memorias en testigos de un hecho delictivo: intervención de la consolidación, reconsolidación, farmacología, estado de ánimo, edad, personalidad y fases de sueño», y es dirigido por la Dra. Cecilia Forcato; Camila trabaja allí bajo la dirección del Dr. Pablo Negri. Cabe destacar que es un proyecto en colaboración entre el Grupo de Procesamiento de Imágenes, el CONICET, el ITBA y la ONG Innocence Project Argentina.
Como parte del proyecto, el grupo del cual forma parte Camila pretende desarrollar una herramienta para las pruebas de laboratorio y ensayos, que permita manipular la apariencia de las fotografías presentadas ante el sujeto “testigo” en una rueda de reconocimiento: tal herramienta contribuirá a morigerar errores de reconocimiento en la identificación de personas sospechosas de cometer algún delito. Precisamente, una de las principales inquietudes que lo guía es que las fuentes testimoniales son las pruebas de evidencia principal en numerosas decisiones judiciales, y alrededor del 70% de los casos de condenas erradas son consecuencia de errores de identificación en material fotográfico o en ruedas de reconocimiento.
María Agustina Ricci Lara
Es bioingeniera graduada de la Universidad de Mendoza y cursa el primer año de su doctorado en el marco del Programa de Inteligencia Artificial en Salud (Hospital Italiano de Buenos Aires) y el Research institute for signals, systems and computational intelligence (Sinc, CONICET-UNL). Su director de tesis es el Dr. en Ciencias Naturales Rodrigo Echeveste y su codirector el Dr. en Matemática e Informática Enzo Ferrante.
La propuesta presentada para la beca FunDatos está vinculada con el tema de investigación de su doctorado: la existencia y naturaleza de sesgos en bases de datos de imágenes dermatoscópicas (técnica diagnóstica no invasiva que permite visualizar en profundidad lesiones de la piel a través de una lente de mano o dermatoscopio) vinculados a atributos protegidos como sexo, edad y fototipo, que pudieran tener un impacto no deseado en el desempeño de los algoritmos utilizados.
Uno de los principales propósitos de la investigación es implementar estas mejoras en centros de salud para su uso efectivo, de manera de garantizar la equidad en la prestación de servicios de diagnóstico, adhiriendo a los principios de la bioética. Es importante tener en cuenta que los algoritmos de inteligencia artificial se desarrollan a partir del suministro de grandes cantidades de datos muchas veces generados o depurados por personas; por ello, existe el riesgo elevado de perpetuar e incluso intensificar actitudes discriminatorias. La investigación de la cual forma parte Agustina va en dirección de combatir estas potenciales inequidades.
Nicolás Abbate
Es licenciado en Economía de la UBA y está cursando la Maestría en Economía de la Universidad Nacional de La Plata. Su propuesta se enmarca dentro del proyecto de investigación GenLAC, una iniciativa de género del Centro de Estudios Distributivos, Laborales y Sociales (CEDLAS), que busca optimizar las encuestas y censos realizadas por los institutos nacionales de estadísticas, en tanto son son una herramienta fundamental para el diagnóstico y monitoreo de las desigualdades de género, y para el diseño informado de las políticas públicas con enfoque de género. La directora del proyecto es la Dra. en Economía Mariana Marchionni.
El proyecto del cual forma parte Nicolás se construye sobre una certeza: la gran mayoría de las encuestas realizadas por organismos nacionales, tanto en América Latina como en el mundo, todavía utilizan una clasificación binaria del género y/o sexo. Esta clasificación estrictamente binaria (hombre/mujer) genera la invisibilización en las estadísticas de aquellos grupos que no se identifican con las definiciones propuestas por la encuesta, asignándose de forma arbitraria a uno u otro grupo. Así, las personas no binarias, como queers, travestis, transexuales y transgénero, desaparecen de los datos y del debate académico y público. Para lograr sus propósitos, el GenLAC se propone un diagnóstico amplio sobre la manera que se releva la información de género en la región, y desde allí generar propuestas para mejorar o complementar las encuestas recomendando la implementación de mejores prácticas.
Lucía Gonzalez
Es estudiante del último año de la Licenciatura en Ciencias de la Computación de la Facultad de Matemática, Astronomía, Física y Computación (FAMAF) en la Universidad Nacional de Córdoba. Aplicó a la beca FunDatos para desarrollar su proyecto de tesis de Licenciatura, bajo la dirección de la Dra. en Ciencia de Datos Luciana Benotti y la Dra. en Lingüística computacional Laura Alonso Aleman.
La investigación de la tesis consiste en explorar y adaptar herramientas para la identificación y mitigación de impactos sociales potencialmente perniciosos de las soluciones basadas en procesamiento de lenguaje natural. En concreto, desarrollar herramientas para la detección, prevención y mitigación de sesgos en aplicaciones basadas en Procesamiento de Lenguaje Natural (PLN) para las necesidades específicas de la región. Estas herramientas permitirán a desarrolladores y a usuarios evaluar y detectar sesgos con impactos sociales negativos en modelos y en datos, contribuyendo a la instrumentación de una ética latinoamericana de Inteligencia Artificial. Para la investigación de Lucía, la palabra “latinoamericana” es capital, porque su investigación parte de la necesidad de desarrollar una mirada propia, con sensibilidad por las idiosincrasias locales y regionales, tal como lo están haciendo en otros lugares del sur global (por ejemplo África, con @DeepIndaba).
Estamos felices por la calidad de las propuestas recibidas y porque representan distintas experiencias académicas y casas de conocimiento. Queremos que la beca se instale como un evento federal y que sea una celebración de la riqueza de nuestras y nuestros investigadores en el campo de la Ciencia de Datos y afines. El jurado de este año estuvo compuesto por Rodrigo Castro, Santiago Ceria, Daniel Yankelevich y Félix Penna. Accedé aquí para más información sobre la convocatoria y los y las ganadoras.
