“¿Confía en la Inteligencia Artificial (IA)?” le preguntaron a Toju Duke. “No confío en la IA como tecnología, pero sí en su potencial. Creo realmente que nos puede ayudar a solucionar muchos de los grandes problemas del mundo”, respondió. Sabe de que habla, fue directora de IA del gigante Google durante más de diez años en Dublín. 

Nos advierte que esta tecnología hoy discrimina. Se han documentado casos de detención de personas negras por el sistema automático de reconocimiento facial, entre ellos una mujer embarazada de 8 meses. La tarjeta de crédito Apple Card le otorga menor límite de gastos a mujeres que a hombres teniendo los mismos ingresos. En el Reino Unido un algoritmo preconfigurado para los exámenes perjudicó a las estudiantes de menor nivel económico. Por ello Toju Duke nos insta a actuar de inmediato.

Toju nació en Nigeria hace 41 años, tiene ciudadanía británica, obtuvo una Licenciatura en Sociología (Universidad de Bayero), una Maestría en Diseño, Marketing y Comunicación Internacionales (Universidad de Huddersfield) y otra en Inteligencia Artificial (Universidad Internacional Bircham). Ha escrito el libro “Construyendo algoritmos de IA responsables”. Fundó Diverse AI para fomentar la diversidad en educación, tecnología e innovación. 

La IA debe tener como principios equidad, transparencia, privacidad, seguridad, derechos humanos y la ética en la utilización de datos, entre otras. Los programas deben poder pasar pruebas de imparcialidad. Para lograr un algoritmo equilibrado debe estar desarrollado por un colectivo lo más diverso posible. Si se les pide a los procesadores de imágenes Midjourney o Dall-E que ilustren un CEO devolverán un retrato de un hombre blanco. Esto ya es inadmisible en un mundo plural. 

Toju se ha destacado por enfocar el programa de lenguaje experimental LaMDA de Google (parecido al famoso ChatGPT) hacia un modelo de madurez responsable. Realizan pruebas para determinar la identificación por género ante términos neutros –por ejemplo para “docente” la respuesta debe incluir tanto maestra como maestro-. Otro tanto se hizo con etnias, orientación sexual, personas con discapacidad y minorías de toda índole. Todo esto tiene un costo y lleva más tiempo de desarrollo pero es necesario para evitar reduccionismos y que las grandes empresas lo entiendan y lo incluyan. La realidad es compleja de por sí.

Por ahora la IA está en pañales. Toju recomienda chequear los datos con otras fuentes y no creerle a ciegas. “La inteligencia artificial amplifica injusticias sistémicas que ya deberíamos haber eliminado”. Debe haber una conciencia de los cambios que se avecinan con esta nueva tecnología, por ello sostiene que la IA debe regularse. La Unión Europea tomó nota de esto.