En el mes de la diversidad cultural, comentamos la influencia de la Inteligencia Artificial.
Por Abril Neiman
El 12 de octubre ha sido reconocido históricamente como el día de la raza, aunque hoy en día se le otorga un nombre más apropiado respecto de lo que la fecha conmemora:
Es el día del respeto a la diversidad cultural porque, precisamente, la sociedad toda debe reconocer y apreciar las distintas culturas que nutren nuestro mundo.
Dicho lo anterior, es sabido que la discriminación es lo opuesto a la aceptación de la diversidad y, lamentablemente, hay discriminación en muchos ámbitos de la vida, incluso en algunos que nos parecen increíbles, como por ejemplo en el mundo de la Inteligencia Artificial (en adelante, IA).
La IA es un fenómeno en constante crecimiento y avance, que busca que los sistemas informáticos alcancen un razonamiento lógico humano. La IA replica no todo el razonamiento humano sino el de aquellos que desarrollan el sistema. Y es aquí donde podemos observar la discriminación en la IA, ya que ésta se nutre de datos e información que existen en el mundo real, brindados por determinados grupos de personas.
Creímos que lo mejor era acudir a la propia IA para despejar dudas, y le preguntamos al Chat GPT “¿cómo se puede relacionar a la inteligencia artificial con la discriminación?”.
Nos respondió señalando distintas formas en las que la IA discrimina, ¡incluso con ejemplos!
Resulta paradójico que la misma fuente de información que puede ser cuestionada sobre este tema sea quien brinde la explicación acerca de cómo se produce el fenómeno. Sucede que, si la IA se nutre de datos provenientes de personas humanas, pues entonces discriminará (o no) en la misma medida que nosotros, los humanos, lo hacemos.
Debemos ser verdaderamente cuidadosos con los datos que brindamos a las nuevas tecnologías si no queremos que se produzcan sesgos. Esto puede ocurrir si los datos con los que se ha formado determinado sistema fueron reducidos a los valores que representan a una pequeña parte de la población, excluyendo sectores de la misma. Claramente limita el reconocimiento de la diversidad cultural.
Si bien aún no hay demandas o reclamos legales en este aspecto contra la IA –al menos de nuestro conocimiento–, es importante mencionar que hay normativa al respecto, y que la página oficial www.argentina.gob.ar de la República Argentina prevé que es esencial respetar la Recomendación sobre la Ética de la Inteligencia Artificial de la Organización de Naciones Unidas (ONU) que establece: “Los actores de la Inteligencia artificial deben promover la diversidad y la inclusión, garantizar la justicia social, proteger la equidad y luchar contra todo tipo de discriminación, de conformidad con el derecho internacional. Los actores de la IA deberían hacer todo lo razonablemente posible por reducir al mínimo y evitar reforzar o perpetuar aplicaciones y resultados discriminatorios o sesgados a lo largo del ciclo de vida de los sistemas de IA, a fin de garantizar la equidad de dichos sistemas”.
La IA es un gran avance tecnológico que enorgullece a los humanos; no obstante, debemos ser cautelosos al utilizar estos sistemas para no contribuir a la discriminación que, por otro lado, decimos combatir. No debemos brindar datos que puedan llevar a sesgos algorítmicos, pues generan prejuicios y estereotipos, así como una culturalización homogénea.
La IA, definitivamente, es una herramienta de suma utilidad, pero es importante prevenir esta cuestión para evitar replicar errores humanos:
Si los datos que brindamos los humanos son inclusivos y amplios, pues la IA también lo será.
Valga lo anterior como un pequeño homenaje, si se quiere tecnológico, al mes de la diversidad cultural.
Para más información contactarse con aneiman@ojambf.com
