Todos esperamos que la IA mejore nuestras vidas en muchos aspectos, pero también hay que cuidar los riesgos que puede conllevar su masificación.

“La IA se basa en algoritmos que aprenden de los datos del mundo real, por lo que puede, inadvertidamente, reforzar los prejuicios sociales existentes. Gartner predice que, para finales 2022, el 85% de los proyectos de IA arrojarán resultados erróneos debido a los sesgos de los datos, los algoritmos o los equipos encargados de gestionarlos”.

Y concluye que “el problema no es la IA, sino cómo los humanos construyen la IA. Existe un riesgo muy real de que, en lugar de resolver el problema del sesgo de género, la IA sólo lo exacerbe aún más. Ya hoy vemos anuncios dirigidos en los que los algoritmos están perpetuando la brecha salarial al dirigir los listados de trabajos mejor pagados hacia los hombres. Mientras tanto, los asistentes virtuales -que son serviles y no están remunerados- tienden a ser retratados por mujeres y se prevé que muchas más mujeres que hombres pierdan sus puestos de trabajo por la automatización”.

Frente a estos retos, recientemente diversas organizaciones innovadoras y comprometidas que se esfuerzan por mejorar el uso responsable de la tecnología en Estados Unidos (incluyendo SAS) se unieron para lanzar la hoja de ruta para la IA responsable bautizada Business Roundtable.

Consiste en una asociación de directores ejecutivos de las principales empresas de Estados Unidos para trabajar en pro de una innovación responsable, como lo han denominado.

La innovación responsable incluye - e incluso va más allá de – temas importantes como la IA responsable, los algoritmos o los sesgos a considerar en todo el proceso de innovación.

Se trata de un enfoque mucho más ambicioso que proporciona equidad y justicia en cada paso, desde el origen de una idea o propuesta hasta su desarrollo e implementación.

En este marco y con la ayuda de expertos mundiales, se creó recientemente SAS Data Ethics Practice (DEP, por sus siglas en inglés) una iniciativa que guiará un esfuerzo coordinado a nivel mundial para ayudar a personas y empresas en todo el mundo a implementar sistemas basados en datos que promuevan el bienestar humano y la igualdad entre las personas.

La iniciativa será dirigida por Reggie Townsend, nombrado recientemente como miembro del Consejo Asesor Nacional de IA (NAIAC) del Departamento de Comercio de Estados Unidos y quien también es miembro de la junta directiva de EqualAI, una organización sin ánimo de lucro enfocada en reducir el sesgo inconsciente en el desarrollo y uso de la IA.

“Si bien llevamos en esto mucho tiempo, no tenemos todas las respuestas”, explica Townsend al hablar de la iniciativa. “Aquellos que crean, consumen y regulan los datos y la IA comparten el riesgo, la recompensa y la responsabilidad de ser administradores confiables de la tecnología en beneficio de las personas y del planeta que habitamos”, añade.

Las organizaciones deben poner en funcionamiento la IA de forma justa, transparente, responsable y cuidadosamente gestionada. SAS cuenta con los recursos y la experiencia para ayudar a nuestros clientes a personalizar e implementar nuestros productos de manera que les ayuden a satisfacer sus necesidades y a cumplir con los requisitos legales aplicables.

El compromiso es incorporar los principios de innovación responsable centrados en el ser humano, la inclusión, transparencia, responsabilidad, solidez, privacidad y seguridad a los procesos de transformación digital que se desarrollan en la actualidad.

Este es uno de los componentes más importantes que configuran el futuro de las organizaciones y las que hacen parte de la actividad bancaria no son ajenas a estos temas o tendencias.

Desarrollar programas para crear conciencia y confianza en la IA, educar y mejorar las competencias y habilidades profesionales (impulsar, por ejemplo, una mayor participación de las mujeres en áreas STEAM de ciencias de datos) y representar equitativamente a las mujeres en los distintos escenarios serán definitivos para tener una banca más responsable y a la par rentable en el futuro.