Na sessão “I Got 99 Problems & Biased AI is #1” no SAS Explore, Reggie Townsend, diretor de data ethics practice no SAS, e Allie DeLonay, cientista de dados em data ethics practice no SAS, discutiram sobre a importância de mitigar preconceitos para obter resultados reais dos dados.
Mesmo não propositalmente – ou sim - o profissional que faz a curadoria pode incorporar um viés inconsciente aos dados, fazendo com que eles se tornem tendenciosos, tendo como resultado sistemas de IA tendenciosos e deixando pessoas ou situações importantes de fora da análise. Segundo DeLonay, nem todas as pessoas que trabalham com dados entenderão que há algo de errado e precisarão de ajuda para compreender os vieses desse resultado, por isso é necessário ter alguém especializado no assunto.
Além disso, Townsend e DeLonay mostraram qual o processo pelo qual os dados passam para chegar em resultados, onde e em quais passos pode acontecer essa interferência pessoal e como isso pode afetar os processos seguintes. Entender esses preconceitos ajuda as organizações a desenvolverem aplicativos de IA mais responsáveis, evitar penalidades e reduzir a possibilidade de danos.
Após a conversa, a cientista de dados fez uma demonstração mostrando passo a passo como detectar vieses usando o Model Studio. Na plataforma do SAS Viya 4 há ferramentas para ajudar a detectar diferentes tipos de vieses e criar um modelo de IA responsável. Ela falou também sobre a importância da comparação de resultados para ter a certeza de que não há exclusão.
Como próximos passos, DeLonay está muito ansiosa para identificar as falhas dentro dos recursos que já existem para melhorar ainda mais os processos dentro das ferramentas SAS. A sua intenção é fazer com que fique mais fácil identificar os dados tendenciosos no processo sem se preocupar se está deixando alguma situação ou grupo de pessoas fora dessa análise. O intuito é criar o máximo de recursos possíveis para os profissionais de dados criarem modelos de IA cada vez mais responsáveis.
Assista ao conteúdo na íntegra pelo link.
