Eliminar o viés da inteligência artificial é o trabalho de todos

Um apelo por mais conscientização e treinamento por trás das implantações de IA. Não apenas para desenvolvedores e cientistas de dados, bur também gerentes de produtos, executivos, gerentes de marketing e comerciantes.

Com a dependência das decisões baseadas em IA e as operações crescendo a cada dia, é importante dar um passo atrás e perguntar se tudo o que pode ser feito para garantir a equidade e mitigar o viés está sendo feito. É preciso que haja maior conscientização e treinamento por trás das implantações de IA.

Não apenas para desenvolvedores e cientistas de dados, bur também gerentes de produtos, executivos, gerentes de marketing e comerciantes. Essa é a palavra de John Boezeman,diretor de tecnologia da Acoustic,que compartilhou suas ideias sobre a urgência de obter a IA certa.

P: Quanto tempo estão os esforços corporativos para alcançar a equidade e eliminar o viés nos resultados da IA?

Boezeman: Tentar determinar viés ou distorção na IA é um problema muito difícil e requer muito cuidado extra, serviços e investimento financeiro para ser capaz de não apenas detectar, mas então corrigir e compensar esses problemas. Muitas corporações têm usado involuntariamente dados tendenciosos ou incompletos em diferentes modelos; entender isso e mudar esse comportamento requer mudanças culturais e planejamento cuidadoso dentro de uma empresa.

Aqueles que operam sob princípios de ética de dados definidos estarão bem posicionados para evitar viés na IA, ou pelo menos serão capazes de detectá-lo e remediar se e quando forem identificados.
P: As empresas estão fazendo o suficiente para revisar regularmente seus resultados de
IA? Qual é a melhor maneira de fazer isso? Boezeman: À medida que novas ferramentas são fornecidas em torno da capacidade de auditoria da IA, veremos muito mais empresas revendo regularmente seus resultados de IA.

Hoje, muitas empresas ou compram um produto que tem um recurso de IA ou capacidade embarcada ou faz parte do recurso proprietário desse produto, o que não expõe a auditabilidade.

As empresas também podem levantar os recursos básicos de IA para um caso de uso específico, geralmente nesse nível de uso de IA. No entanto, em cada um desses casos, a auditoria é geralmente limitada. Onde a auditoria realmente se torna importante é nos níveis de “recomendar” e “ação” da IA. Nessas duas fases, é importante usar uma ferramenta de auditoria para não introduzir viés e distorcer os resultados.

Uma das melhores maneiras de ajudar na auditoria da IA é usar um dos maiores serviços de IA e ML dos provedores de serviços em nuvem. Muitos desses fornecedores têm ferramentas e pilhas de tecnologia que permitem rastrear essas informações. Também é fundamental para identificar viés ou comportamento tendencioso para fazer parte do treinamento para cientistas de dados e desenvolvedores de IA e ML. Quanto mais pessoas forem instruídas sobre o que procurar, mais empresas preparadas serão para identificar e mitigar o viés da IA. P: Os líderes de TI e os funcionários devem receber mais treinamento e conscientização para aliviar o viés da IA?

Definitivamente. Tanto os cientistas de dados quanto os desenvolvedores de IA/ML precisam de treinamento sobre viés e distorção, mas também é importante expandir esse treinamento para gerentes de produtos, executivos, gerentes de marketing e comerciantes.

É fácil cair na armadilha de fazer o que você sempre fez, ou apenas ir atrás de uma abordagem centrada no viés como muitas indústrias fizeram no passado. Mas com o treinamento em torno de aliviar o viés de IA, a equipe de toda a sua organização será capaz de identificar viés em vez de confiar que tudo o que a IA produz é fato. A partir daí, sua empresa pode ajudar a mitigar seu impacto.

P: Iniciativas de IA e machine learning estão em andamento há vários anos. Que lições as empresas têm aprendido em termos de adoção e implantação mais produtivas?

Boezeman: AI não é uma panaceia para resolver tudo. Já vi muitas tentativas de lançar IA em qualquer caso de uso, independente se a IA for o caso de uso certo, tudo para habilitar uma história de marketing sem fornecer valor real. O truque para a implantação bem sucedida de uma solução de IA é uma combinação da qualidade dos dados e da qualidade dos modelos e algoritmos que conduzem a decisão. Simplificando, se você colocar lixo, você vai pegar lixo fora. As implantações mais bem sucedidas têm um estojo de uso nítido e dados bem definidos para operar.

P: Quais áreas da organização estão vendo mais sucesso com a IA?

Boezeman: Existem muitos estágios diferentes em IA, mas principalmente eles podem ser resumidos a três estados básicos: descobrir, recomendar e ação automática. Neste momento, os lugares que vejo mais usados estão em descobrir. É aqui que o sistema diz que algo está acontecendo anormal ou fora de padrões conhecidos, ou algo está na moda em uma direção que você deve se preocupar. As pessoas confiam nesse tipo de interação e modelo, e podem facilmente colaborar se quiserem provas.

Os profissionais de marketing aproveitam a IA no espaço de descoberta para determinar o sucesso de suas campanhas, por exemplo. Outro exemplo é um cliente que pode implantar uma solução alimentada por IA para detectar fraudes ou problemas com a jornada do cliente.

Onde eu ainda vejo muita hesitação está nos estados de recomendação e ação. Eu era dono de um produto que calculava o melhor preço de um produto e pedia exibi-los em uma vitrine web, com base em muitos pontos de dados, desde quantidade, até rentabilidade, tempo de marcação, até espaço de armazenamento usado no armazém. E mesmo este produto poderia, se você liguei, automaticamente tomar medidas. O que encontramos é que muitos comerciantes gostam de ver a recomendação, mas eles pessoalmente queriam agir, e também queriam ver várias opções, e, finalmente, eles queriam ver a árvore de decisão sobre por que o sistema recomendou uma opção. Quando o lançamos pela primeira vez, não tínhamos a funcionalidade “Por que o sistema recomendou XYZ?”. Até que fornecemos uma maneira de permitir ao comerciante a capacidade de ver no que a recomendação se baseava, eles não confiavam nela.

P: Quais tecnologias ou abordagens tecnológicas estão fazendo mais diferença?

Boezeman: Há muitas empresas operando neste reino que estão inventando novas tecnologias impactantes todos os dias. Spark e Amazon Sagemaker são dois exemplos. As tecnologias que estão fazendo mais diferença, porém, são aquelas que permitem identificar viés em seus modelos de IA. Quando os algoritmos de IA são tendenciosos, eles podem levar a resultados injustos e incorretos. Ao ser capaz de ver o viés no sistema, você pode então diagnosticar, e mitigar a situação. À medida que a indústria continua a crescer, essa será uma capacidade de base fundamental que cada pilha de tecnologia precisará para suportar.