Como a diversidade pode remover o viés cultural da inteligência artificial

Como a diversidade pode remover o viés cultural da inteligência artificial

Our Thinking / Voice on Growth Economies /

Como a diversidade pode remover o viés cultural da inteligência artificial
Veja também:
Calendar02 Outubro 2018

Os seres humanos têm uma predisposição natural para o viés cultural. Encontrado em todas as ciências humanas — inclusive economia, psicologia e antropologia — o viés cultural é definido como o “processo de julgar e interpretar fenômenos de acordo com padrões inerentes às preferências culturais de cada um ou com as normas de determinada cultura”.1

O viés cultural é a razão pela qual o fato de evitar o contato visual pode ser percebido por algumas culturas como timidez ou uma atitude evasiva, e, por outras, como um sinal de respeito. É por isso que pessoas nascidas na Argentina têm boa probabilidade de usar camisetas da seleção honrando Lionel Messi, enquanto seus pares do outro lado do Atlântico reverenciam o português Cristiano Ronaldo. A razão pela qual, na Coreia, sugar uma colher de sopa é a norma, embora seja considerado falta de educação à mesa em outros lugares. E pela qual lemos textos em inglês da esquerda para a direita, enquanto em outros idiomas, como o árabe, faz sentido ler da direita para a esquerda. Os ambientes que nos cercam exercem uma poderosa influência sobre a forma como enxergamos o mundo e interagimos com ele.

Mas o que acontece quando um importante setor global, como a programação de computadores, é dominado por um único ponto de vista cultural? Os Estados Unidos são líderes em programação de computadores; mais ainda, de acordo com uma pesquisa recente do Stack Overflow, 85,5% dos programadores de computador nos EUA são do sexo masculino, e a grande maioria destes é de homens brancos.2 Considerando que esses programadores estejam criando código na vanguarda da IA, será que isso significa que as experiências e sensibilidades dos homens brancos irão definir o futuro do nosso mundo digital e o universo de IA? Sim. E não.

O problema da homogenia na programação de computadores

Quando um homem branco, heterossexual, desenvolve um algoritmo, essa IA, inevitavelmente, verá o mundo através do ponto de vista específico desse desenvolvedor. O DNA intelectual do programador original passou a ser a base sobre a qual esse projeto de IA continuará a se desenvolver, processar dados e informações inseridas e aprender. Como ocorre com as pessoas, uma experiência de vida limitada pode constituir uma desvantagem significativa em um mundo cada vez mais globalizado, cheio de problemas e desafios inesperados.

O viés cultural nos espreita de lugares inesperados. Por exemplo, quando o Walmart se expandiu na China, a visão do varejista sobre como servir aos 1,3 bilhões de habitantes do país não tardou a fraquejar quando a empresa descobriu que os consumidores chineses, diferentemente dos americanos, tinham necessidades e preferências muito diferentes conforme a cidade e a parte do país em que se encontravam. O varejista não conseguiu encontrar um mix de produtos ideal que pudesse ser oferecido nas 117 cidades onde estava estabelecido. Isso, somado a dificuldades políticas e de infraestrutura não previstas, rompeu o eficiente e alardeado sistema de cadeia de abastecimento da empresa. 3

O viés cultural persiste em praticamente cada nuance das culturas ao redor do mundo, desde as perguntas de história nas provas do ensino médio àquilo que faz as pessoas rirem de uma piada, e até mesmo à sua definição de beleza. À medida que o aprendizado de máquina e a IA continuam a se proliferar e a influenciar nossas sociedades, nós — profissionais do setor, líderes empresariais e entidades governamentais — precisamos agir com muita cautela no que se refere ao papel que a homogenia irá desempenhar na definição de nossas sensibilidades, pontos de vista e prioridades.

Os gerentes e coordenadores de projetos precisam definir protocolos capazes de impedir que o efeito desvirtuador do viés cultural jamais consolide sua posição no processo de programação. É crucial priorizar a diversidade na vanguarda das trocas de ideias sobre estratégia. Em geral, o viés cultural é silencioso e quase invisível, mas pode ser revelado anos mais tarde por meio de uma surpreendente falta de visão, conscientização e empatia. O dano causado pode nos sair muito caro. De acordo com o relatório da Mercer Acelerando o Impacto: Ponto de Inflexão de Gênero 2018, “a pesquisa demonstrou que o viés inconsciente é uma característica normal do ser humano, mas pode levar a decisões sobre homens e mulheres e suas carreiras que não se alinham à meta das organizações no sentido de recompensar com base no mérito, habilidade e talento”.4

Pense em como várias políticas empresariais, decisões políticas e “normas culturais” recentes, dos últimos dez ou 20 anos, não acompanharam a crescente demanda da sociedade por diversidade e pela inclusão de todas as raças, gêneros e tradições culturais. O negócio de fazer negócios muda constantemente. Empresas esclarecidas e visionárias sabem que o mais forte antídoto contra o viés cultural é a diversidade — diversidade de mentes, experiências, tradições, crenças e pontos de vista. Essa riqueza combinada de intelecto e criatividade cria uma sinergia de influências que restringe a capacidade que o viés cultural tem de determinar o resultado final da programação. Trocando em miúdos, a diversidade é crucial para o sucesso da IA em longo prazo.

As soluções devem estar presentes desde o início

Existem medidas que os empregadores podem tomar para impedir a homogenia da programação. Em primeiro lugar, os empregadores devem reconhecer que a falta de diversidade na programação constitui um risco, já que a falta de uma perspectiva visionária se traduzirá em uma diminuição da capacidade de competir. Políticas internas e protocolos atualizados devem alinhar as metas empresariais aos recursos de IA e seu impacto sobre os diversos setores e clientes. Isso se traduz num empenho em aumentar a diversidade ao longo das operações de programação, de tal forma que uma ampla gama de talentos, pontos de vista e ideias esteja constantemente sendo confrontada, aprimorada e materializada.

A seguir, os empregadores devem capitalizar o poder da tecnologia propriamente dito. Com o aprendizado de máquina, as empresas podem criar conjuntos de dados que ensinem os computadores a criar seus próprios algoritmos utilizando um “treinamento de IA”. A máquina, então, passa a gerar composições inteiramente “novas” e originais, com base naquilo que lhe foi ensinado. Resumindo, diversidade no início do processo gera diversidade nos resultados. Quando uma empresa conta com uma comunidade de desenvolvedores diversificada e inclusiva, ela constrói ferramentas que refletem melhor um conjunto diversificado de problemas — problemas que podem, possivelmente, afetar questões ou oportunidades organizacionais subatendidas ou negligenciadas. Para mitigar as armadilhas da programação homogeneizada, comece logo no início.

Concluindo: Um universo de IA inclusivo para todos

A convergência entre as pessoas e a tecnologia definirão o futuro do trabalho, mas o fator humano sempre haverá de iluminar o caminho à frente. Estabelecer uma vantagem competitiva nesse cenário em permanente evolução significa avaliar a influência que as pessoas exercem sobre a tecnologia, e lembrar que o que orienta o comportamento humano é a humanidade. Uma transformação digital eficaz requer um compromisso com o poder de um ponto de vista diversificado e de um entendimento de como os seres humanos e a experiência humana irão evoluir à medida que nos tornamos cada vez mais conectados ao universo de IA — um campo inclusivo e sem barreiras.

Afinal de contas, quando pessoas com pontos de vista e experiências diferentes colaboram para resolver um problema, os resultados podem ser mágicos. A diversidade é crucial para o processo criativo e para a polinização cruzada que impulsiona o poder de descobrimento moderno. Cada programador pode ser um explorador intrépido, e as descobertas que ele faz devem ser conectadas aos talentos e contribuições de programadores do mundo inteiro.

1 Understanding the Phenomena Of Cultural Bias With Examples
https://psychologenie.com/understanding-cultural-bias-with-examples

2 Pesquisa de desenvolvedores do Stack Overflow Developer 2017
https://insights.stackoverflow.com/survey/2017#overview

3 Here's Why Walmart Stumbled on The Road To China
http://fortune.com/2016/02/21/why-walmart-stumbled-on-road-to-china/

4 Acelerando o Impacto: O Imperativo do Gênero 2018
https://www.mercer.com/our-thinking/when-women-thrive-accelerating-for-impact.html

BAIXE O APLICATIVO



  Fale com um consultor Mercer
Estamos ansiosos para falar com você. Por favor, forneça os dados abaixo.
*Campo Obrigatório