Precisamos falar sobre a Inteligência Artificial do Google, pessoal. Quem tem acompanhado o investimento da empresa em novidades voltadas aos sistemas que integram os serviços da Gigante de buscas? As atualizações não param. E como referência global de uma empresa multinacional de serviços online e softwares, o Google notou a importância de fazer parte da história de inclusão e transformação de mercado através da diversidade. Lindo, não é mesmo? Mas por que a empresa está adotando esta postura?

Eu não sei se vocês já passaram pela experiência de produção de um texto, por exemplo, no docs, ferramenta de escrita do Google, e no meio do caminho, o bot ofereceu uma sugestão alternativa de escrita, em masculino, porque a palavra digitada estava no feminino… eu já. E milhares de usuários também notaram esse viés de gênero do Google com foco no masculino.

A questão que não quer calar: podemos considerar esta situação como erro ou discriminação? Fica a reflexão.

Soluções da Google: 1- Escala de Monk

O mais importante disso tudo é que a grande empresa mundial está atenta aos questionamentos dos seus usuários no que diz respeito à diversidade, tanto que suas soluções de IA se preocupam com os vieses de gênero, raça e interpretações equivocadas de reconhecimento facial.

Por exemplo, recentemente o Google abriu para outros desenvolvedores o acesso à sua Escala de Monk, uma lista de 10 tons de pele elaborada pelo professor Ellis Monk, da Universidade de Harvard. A ideia é que o parâmetro ajude a treinar modelos de IA para que as tecnologias contemplem (e respeitem) a diversidade de pessoas, diminuindo o risco de algoritmos discriminatórios —um problema que existe há anos nesse mercado.

Soluções da Google: 2- AI Test Kitchen

Outro ponto que reforça o olhar atento da empresa para melhorias de inclusão, aponta justamente o case que mencionei anteriormente sobre a sugestão mais correta de escrita e traduções estarem sempre pontuadas no masculino. Adjetivos e nomes raramente estão associados ao feminino como ortografia correta, como, por exemplo, algumas profissões serem reconhecidas para homens e outras profissões serem reconhecidas para mulheres: investidor é uma das palavras que o Google aponta como melhor sugestão, sendo utilizada no gênero masculino.

Pensando nisso, o Google também anunciou um novo aplicativo chamado AI Test Kitchen, que vai permitir que as pessoas testem os últimos modelos de linguagem para inteligência artificial desenvolvidos pela empresa e, assim, encontrar erros e dar feedback sobre eles antes que sejam disponibilizados para o público.

Zoubin Ghahramani, vice-presidente de pesquisa da divisão de IA da empresa, acredita que a adesão à inteligência artificial será lenta e gradual porque ainda há muitos problemas que precisam ser resolvidos, e o Google quer ser mais cauteloso.

Desafio dos tubarões modernos

Ocorre que, atualmente, existe uma grande preocupação dentro das academias, entre os pesquisadores e empresas, para reduzir os diversos vieses que nós podemos observar na IA. Isso porque, ao utilizar uma massa de dados da web para construir tecnologias de IA, as empresas também trazem, como consequência desses dados públicos, os diversos preconceitos que ao longo dos séculos foram sendo acumulados e reproduzidos.

O problema é que, à medida que os sistemas são desenvolvidos, é raro ter proporcionalmente uma curadoria voltada para a reavaliação dos vieses de gêneros, raciais e demais preconceitos que existem nesses dados obtidos.

E esse é o nosso grande desafio enquanto sociedade moderna: transformar a Inteligência Artificial em algo mais ético e inclusivo para todos, através de metodologias e tecnologias atuais que identificam tais preconceitos.

Vamos nessa juntos, tubarões?!