Conheça as mulheres que trabalham para tornar a IA uma força para o bem

Os especialistas em tecnologia concordam que a IA será tão transformadora para o mundo quanto a Internet tem sido. Mas a história da IA ​​– desde o trabalho de Alan Turing no século passado até às redes neurais multicamadas do “Padrinho da IA” Geoffrey Hinton – até agora foi escrita por homens. “É verdade que o campo é moldado desproporcionalmente por homens brancos, e este é o caso tanto nos espaços académicos como comerciais”, diz Brittany Smith, investigadora associada do Centro Leverhulme para o Futuro da Inteligência da Universidade de Cambridge. “Isso significa que os preconceitos podem ser codificados em sistemas de IA de várias maneiras.”

Desde que a OpenAI lançou o amplamente utilizado ChatGPT no final do ano passado, gigantes da tecnologia como a Microsoft e o Google têm estado numa corrida para lançar produtos semelhantes. O frenesi que se seguiu causou pânico por estarmos nos movendo rápido demais. Um grupo de proeminentes cientistas da computação assinou uma carta aberta insistindo que o desenvolvimento da IA ​​fosse interrompido porque “a inteligência humana-competitiva pode representar riscos profundos para a sociedade e a humanidade”, desde a disseminação de desinformação e automatização de empregos até riscos futuros mais catastróficos que ainda não podemos imaginar . Até Hinton alertou que, nas mãos erradas, esta tecnologia poderia ser devastadora. Entretanto, Christopher Nolan diz que o seu filme Oppenheimer , sobre o desenvolvimento da bomba atómica, contém “paralelos muito fortes” com a IA, e Hollywood inteira esteve recentemente em greve por medo do que a IA poderia significar para os seus empregos. É assustador pensar que o gênio pode ter saído da garrafa e não é de admirar que tantos de nós adotemos uma abordagem de cabeça na areia. Mas há um ponto positivo nesta história: as mulheres que trabalham para criar mudanças positivas e fazer da IA ​​uma força para o bem.

Uma das áreas onde a IA mais afeta o nosso dia-a-dia é o local de trabalho, especialmente quando se trata de recrutamento. “É uma das questões de direitos civis do nosso tempo”, diz Hilke Schellmann, repórter investigativa ganhadora do Emmy e autora do próximo livro The Algorithm: How AI Decides Who Gets Hired, Monitored, Promoted and Fired and Why We Preciso contra-atacar agora . “Estamos automatizando todas as desigualdades que já temos e isso passa despercebido.” Se um sistema de IA concebido para analisar currículos tiver sido programado utilizando os de candidatos anteriores aprovados, então poderá adotar preconceitos históricos. Por exemplo, se as pessoas que antes tiveram sucesso em uma função específica tendiam a ser homens brancos de classe média, então o algoritmo favorecerá certas palavras, escolas ou até mesmo hobbies específicos. Assim, uma mulher pode ser perfeita para o cargo, mas o seu currículo seria rejeitado porque não atende aos critérios nebulosos baseados em quem desempenhou essa função no passado.

Depois, há problemas com a tecnologia de reconhecimento facial, que está sendo usada para recrutamento, com a IA analisando as palavras, a entonação e as expressões faciais de uma pessoa. Mas e se estes forem mal interpretados? E se você tiver tendência a “descansar cara de vadia”, onde sua expressão neutra é percebida como irritada? Isto aflige muitos de nós, mas quase sempre é atribuído às mulheres. “Um computador pode presumir que porque você está sorrindo você é uma pessoa feliz, mas isso não é cientificamente rigoroso”, diz Schellmann. “E o que acontece se formos comparados com candidatos aprovados que são homens brancos? Eles têm expressões que talvez as mulheres, ou mulheres negras, não tenham?

Não é coincidência que os primeiros críticos da IA ​​tenham sido mulheres negras que rapidamente perceberam que a sua experiência de serem marginalizadas na vida estava a aparecer nas ferramentas de IA. Em 2018, Joy Buolamwini publicou um estudo chamado Gender Shades, sobre como os sistemas de reconhecimento facial são imprecisos quando usados ​​com pele mais escura. “Essa forma de imprecisão pode levar as pessoas a serem falsamente acusadas de crimes, o que tem um efeito direto nas suas vidas”, diz Smith. “Se você passar o fim de semana na prisão enquanto espera para ver um juiz na manhã de segunda-feira, poderá perder o emprego ou não ver seus filhos.”

Preocupar-se com um apocalipse no estilo ficção científica é uma espécie de distração dos problemas reais que estão nos afetando agora. “Grande parte da imaginação pública em torno da IA ​​está focada em danos existenciais especulativos”, diz Smith. “Os sistemas de IA se tornarão mais inteligentes do que nós e decidirão nos prejudicar? Talvez. Mas a sua vida já está sendo afetada pelos sistemas de IA de maneiras que podemos resolver. A nossa capacidade de intervir com sucesso hoje está diretamente ligada a intervenções maiores e mais complexas de que poderemos necessitar no futuro. Ignorar o que está bem diante de nós seria bizarro.” A resposta, acrescenta Smith, está na conscientização e participação do público. “Precisamos de mais envolvimento público e democracia deliberativa”, ela insiste. “Algumas empresas de IA lançaram esforços para avaliar o que as pessoas consideram usos apropriados da IA. Isto é óptimo, mas não deveríamos depender apenas da boa vontade das empresas para fazer o que é certo para a nossa democracia. É por isso que é tão promissor que os governos estejam prestando muito mais atenção agora e é por isso que é importante que todos pensemos em como maximizar os benefícios e, ao mesmo tempo, minimizar os riscos.”

A tecnologia também é um espaço onde as mulheres têm alguma influência no futuro da IA. A Partnership on AI é uma aliança global sem fins lucrativos de mais de 100 organizações, incluindo Meta, Apple, Google e IBM. “Nosso objetivo é avançar no desenvolvimento da IA ​​para que ela beneficie as pessoas e a sociedade”, afirma a CEO Rebecca Finlay. “Fomos fundados em 2016, quando as pessoas começaram a perceber que, embora a IA tenha potencial para ser extraordinariamente positiva, também pode ser tendenciosa e prejudicial.” E se você acha que pode de alguma forma passar pela vida sem se envolver com ela, Finlay tem novidades para você. “Se você está no TikTok, você está usando IA. Se você usa o Google Maps, você está usando IA. Eu encorajaria as pessoas a reconhecerem isso e a darem uma olhada nesses sistemas e pensarem: Como isso está funcionando para me ajudar? E como, potencialmente, isso poderia estar me atrapalhando? Porque você não pode simplesmente se desligar. A realidade é que todos nós nos envolvemos com isso todos os dias.”

E embora Finlay reconheça os problemas, ela está otimista quanto ao futuro. “É um campo onde tem havido muito trabalho bom”, diz ela. Parte desse trabalho consistiu em encontrar maneiras de regular esses sistemas. Lila Ibrahim é COO da DeepMind, o braço do Google com foco em IA. Ela iniciou sua carreira como engenheira no processador Pentium da Intel em 1993, por isso tem visto mudanças extraordinárias nos últimos 30 anos. “A responsabilidade de garantir que esta tecnologia seja representativa, inclusiva e equitativa recai sobre todos nós, na tecnologia, no governo e na sociedade civil”, diz ela. “Como qualquer tecnologia transformadora, a IA exige cuidados excepcionais. É por isso que priorizamos diversas perspectivas e trazemos vozes externas – para nos responsabilizar.”

Ela usa o exemplo do banco de dados AlphaFold da DeepMind, um sistema que prevê a estrutura 3-D de uma proteína com base em sua sequência de aminoácidos, acelerando a pesquisa biológica. “Antes de lançá-lo, buscamos a opinião de mais de 30 especialistas em pesquisa biológica, segurança e ética para nos ajudar a entender a melhor forma de compartilhar a tecnologia com o mundo.” Ela diz que a IA tem potencial para ajudar a resolver alguns dos maiores desafios da humanidade. “Mas deve ser construído de forma responsável, com a diversidade, a equidade e a inclusão como prioridade, e não como um acessório”, insiste. “Não existe solução mágica, por isso temos de trabalhar para garantir que estas vozes tenham um lugar à mesa.”

A ausência dessa solução milagrosa significa que temos sorte de existirem indivíduos inteligentes, focados e éticos a trabalhar nesta área, um dos quais é Verity Harding, uma especialista reconhecida mundialmente em IA, tecnologia e políticas públicas. Anteriormente na DeepMind, ela é fundadora da empresa de consultoria tecnológica Formation Advisory e pesquisadora afiliada do Instituto Bennett de Políticas Públicas da Universidade de Cambridge. Ela rejeita a narrativa (referenciada por Nolan) que compara o advento da IA ​​ao da bomba atômica. “Numa democracia, todos podemos ter uma palavra a dizer”, diz ela. “Eu encorajaria qualquer pessoa que esteja preocupada ou entusiasmada com os usos potenciais da IA ​​a se envolver na tentativa de moldá-la, seja escrevendo ao seu parlamentar com suas opiniões, exigindo que escolas e locais de trabalho tenham políticas claras de IA ou simplesmente lendo mais sobre o sujeito a compreender as ligações claras entre política e tecnologia.

O livro de estreia de Harding, AI Needs You: How We Can Change AI's Future and Save Our Own (lançado em março de 2024), aponta para um futuro alcançável em que a IA sirva a um propósito e não ao lucro e esteja firmemente enraizada na confiança da sociedade. “A boa notícia é que o que chamamos de 'IA' são, na verdade, apenas pessoas”, diz ela. “São pessoas construindo novas tecnologias e tomando decisões sobre como elas deveriam ser e como deveriam ser usadas.”

Finlay, Ibrahim, Harding e outras mulheres estão a ajudar a criar uma força de trabalho de IA mais diversificada, o que expandirá a produção criativa da IA. Parece que agora é a hora de começar a influenciar a narrativa em torno da IA ​​e como esta tecnologia afetará as nossas vidas. Os humanos ainda são quem está no controle aqui, e já estamos vendo grandes avanços na ciência e na medicina. Esqueça a ideia de um apocalipse robótico (pelo menos por enquanto). Porque se ignorarmos os benefícios da IA ​​por medo ou complacência, essa seria a catástrofe mais iminente.