quinta-feira, fevereiro 25

Após rebelião interna, Google promete mudanças em sua divisão de IA

Até julho deste ano, o Google promete mudar os procedimentos para revisar o trabalho de sua equipe de cientistas. Trata-se de um esforço da companhia para estancar uma rebelião interna e preservar a integridade de suas pesquisas em Inteligência Artificial (IA). A divisão passou a ser seriamente questionada após a demissão de Timnit Gebru, co-líder da equipe Ethical AI, no começo de dezembro do ano passado (entenda melhor o caso mais abaixo).

A promessa de mudanças teria sido feita em uma reunião de equipe ocorrida na última sexta-feira (19). Nela, executivos do Google Research afirmaram estar trabalhado para reconquistar a confiança da equipe, depois que a empresa demitiu duas de suas mais proeminentes pesquisadoras, além de rejeitar seus trabalhos na área. As informações foram obtidas pela agência de notícias Reuters, que teve acesso a uma gravação de uma hora do encontro.

De acordo com Maggie Johnson, diretora operacional da unidade de pesquisa do Google, uma das primeiras medidas é o uso de um questionário que avaliará os riscos de projetos futuros e que ajudará os cientistas a avaliar as análises. Inclusive, esse formato já está sendo testado pela equipe. O objetivo é que esse primeiro passo no conjunto de mudanças seja implementado no final do segundo trimestre.


Podcast Porta 101: a equipe do Canaltech discute quinzenalmente assuntos relevantes, curiosos, e muitas vezes polêmicos, relacionados ao mundo da tecnologia, internet e inovação. Não deixe de acompanhar.

Tópicos sensíveis

Ainda em dezembro do ano passado, o Google havia apresentado uma revisão de “tópicos sensíveis” para estudos e que envolvem dezenas de questões, como China ou preconceito de raça em seus serviços de IA. Revisores internos exigiram que pelo menos três artigos sobre a tecnologia em questão sejam modificados para evitar colocar o Google em uma posição delicada.

Timmit Gebru: demissão da especialista gerou tensões na divisão de IA do Google (Imagem: Google Walkout For Real Change)

Jeff Dean, vice-presidente sênior do Google que supervisiona a divisão de pesquisas em IA, afirmou na reunião da última sexta-feira que que a análise de tópicos delicados “é e era confusa”. Com isso, ele encarregou Zoubin Ghahramani, um diretor sênior de pesquisa, de esclarecer as regras. Ghahramani, um professor da Universidade de Cambridge que ingressou no Google em setembro do ano passado, vindo da Uber, afirmou no encontro: “Precisamos estar confortáveis ​​com o desconforto”, algo que pode ser avaliado como uma autocrítica sobre quem comanda o setor.

Interferência jurídica

Um e-mail interno – a qual a Reuters teve acesso – ofereceu novos detalhes sobre as preocupações dos pesquisadores do Google, mostrando exatamente como o departamento jurídico empresa modificou um dos três documentos de IA, que leva o nome de “Extraindo dados de treinamento de grandes modelos de linguagem”. Escrito por Nicholas Carlini, pesquisador científico do próprio Google e datado de 8 de fevereiro, o texto foi enviado a centenas de funcionários da companhia, buscando chamar a atenção para o que foi classificado de edições “profundamente insidiosas”, feitas pelo departamento jurídico da gigante das buscas.

 “Vamos ser claros aqui”, dizia o e-mail “Quando nós, como acadêmicos, escrevemos que temos uma ‘preocupação’ ou encontramos algo ‘preocupante’ e um advogado do Google exige que mudemos para um som mais agradável, isso é muito mais um Big Brother intervindo.”

Ainda de acordo com o e-mail, as edições incluíam trocas do termo “negativo” para “neutro”, bem como alterações das palavras “preocupações” para “considerações” e “perigos” para “riscos”. Os advogados também exigiram a exclusão de referências à tecnologia do Google; a descoberta dos autores de que a AI vazou conteúdo protegido por direitos autorais e as palavras “violação” e “sensível”.

Em resposta a perguntas sobre o e-mail, o Google contestou a alegação de que os advogados estavam tentando controlar o tom da pesquisa. A empresa disse que não teve problemas com os tópicos investigados, mas encontrou alguns termos jurídicos usados ​​de forma imprecisa e conduziu uma edição completa como resultado.

Maior igualdade

Na semana passada, o Google também nomeou Marian Croak, uma pioneira na tecnologia VoiP e uma das poucas vice-presidentes negras do Google, para consolidar e gerenciar 10 equipes que estudam questões como preconceito racial em algoritmos e tecnologia para deficientes físicos.

Croak disse na reunião de sexta-feira que levaria tempo para tratar das preocupações entre os pesquisadores de ética em IA e mitigar os danos à marca do Google. No entanto, segundo a gravação obtida pela Reuters, ela teria afirmado:“Por favor, considerem-me totalmente responsável por tentar reverter essa situação”.

Marian Croak: uma das poucas VPs negras do Google gerenciará questões de igualdade na empresa (Imagem: New America / Wikipedia)

Ainda dentro das medidas a serem tomadas dentro da divisão de IA, Maggie Johnson acrescentou que a unidade está contratando uma empresa de consultoria para uma ampla avaliação do impacto da equidade racial. A auditoria inédita para o departamento levaria a recomendações “que serão muito difíceis”, nas palavras da executiva.

Como começou a rebelião na divisão de IA do Google?

As tensões na divisão de Inteligência Artificial do Google começaram em dezembro do ano passado, quando a empresa demitiu Timnit Gebru, co-líder da equipe de pesquisa ética em IA e que é negra. Sua dispensa teria se dado por criticar a abordagem de contratação de minorias e os preconceitos embutidos nos atuais sistemas de inteligência artificial da companhia.

Segundo reportagem do site da Bloomberg, um grupo de pesquisadores de IA do Google enviou uma lista abrangente de demandas à gerência da empresa, pedindo novas políticas e mudanças de liderança. A nota gira em torno da saída Gebru, que gerou protestos dentro da companhia. Citando essa situação, os funcionários exigiram o afastamento de Megan Kacholia, vice-presidente da divisão, e que teria excluído o chefe direto de Gebru da decisão de demiti-la.Além disso, quase 2.700 funcionários da companhia assinaram uma carta aberta em apoio à especialista.

Em um e-mail enviado no último dia 1º de dezembro a um grupo que incluía funcionários do Google, Timnit Gebru expressou exasperação com a resposta do Google aos seus esforços – e de outros funcionários – para aumentar a contratação de minorias e chamar a atenção para o preconceito na inteligência artificial.

Em uma entrevista ao jornal The New York Times, Gebru disse seus conflitos com o Google foram iniciados a partir do tratamento que a empresa deu a um artigo que ela havia escrito com seis outros pesquisadores, quatro deles do próprio Google. O material apontou falhas em uma nova geração de tecnologia de linguagem, incluindo um sistema construído pelo Google que sustenta o mecanismo de busca da empresa.

Segundo a Dra. Gebru, esses sistemas aprendem os caprichos da linguagem analisando enormes quantidades de texto, incluindo milhares de livros, inserções na Wikipedia e outros documentos online. Como este texto inclui linguagem tendenciosa e, às vezes, odiosa, a tecnologia pode acabar gerando linguagem tendenciosa e odiosa da maneira, devido ao seu machine learning.

Gebru afirma que, depois que ela e outros pesquisadores enviaram o artigo para uma conferência acadêmica, um gerente do Google exigiu que ela retirasse material o evento ou removesse seu nome e os nomes de outros funcionários da empresa. Ela se recusou a fazer isso, sem mais discussões e, no e-mail enviado no dia 1º de dezembro, disse que renunciaria ao seu cargo após um período apropriado, se o Google não pudesse explicar por que queria que ela retirasse o documento e respondesse a outras questões.

A empresa respondeu ao seu e-mail, disse ela, dizendo que não poderia atender às suas demandas e que sua renúncia foi aceita imediatamente. Seu acesso ao e-mail da empresa e outros serviços foi revogado imediatamente. Em nota aos funcionários, Jeff Dean, disse que a empresa respeitava “a decisão de da Dra Gebru de renunciar”.

Procurado pela Reuters, o Google se recusou a comentar sobre a reunião de sexta-feira.

Leia também:

Leia a matéria no Canaltech.

Trending no Canaltech: