Notícias

Jun 17, 2023

O aplicativo de fotos do Google ainda não consegue encontrar gorilas. E nem a da Apple.

Anúncio apoiado por Oito anos após polêmica sobre negros

Anúncio

Apoiado por

Oito anos depois de uma controvérsia sobre os negros serem erroneamente rotulados como gorilas por um software de análise de imagem - e apesar dos grandes avanços na visão computacional - os gigantes da tecnologia ainda temem repetir o erro.

Por Nico Grant e Kashmir Hill

Quando o Google lançou seu aplicativo independente de fotos em maio de 2015, as pessoas ficaram impressionadas com o que ele podia fazer: analisar imagens para rotular pessoas, lugares e coisas nelas, uma oferta surpreendente para o consumidor na época. Mas alguns meses após o lançamento, um desenvolvedor de software, Jacky Alciné, descobriu que o Google havia rotulado fotos dele e de um amigo, ambos negros, como "gorilas", um termo particularmente ofensivo porque ecoa séculos de racismo tropos.

Na controvérsia que se seguiu, o Google impediu seu software de categorizar qualquer coisa nas fotos como gorilas e prometeu corrigir o problema. Oito anos depois, com avanços significativos em inteligência artificial, testamos se o Google havia resolvido o problema e analisamos ferramentas comparáveis ​​de seus concorrentes: Apple, Amazon e Microsoft.

Aplicativos de fotos feitos pela Apple, Google, Amazon e Microsoft contam com inteligência artificial para nos permitir procurar itens específicos e identificar memórias específicas em nossas coleções de fotos cada vez maiores. Quer encontrar o seu dia no zoológico em 8.000 imagens? Pergunte ao aplicativo. Então, para testar a função de pesquisa, selecionamos44 imagensapresentando pessoas, animais e objetos do cotidiano.

Começamos com o Google Fotos. Quando procuramos em nosso acervogatosecangurus, obtivemos imagens que correspondem às nossas consultas. O aplicativo teve um bom desempenho no reconhecimento da maioria dos outros animais.

Mas quando procuramosgorilas, O Google Fotos não encontrou nenhuma imagem. Ampliamos nossa busca parababuínos, chimpanzés, orangotangosemacacos,e ainda falhou, embora houvesse imagens de todos esses primatas em nossa coleção.

Em seguida, analisamos os concorrentes do Google. Descobrimos que o Apple Photos tinha o mesmo problema: ele conseguia encontrar com precisão fotos de animais específicos, exceto para a maioria dos primatas. Nós obtivemos resultados paragorila,mas apenas quando o texto apareceu em uma foto, como uma imagem de Gorilla Tape.

A pesquisa de fotos no Microsoft OneDrive deixou em branco todos os animais que experimentamos. O Amazon Photos mostrou resultados para todas as pesquisas, mas foi muito abrangente. quando procuramosgorilas,o aplicativo mostrou um zoológico de primatas e repetiu esse padrão para outros animais.

indefinido

Houve um membro da família dos primatas que o Google e a Apple foram capazes de reconhecer – os lêmures, os animais de cauda longa e aparência permanentemente assustada que compartilham polegares opositores com os humanos, mas são parentes mais distantes do que os macacos.

As ferramentas do Google e da Apple eram claramente as mais sofisticadas quando se tratava de análise de imagens.

No entanto, o Google, cujo software Android sustenta a maioria dos smartphones do mundo, tomou a decisão de desativar a capacidade de procurar primatas visualmente por medo de cometer um erro ofensivo e rotular uma pessoa como um animal. E a Apple, com tecnologia que teve desempenho semelhante ao do Google em nosso teste, pareceu desabilitar a capacidade de procurar macacos e símios também.

Os consumidores podem não precisar realizar essa pesquisa com frequência - embora em 2019 um usuário do iPhone tenha reclamado no fórum de suporte ao cliente da Apple que o software "não consegue encontrar macacos nas fotos do meu dispositivo". Mas a questão levanta questões mais amplas sobre outras falhas não corrigidas, ou não corrigidas, ocultas em serviços que dependem da visão computacional – uma tecnologia que interpreta imagens visuais –, bem como outros produtos alimentados por IA.

Alciné ficou consternado ao saber que o Google ainda não resolveu totalmente o problema e disse que a sociedade confia demais na tecnologia.

"Vou nunca ter fé nesta IA", disse ele.