O gigante das buscas está sendo criticado depois que seu aplicativo Photo classificou incorretamente as fotos do usuário de forma ofensiva. Isso aponta para outro desafio que as empresas do Vale do Silício precisam enfrentar ao desenvolver tecnologia de última geração: a sensibilidade.
O Google se tornou uma das empresas mais poderosas da Terra porque desenvolveu alguns dos melhores algoritmos do mundo para organizar informações. Mas uma gafe esta semana mostra as deficiências da tecnologia, principalmente quando ela não funciona direito.
Jacky Alcine, um desenvolvedor da Web que é negro, foi ao Twitter para dizer que o aplicativo de fotos do Google, lançado em maio, rotulou uma foto dele e de um amigo como “gorilas”. O rótulo apareceu em um recurso que categoriza fotos automaticamente, como carros ou praias, para que sejam mais facilmente pesquisáveis.
“Meu amigo não é um gorila”, tuitou Alcine. Ele não respondeu imediatamente a um pedido de comentário.
O incidente aponta para o problema que as empresas de tecnologia enfrentam à medida que os computadores ficam mais inteligentes e espera-se que assumam mais tarefas que um ser humano normalmente faria. Essas áreas da ciência da computação – como inteligência artificial ou aprendizado de máquina – são alguns dos maiores focos de engenharia no Vale do Silício. Mas com esse foco vem outra tarefa que os computadores tradicionalmente não abordam: lidar com o desafio da sensibilidade.
Esta não é a primeira vez que os algoritmos bagunçam de maneiras que as pessoas consideram ofensivas. Quando o Yahoo reformulou seu aplicativo de armazenamento de fotos Flickr em maio, a empresa adicionou recursos semelhantes que adicionam tags automaticamente às fotos. O algoritmo marcou uma foto de um homem negro como um macaco, e fotos de campos de concentração receberam tags como “trepa-trepa” e “esporte”.
Depois que o Google soube do incidente com a foto de Alcine, a empresa se desculpou imediatamente e tentou consertar.
“Muito trabalho sendo feito e muito ainda a ser feito”, tuitou Yonatan Zunger, arquiteto-chefe de redes sociais do Google. “Estamos muito nisso.”
Nesse meio tempo, o Google se desculpou.
“Estamos chocados e genuinamente arrependidos que isso tenha acontecido”, disse uma porta-voz do Google. o futuro.”