Nas últimas semanas, o Google enfrentou problemas após seu gerador de texto para imagem no Gemini (anteriormente conhecido como Bard) começar a gerar imagens ofensivas, ridículas e embaraçosas. Isso levou um executivo da empresa a admitir que o Google “cometeu um erro” e levou a empresa a pausar a ferramenta de apenas 3 semanas enquanto realizava “testes extensivos”.
Em seguida, o CEO do Google, Sundar Pichai, também comentou o assunto, reafirmando a parte de “cometeu um erro” em um e-mail aos funcionários, de acordo com o texto da mensagem compartilhada pela Semafor. As respostas do Gemini ofenderam usuários e mostraram viés, ele acrescentou. “Isso é completamente inaceitável”.
Quanto à correção, Pichai disse que as ações da empresa incluiriam “mudanças estruturais, diretrizes de produtos atualizadas, processos de lançamento aprimorados, avaliações rigorosas e red-teaming, bem como recomendações técnicas”. “Nenhuma IA é perfeita”, disse ele, “mas sabemos que a barra está alta para nós e continuaremos trabalhando por quanto tempo for necessário”.
A barra está alta porque a competição é acirrada no recém-mercado de IA generativa, com o Google fazendo tudo o que pode para superar rivais como OpenAI, Microsoft, Meta e Anthropic (veja abaixo para mais notícias sobre o que está acontecendo com a OpenAI e a Microsoft). Para o Google, isso significa mais do que apenas consertar o Gemini para que possa continuar “criando grandes produtos usados e amados por bilhões de pessoas e empresas”, como colocou Pichai. Também significa empurrar os limites da tecnologia de IA da empresa. E isso agora inclui o pagamento a um grupo de editoras independentes no mês passado para começar a usar a versão beta de uma ainda não anunciada plataforma de IA generativa para redigir matérias jornalísticas.