Como a IA fará do Bing algo com o qual você realmente se importa –

Não é apenas ChatGPT sob um logotipo do Bing. A Microsoft combina a tecnologia de linguagem da OpenAI com seu próprio mecanismo de busca Bing.

O mecanismo de busca da Microsoft, o Bing, enfrenta um grande problema: é ofuscado pelo Google. Com a inteligência artificial fornecida pela tecnologia de linguagem da OpenAI, a base que tornou o serviço ChatGPT um sucesso, o Bing tem a chance de atrair mais atenção para si mesmo.

Para que o Bing mais inteligente funcione, porém, a Microsoft precisa acertar os detalhes. O ChatGPT pode ser útil, mas também pode ser esquisito, e ninguém quer um mecanismo de pesquisa em que não possa confiar.

A Microsoft colocou muito pensamento e seus próprios recursos de programação no desafio. Ele luta com questões como a forma como o Bing com IA mostra anúncios, revela suas fontes de dados e fundamenta a tecnologia de IA na realidade para que você obtenha resultados confiáveis, não as alucinações digitais que podem ser difíceis de detectar em informações geradas por máquinas.

Falei com Jordi Ribas, líder de pesquisa e IA do Bing, para aprofundar o mecanismo de pesquisa revisado do Bing. Ele é um grande fã que usou a tecnologia para ajudá-lo a escrever um memorando para seu chefe sobre isso. “Isso provavelmente me economizou de duas a três horas”, disse ele, e também melhorou o inglês do executivo espanhol.

Quando a tecnologia se expandir além do grupo de teste muito pequeno de hoje, ela permitirá que milhões de nós procurem informações muito mais complicadas, como se um sofá da Ikea caberá em seu carro. E todos nós poderemos ver se isso realmente dá ao Google uma corrida pelo seu dinheiro. Mas, por enquanto, aqui está o que eu aprendi.

Bing AI não é apenas uma versão repaginada do ChatGPT

A Microsoft combina seu mecanismo de pesquisa Bing com a tecnologia de modelo de linguagem grande da OpenAI, o laboratório de IA que construiu a ferramenta ChatGPT que despertou entusiasmo sobre a IA e na qual a Microsoft investiu. por exemplo, “Escreva um pequeno ensaio sobre a importância do taoísmo.” Mas para outras consultas, as tecnologias Bing e OpenAI são combinadas por meio de um sistema de orquestração que a Microsoft chama de Prometheus.

Por exemplo, você pode Bing, “Eu gosto da banda Led Zeppelin. Que outros músicos devo ouvir?” O OpenAI primeiro parafraseia que solicita “bandas semelhantes ao Led Zeppelin” e, em seguida, reembala os resultados de pesquisa do Bing em uma lista com marcadores. Cada sugestão, como Fleetwood Mac, Pink Floyd e Rolling Stones, vem com uma descrição de duas frases.

Bing AI cita suas fontes – às vezes

Quando você dá um prompt ao ChatGPT, ele responde com o texto que gera, mas não informa de onde obteve essas informações. O sistema de IA é treinado em grandes quantidades de informações na internet, mas é difícil traçar uma linha direta entre esses dados de treinamento e a saída do ChatGPT.

No Bing, no entanto, informações factuais geralmente são anotadas, porque o Bing conhece a fonte de sua indexação da web. Por exemplo, no prompt do Led Zeppelin acima, o Bing inclui um link na parte superior de sua resposta para uma postagem do Musicaroo, 13 bandas que soam como o Led Zeppelin, e inclui esse link e outros do MusicalMum e do Producer Hive.

Essa transparência de fornecimento ajuda a abordar uma grande crítica à IA, tornando mais fácil avaliar se a resposta é precisa ou uma mera alucinação da IA. Mas nem sempre aparece. No ensaio sobre o taoísmo acima, por exemplo, não há fontes, notas de rodapé ou links.

Alguns links de origem são anúncios que geram dinheiro para a Microsoft

As respostas elaboradas do Bing AI fornecem uma nova maneira para a Microsoft gerar dinheiro com anúncios. Nas pesquisas tradicionais do Bing, os resultados de pesquisa “orgânicos” que o Bing considera mais relevantes são separados dos itens colocados pelos anunciantes. Mas com as pesquisas do Bing AI, os dois tipos de informação podem ser combinados.

Por exemplo, em sua resposta à consulta “planeje uma viagem de uma semana para a Islândia sem um carro alugado”, o Bing com inteligência artificial sugere vários destinos. Em um deles, várias palavras são sublinhadas: “Você pode visitar lugares como Vík, Skógafoss, Seljalandsfoss e a lagoa glacial Jökulsárlón participando de uma excursão de vários dias ou pegando um ônibus”. Passar o mouse sobre esse link mostra três fontes para essas informações e um anúncio de uma empresa de turismo. O anúncio é o item principal dos três e é rotulado como “anúncio”.

“Quando você olha para essas citações, às vezes elas são anúncios”, disse Ribas. “Quando é mais uma consulta de intenção de compra, você passa o mouse sobre ela e vê a lista de referências e às vezes é um anúncio. Então, às vezes, na própria conversa, você verá anúncios de produtos, como se você fizesse uma consulta de hotel.”

A receita de anúncios é um grande negócio, já que são necessárias semanas de trabalho em um enorme cluster de computadores para a OpenAI criar uma única atualização para seu modelo de linguagem, e o CEO da OpenAI, Sam Altman, estima que custa alguns centavos para processar cada prompt do ChatGPT. O Bing, embora seja um distante segundo lugar atrás do Google no mercado de mecanismos de busca, ainda lida com milhões de consultas por dia.

O Google planeja abrir o acesso ao seu chatbot Bard AI em breve, mas não incluirá anúncios para começar.

Os resultados impulsionados pelo OpenAI são mais relevantes do que o velho Bing

A medida fundamental da utilidade de um mecanismo de pesquisa é se seus resultados são relevantes, e a tecnologia OpenAI traz um grande impulso na medição que a Microsoft usa para pontuar a relevância dos resultados de seu mecanismo de pesquisa.

“Minha equipe, trabalhando super, super duro em um determinado ano, pode mover essa métrica em um ponto”, disse Ribas, mas a tecnologia da OpenAI aumentou três pontos de uma só vez. “Isso nunca aconteceu antes na história do Bing”, disse Ribas.

Esse aumento de relevância é apenas para resultados de pesquisa comuns, acrescentou Ribas. A tecnologia da OpenAI pode melhorar ainda mais o Bing com sua interface de bate-papo que oferece respostas mais elaboradas e uma troca de acompanhamento.

OpenAI torna o Bing melhor além do idioma inglês

Uma área específica em que o Bing tem sido fraco são as pesquisas que não estão em inglês, e Ribas disse que o OpenAI ajuda nisso. Grande parte do ganho de três pontos do Bing na pontuação de relevância “veio dos mercados internacionais”, disse Ribas.

O modelo de linguagem grande da OpenAI, ou LLM, é treinado com texto de 100 idiomas. “O catalão é minha primeira língua. Posso dialogar em catalão. Funciona muito, muito bem”, disse Ribas

Bing torna os resultados do OpenAI mais atualizados

Grandes modelos de linguagem como o GPT-3.5 da OpenAI, a base do ChatGPT, são lentos para serem construídos e aprimorados, o que significa que eles não se movem na velocidade da web ou dos mecanismos de busca convencionais. O GPT-3.5, por exemplo, foi treinado em 2021, então não faz ideia sobre a invasão da Ucrânia pela Rússia, os efeitos da inflação recente sobre os consumidores ou Xi Jinping garantindo seu terceiro mandato como secretário-geral do Partido Comunista Chinês.

No entanto, o Bing geralmente conhece essas informações mais recentes. “Ao trazer os resultados do Bing, você obterá novos resultados nessa resposta completa”, disse Ribas.

Bing ‘funda’ os vôos de fantasia da OpenAI

A Microsoft usa seus dados do Bing para tentar evitar situações em que a tecnologia mais criativa da OpenAI pode desviar as pessoas. Quanto mais factuais forem uma consulta e uma resposta, mais a tecnologia do Bing será usada na resposta, disse Ribas. Esse “aterramento” reduz significativamente os problemas da IA ​​em inventar coisas: “Isso reduzirá a alucinação, que é … uma batalha contínua”, disse Ribas.

Mas a Microsoft não quer que seu sistema de aterramento esmague toda a mágica da IA. Há uma razão pela qual o ChatGPT é tão cativante. O sistema Prometheus decide as prioridades para cada consulta.

“Tivemos que encontrar o ponto ideal entre aterrar demais o modelo e mantê-lo interessante”, disse Ribas. “Temos uma medida do interesse dos resultados e uma medida da fundamentação dos resultados. Quanto mais a consulta estiver procurando por algo muito factual, mais ponderamos a fundamentação. Quanto mais a consulta deve ser criativo, menos pesamos o chão. Eu continuei dizendo à minha equipe, quero meu bolo e comê-lo também.