As trocas estão sendo restritas para que o chatbot de IA não fique muito estranho.
A Microsoft está limitando o quanto as pessoas podem conversar com seu chatbot Bing AI, após a cobertura da mídia sobre o bot saindo dos trilhos durante longas trocas.
O Bing Chat agora responderá a até cinco perguntas ou declarações seguidas para cada conversa, após o que os usuários serão solicitados a iniciar um novo tópico, disse a empresa em um post de blog na sexta-feira. Os usuários também serão limitados a 50 respostas totais por dia.
As restrições destinam-se a evitar que as conversas fiquem estranhas. A Microsoft disse que longas discussões “podem confundir o modelo de bate-papo subjacente”.
Na quarta-feira, a empresa havia dito que estava trabalhando para corrigir problemas com o Bing, lançado há pouco mais de uma semana, incluindo erros factuais e trocas estranhas. As respostas bizarras relatadas online incluíram o Bing dizendo a um colunista do New York Times para abandonar seu casamento pelo chatbot, e a IA exigindo um pedido de desculpas de um usuário do Reddit se estamos no ano de 2022 ou 2023.
As respostas do chatbot também incluíram erros factuais. A Microsoft disse na quarta-feira que estava ajustando o modelo de IA para quadruplicar a quantidade de dados a partir dos quais pode obter respostas. A empresa disse que também daria aos usuários mais controle sobre se eles querem respostas precisas, que são provenientes da tecnologia proprietária Bing AI da Microsoft ou respostas mais “criativas” que usam a tecnologia ChatGPT da OpenAI.
A funcionalidade de bate-papo AI do Bing ainda está em teste beta, com usuários em potencial em uma lista de espera para acesso. Com a ferramenta, a Microsoft espera obter uma vantagem sobre o que alguns dizem que será a próxima revolução na pesquisa na Internet.
A tecnologia ChatGPT causou grande impacto quando foi lançada em novembro, mas a própria OpenAI alertou sobre possíveis armadilhas e a Microsoft reconheceu as limitações da IA. Apesar das qualidades impressionantes da IA, surgiram preocupações sobre o uso da inteligência artificial para fins nefastos, como espalhar desinformações e enviar e-mails de phishing.
Com os recursos de IA do Bing, a Microsoft também gostaria de dar um salto na potência de busca Google, que anunciou seu próprio modelo de bate-papo com IA, o Bard, na semana passada. Bard teve seus próprios problemas com erros factuais, atrapalhando uma resposta durante sua primeira demonstração pública.
Em sua postagem no blog de sexta-feira, a Microsoft sugeriu que as novas restrições de bate-papo de IA são baseadas em informações obtidas no teste beta.
“Nossos dados mostraram que a grande maioria de vocês encontra as respostas que procura em 5 turnos e que apenas cerca de 1% das conversas de bate-papo têm mais de 50 mensagens”, afirmou. “À medida que continuamos recebendo seus comentários, exploraremos a expansão dos limites nas sessões de bate-papo para aprimorar ainda mais as experiências de pesquisa e descoberta”.
Nota dos editores: a está usando um mecanismo de IA para criar alguns explicadores de finanças pessoais que são editados e verificados por nossos editores. Para saber mais, veja este post.