Computing Pioneer critica ChatGPT AI Tech por inventar coisas –

Vint Cerf, que ajudou a criar a tecnologia de rede principal da Internet, espera que os engenheiros possam corrigir as falhas do processamento de linguagem de inteligência artificial.

Vint Cerf, um dos fundadores da internet, tem algumas palavras duras para a tecnologia repentinamente quente por trás do chatbot ChatGPT AI: “Óleo de cobra”.

O evangelista da Internet do Google não estava completamente desanimado com a tecnologia de inteligência artificial por trás do ChatGPT e do concorrente Bard do próprio Google, chamado de grande modelo de linguagem. Mas, falando na segunda-feira no TechSurge Summit da Celesta Capital, ele alertou sobre questões éticas de uma tecnologia que pode gerar informações plausíveis, mas incorretas, mesmo quando treinada com base em material factual.

Se um executivo tentasse fazer com que ele aplicasse o ChatGPT a algum problema de negócios, sua resposta seria chamá-lo de óleo de cobra, referindo-se a remédios falsos vendidos por charlatães no século XIX, disse ele. Outra metáfora do ChatGPT envolvia utensílios de cozinha.

“É como um atirador de salada – você sabe como a alface vai para todos os lugares”, disse Cerf. “Os fatos estão por toda parte, e ele os mistura porque não conhece nada melhor.”

O ChatGPT da OpenAI e concorrentes como o Bard do Google têm o potencial de transformar significativamente nossas vidas online respondendo a perguntas, redigindo e-mails, resumindo apresentações e realizando muitas outras tarefas. A Microsoft começou a incorporar a tecnologia de linguagem da OpenAI em seu mecanismo de pesquisa Bing em um desafio significativo para o Google, mas usa seu próprio índice da web para tentar “aterrar” os vôos de fantasia da OpenAI com documentos confiáveis ​​e confiáveis.

A preocupação de Cerf surgiu no momento em que as pessoas que colocavam o Bing à prova descobriam erros factuais que não correspondiam aos documentos de origem e comportamento bizarro do bate-papo durante conversas prolongadas. A Microsoft se comprometeu a melhorar o desempenho.

Em 2004, Cerf dividiu o Prêmio Turing, o maior prêmio em computação, por ajudar a desenvolver a base da Internet chamada TCP/IP, que transfere dados de um computador para outro, dividindo-os em pequenos pacotes endereçados individualmente que podem seguir rotas diferentes de origem ao destino. Ele não é um pesquisador de IA, mas é um engenheiro de computação que gostaria de ver seus colegas melhorarem as deficiências da IA.

Cerf disse que ficou surpreso ao saber que o ChatGPT poderia fabricar informações falsas a partir de uma base factual. “Eu perguntei, ‘Escreva-me uma biografia de Vint Cerf.’ Tem um monte de coisas erradas”, disse Cerf. Foi quando ele aprendeu o funcionamento interno da tecnologia – que usa padrões estatísticos detectados em grandes quantidades de dados de treinamento para construir sua resposta.

“Ele sabe como encadear uma frase com probabilidade gramatical de estar correta”, mas não tem conhecimento verdadeiro do que está dizendo, disse Cerf. “Estamos muito longe da autoconsciência que queremos.”

A OpenAI, que no início de fevereiro lançou um plano de $ 20 por mês para usar o ChatGPT, foi clara sobre as deficiências da tecnologia, mas pretende melhorá-la por meio de “iteração contínua”.

“Às vezes, o ChatGPT escreve respostas que parecem plausíveis, mas incorretas ou sem sentido. Corrigir esse problema é um desafio”, disse o laboratório de pesquisa de IA quando lançou o ChatGPT em novembro.

Cerf também espera progresso. “Engenheiros como eu devem ser responsáveis ​​por tentar encontrar uma maneira de domar algumas dessas tecnologias para que tenham menos probabilidade de causar problemas”, disse ele.

Os comentários de Cerf contrastaram com os de outro vencedor do prêmio Turing na conferência, o pioneiro do design de chips e ex-presidente de Stanford, John Hennessy, que ofereceu uma avaliação mais otimista da IA.

Nota dos editores: a está usando um mecanismo de IA para criar alguns explicadores de finanças pessoais que são editados e verificados por nossos editores. Para saber mais, consulte esta postagem.