Vint Cerf, que ajudou a criar a tecnologia de rede central da Internet, espera que os engenheiros possam melhorar a deficiência da inteligência artificial.
Vint Cerf, um dos fundadores da Internet, tem algumas palavras duras para a tecnologia repentinamente quente por trás do chatbot ChatGPT AI: “Óleo de cobra”.
O evangelista da Internet do Google não estava completamente desanimado com a tecnologia de inteligência artificial por trás do ChatGPT e do concorrente Bard do próprio Google, chamado de grande modelo de linguagem. Mas, falando na segunda-feira no TechSurge Summit da Celesta Capital, ele alertou sobre questões éticas de uma tecnologia que pode gerar informações plausíveis, mas incorretas, mesmo quando treinada com base em material factual.
Se um executivo tentasse fazer com que ele aplicasse o ChatGPT a algum problema de negócios, sua resposta seria chamá-lo de óleo de cobra, referindo-se a remédios falsos vendidos por charlatães no século XIX, disse ele. Outra metáfora do ChatGPT envolvia utensílios de cozinha.
“É como um atirador de salada – você sabe como a alface vai para todos os lugares”, disse Cerf. “Os fatos estão por toda parte, e ele os mistura porque não conhece nada melhor.”
Cerf dividiu o Prêmio Turing de 2004, o maior prêmio em computação, por ajudar a desenvolver a base da Internet chamada TCP/IP, que transporta dados de um computador para outro, dividindo-os em pequenos pacotes endereçados individualmente que podem seguir rotas diferentes da origem para a destino. Ele não é um pesquisador de IA, mas é um engenheiro de computação que gostaria de ver seus colegas melhorarem as deficiências da IA.
O ChatGPT da OpenAI e concorrentes como o Bard do Google têm o potencial de transformar significativamente nossas vidas online, respondendo a perguntas, redigindo e-mails, resumindo apresentações e realizando muitas outras tarefas. A Microsoft começou a incorporar a tecnologia de linguagem da OpenAI em seu mecanismo de busca Bing em um desafio significativo para o Google, mas usa seu próprio índice da web para tentar “aterrar” os vôos de fantasia da OpenAI com documentos confiáveis e autorizados.
Cerf disse que ficou surpreso ao saber que o ChatGPT poderia fabricar informações falsas a partir de uma base factual. “Eu perguntei, ‘Escreva-me uma biografia de Vint Cerf.’ Tem um monte de coisas erradas”, disse Cerf. Foi quando ele aprendeu o funcionamento interno da tecnologia – que usa padrões estatísticos detectados em grandes quantidades de dados de treinamento para construir sua resposta.
“Ele sabe como encadear uma frase com probabilidade gramatical de estar correta”, mas não tem conhecimento verdadeiro do que está dizendo, disse Cerf. “Estamos muito longe da autoconsciência que queremos.”
A OpenAI, que no início de fevereiro lançou um plano de $ 20 por mês para usar o ChatGPT, foi clara sobre as deficiências da tecnologia, mas pretende melhorá-la por meio de “iteração contínua”.
“Às vezes, o ChatGPT escreve respostas que parecem plausíveis, mas incorretas ou sem sentido. Corrigir esse problema é um desafio”, disse o laboratório de pesquisa de IA quando lançou o ChatGPT em novembro.
Cerf também espera progresso. “Engenheiros como eu devem ser responsáveis por tentar encontrar uma maneira de domar algumas dessas tecnologias para que tenham menos probabilidade de causar problemas”, disse ele.
Os comentários de Cerf contrastaram com os de outro vencedor do prêmio Turing na conferência, o pioneiro do design de chips e ex-presidente de Stanford, John Hennessy, que ofereceu uma avaliação mais otimista da IA.
Nota dos editores: a está usando um mecanismo de IA para criar alguns explicadores de finanças pessoais que são editados e verificados por nossos editores. Para saber mais, consulte esta postagem.