Os vencedores do prêmio Turing mais recentes avisam novamente sobre os perigos da AI
“`html
Resumo:
- Vencedores do Prêmio Turing 2024 alertam sobre os perigos da pressa no desenvolvimento de IA.
- Críticas à falta de testes rigorosos e foco no lucro em detrimento da segurança.
- Desenvolvimento de “reforço de aprendizado” impulsionou avanços como o ChatGPT.
- Apelo por práticas de engenharia mais seguras e responsáveis na indústria de IA.
Os criadores de um método fundamental de treinamento de IA, laureados com o Prêmio Turing, alertam sobre os perigos da Inteligência Artificial. Andrew Barto e Richard Sutton, os cérebros por trás do “reforço de aprendizado”, expressaram sérias preocupações sobre a forma como as empresas de IA estão lançando produtos no mercado.
Segundo eles, há uma motivação excessiva pelo lucro, em vez da segurança. Barto comparou a situação a “construir uma ponte e testá-la fazendo com que as pessoas a usem”. Em outras palavras, as empresas estão liberando modelos de IA sem testes adequados, colocando o público em risco.
O Prêmio Turing, muitas vezes chamado de “Nobel da Computação”, reconheceu Barto e Sutton por seu trabalho no “reforço de aprendizado”. Essa técnica de aprendizado de máquina ensina sistemas de IA a tomar decisões otimizadas por meio de tentativa e erro. Gigantes como o Google consideram essa técnica um pilar do progresso da IA, levando a modelos inovadores como o ChatGPT e o AlphaGo.
Apesar dos avanços, Barto enfatizou que “lançar software para milhões de pessoas sem salvaguardas não é uma boa prática de engenharia”. Ele argumenta que as empresas de IA não estão aplicando as precauções necessárias para mitigar as potenciais consequências negativas da tecnologia.
Essa crítica não é isolada. Outros luminares da IA, como Yoshua Bengio e Geoffrey Hinton, também já expressaram preocupações semelhantes. Além disso, um grupo de CEOs, incluindo Sam Altman da OpenAI, alertou para o risco de extinção devido à IA, defendendo que a mitigação desse risco seja uma prioridade global.
Barto apontou que as empresas de IA são “motivadas por incentivos de negócios” em vez de se concentrarem em pesquisa e desenvolvimento de IA seguros. A OpenAI, por exemplo, apesar das promessas de melhorar a segurança da IA, anunciou planos de se tornar uma empresa com fins lucrativos, levantando questões sobre suas prioridades.
A crescente preocupação entre os especialistas em IA destaca a necessidade urgente de uma abordagem mais responsável e ética no desenvolvimento e lançamento de tecnologias de IA.
“`
