IA e você: o prefeito de Nova York não consegue falar mandarim, a trilha do dinheiro da IA, quem define as regras –
Uma pergunta que costumo fazer às pessoas em entrevistas é sobre que tecnologia gostariam de ver inventada. Pedidos populares incluem transportadores, para se locomover de um lugar para outro em um piscar de olhos; clones, para poderem estar efetivamente em dois lugares ao mesmo tempo; e um robô/inteligência artificial que pode fazer tarefas domésticas, como a Rosey de Os Jetsons, mas também servir como assistente digital gerenciando agendas e respondendo perguntas complexas, como o Jarvis de Os Vingadores.
Mas sempre que alguém me pergunta sobre qual tecnologia eu gostaria, eu sempre digo o tradutor universal, que permite entender e falar qualquer idioma. Quando a IA se tornou um grande assunto no ano passado e o ChatGTP estava disponível em telefones celulares, o Trekkie em mim comemorou essa iteração do tradutor universal. Eu traduzi emails para outros idiomas (incluindo klingon e sindarin élfico) para amigos e tive texto traduzido para mim do grego. Agora com a tecnologia de voz IA, você pode ter o que quiser não apenas traduzido em texto, mas falado, com sua voz, em outros idiomas. Bem legal, certo?
Claro, a chave para fazer algo como isso é a transparência — dizer ao destinatário que as palavras são suas, mas a voz falando não é você para não enganá-los a acreditar que você aprendeu outro idioma. E é aí que as coisas parecem ter dado errado para o prefeito de Nova York Eric Adams na última semana. Adams e sua equipe de tecnologia enviaram mensagens pelo sistema de ligações automáticas da cidade em múltiplos idiomas usando uma ferramenta de tradução de voz IA da ElevenLabs. Ele diz que foi em parte para cumprir uma lei de Nova York que exige que “a maioria das agências públicas tenham um ‘coordenador de acesso a idiomas’ e forneçam ‘interpretação telefônica’ em cerca de 100 idiomas”. Também exige que documentos importantes e serviços diretos sejam traduzidos em 10 idiomas: árabe, urdu, francês, polonês, espanhol, chinês, russo, bengali, crioulo haitiano e coreano, de acordo com o serviço de notícias The City.
Adams alcançou “mais de 4 milhões de nova-iorquinos por meio de ligações automatizadas e enviou milhares de ligações em espanhol, mais de 250 em iídiche, mais de 160 em mandarim, 89 ligações em cantonês e 23 em crioulo haitiano”, disse um porta-voz do prefeito aos repórteres. “As pessoas me param na rua o tempo todo e dizem: ‘Eu não sabia que você fala mandarim, você sabe?'” disse Adams, de acordo com a Associated Press. “As ligações automatizadas que estamos usando, estamos usando diferentes idiomas para falar diretamente com a diversidade de nova-iorquinos.”
O problema: Ele não revelou que IA foi usada para fazê-lo soar como um falante nativo desses idiomas. E isso desagradou alguns especialistas em ética. “O prefeito está fazendo deepfakes de si mesmo”, disse Albert Fox Cahn, diretor executivo do grupo de monitoramento Surveillance Technology Oversight Project, à AP. “Isso é profundamente antiético, especialmente com o dinheiro dos contribuintes. Usar IA para convencer os nova-iorquinos de que ele fala idiomas que ele não fala é francamente orwelliano. Sim, precisamos de anúncios em todos os idiomas nativos dos nova-iorquinos, mas os deepfakes são apenas um projeto de vaidade enganoso.”
Por sua parte, Adams descartou questões éticas e disse aos repórteres que ele apenas está tentando falar com seus diversos constituintes. “Eu tenho uma coisa: eu tenho que administrar a cidade e preciso poder falar com as pessoas nos idiomas que elas entendem, e estou feliz em fazê-lo”, disse ele, de acordo com a AP. “E para todos, tudo que posso dizer é um ‘ni hao’.” E tudo que direi a Adams é “ghoHlaHchugh Hutlh NY ghotvam’e’ Hoch tlhInganpu’ je jatlhlaHbe’chugh QaQ yIn ‘e’ chaw’.” Isso é klingon para “Revele aos residentes de NY que você está falando com eles graças à tecnologia de tradução de voz IA.”
