O aplicativo de IA da HeHealth que exibia ‘fotos de pau’ para DSTs foi encerrado

• O aplicativo Calmara, alimentado por inteligência artificial da HeHealth, afirmou oferecer testes de saúde sexual rápidos, confidenciais e cientificamente validados.
• O FTC investigou as alegações do aplicativo e descobriu preocupações com a precisão dos testes e a forma como a IA foi treinada.
• A HeHealth concordou em desligar os aplicativos, apagar todas as informações pessoais dos usuários e fornecedores e não prosseguir com a investigação do FTC.

O aplicativo Calmara, alimentado por inteligência artificial da HeHealth, afirmou: “Nossa tecnologia inovadora de IA oferece testes de saúde sexual rápidos, confidenciais e cientificamente validados, dando-lhe tranquilidade antes de se envolver em encontros íntimos”, mas agora está desligado após uma investigação da Comissão Federal de Comércio (FTC). O aplicativo incentivava os usuários a enviar fotos genitais para verificar infecções sexualmente transmissíveis, prometendo “respostas claras e respaldadas pela ciência sobre o estado de saúde sexual do seu parceiro”, de acordo com uma carta da FTC datada de 11 de julho. A carta expõe algumas das preocupações da agência com as informações nas quais a HeHealth baseou suas alegações, incluindo uma que dizia poder detectar mais de 10 infecções sexualmente transmissíveis com até 94% de precisão.

O FTC observa que a HeHealth pagou vários autores de estudos e que o estudo principal citado pela empresa avaliou apenas quatro tipos de ISTs, em vez de 10, e os dados usados para treinar o modelo de IA incluíam imagens de usuários que nunca fizeram um teste de diagnóstico para confirmar os resultados. Dado que a maioria das ISTs é assintomática, de acordo com a Organização Mundial da Saúde, os profissionais médicos questionaram a confiabilidade das táticas do aplicativo. Uma investigação do Los Angeles Times descobriu que o Calmara nem sequer conseguia discernir objetos inanimados e falhou em identificar “imagens didáticas” de ISTs.

Vídeos do YouTube também mostram que a Calmara se comercializava para mulheres para verificar seus encontros, criando questões evidentes sobre consentimento, embora um comunicado de imprensa de março insista que o aplicativo exigia “consentimento explícito”. O aplicativo HeHealth, que utiliza a mesma IA, se comercializava mais como um primeiro passo para os indivíduos antes de se conectar com um provedor médico. A empresa concordou em desativar ambos os aplicativos até 15 de julho, e o site do Calmara e os links para o aplicativo HeHealth parecem estar offline. A empresa também concordou em apagar todas as informações pessoais dos clientes obtidas através dos aplicativos ou fornecedores de pagamento e solicitar que esses fornecedores apaguem quaisquer dados sobre seus clientes, informou a FTC.

#tecnologia #primeirapágina #saúde #Ciência #regulamento #política #privacidade #tecnologia #aplicativos #inteligênciaartificial #política