Siga o Olhar Do dedo no Google Discover
Tudo sobre Google
O Google está sendo criminado de colocar a segurança dos usuários em risco ao minimizar avisos de que seus resumos de saúde gerados por Lucidez Sintético (IA) podem sustar erros. Embora a gigante de tecnologia afirme que suas ferramentas incentivam a procura por ajuda profissional, a verdade na interface do buscador parece ser outra.
De pacto com uma investigação exclusiva do The Guardian, a empresa não inclui nenhum tipo de isenção de responsabilidade (disclaimer) quando os usuários visualizam os conselhos médicos da “AI Overview” (Visão Universal de IA) pela primeira vez. O alerta só surge se o internauta sentenciar expandir a resposta clicando em “Mostrar mais” e, ainda assim, o aviso é exibido no final do texto, com uma nascente menor e mais clara que o restante do teor.
O transe da “crédito automática”
Especialistas em IA e defensores dos direitos dos pacientes expressaram profunda preocupação com os achados do The Guardian. Para Pat Pataranutaporn, professor e pesquisador do MIT, a exiguidade de avisos proeminentes cria um cenário perigoso por dois motivos principais:
- Alucinações da IA: Mesmo os modelos mais avançados podem inventar informações ou priorizar a satisfação do usuário em detrimento da precisão técnica.
- Falsa sensação de segurança: A posição de destaque no topo da página desencoraja o usuário a buscar outras fontes ou a ler o texto até o término, onde o aviso de segurança está “escondido”.
“Os avisos servem porquê um ponto de mediação crucial”, afirma Pataranutaporn. “Eles quebram a crédito automática e forçam o usuário a determinar criticamente a informação recebida.”
O que diz o Google
Essa não é a primeira vez que o Google enfrenta críticas sobre o tema. Em janeiro, outra investigação já havia mostrado que informações falsas e enganosas estavam sendo entregues aos usuários. Em resposta, a empresa chegou a remover a IA de algumas buscas médicas, mas a instrumento permanece ativa para diversas outras consultas de saúde.
Em sua resguardo, um porta-voz do Google negou que a instrumento falhe em orientar os usuários. A empresa afirma que as visões gerais de IA “frequentemente mencionam a premência de procurar atendimento médico diretamente dentro do resumo, quando favorável”, e que a sugestão de buscar um profissional é um pilar do sistema.
No entanto, para entidades porquê a Anthony Nolan, instituição de humanitarismo voltada para pacientes com cancro no sangue, as medidas atuais são insuficientes.
Esse aviso precisa estar no topo. Gostaria que fosse a primeira coisa que você visse, e com o mesmo tamanho de nascente do resto do texto.
Tom Bishop, director de informação aos pacientes da Anthony Nolan
A sátira mediano permanece: ao oferecer respostas que parecem completas e definitivas logo no topo da tela, o Google pode estar impedindo que pessoas com condições de saúde reais busquem o diagnóstico humano necessário para salvar vidas.
Natividade: Olhar Do dedo
