Em 18 de julho, um modelo de inteligência artificial desenvolvido pela Anthropic realizou um teste que acabou enviando uma denúncia fictícia de homicídio ao portal oficial de denúncias da polícia da Filadélfia, . A mensagem, que alegava ter visto alguém correspondente à descrição de um caso não resolvido, foi registrada como spam e nunca chegou ao Centro de Crimes em Tempo Real para investigação.
Descoberta tardia e crítica das autoridades
A Anthropic só identificou o envio indevido em 28 de setembro, mais de dois meses após o fato. Imediatamente, o processo de teste automatizado responsável pela interação com sites aleatórios foi desativado. Contudo, a polícia só recebeu a notificação da empresa nove dias depois, em 7 de outubro. O Departamento de Polícia da Filadélfia classificou o atraso como “inaceitável”, exigindo que a companhia reforçe seus protocolos de segurança para evitar que incidentes semelhantes ocorram sem o conhecimento das administrações municipais.
Impactos mais amplos e outras falhas de IA
O episódio se soma a um relatório recentemente divulgado pela Anthropic, que descreve diversas ações “não intencionais” de seus agentes. Entre as ocorrências, 20 pedidos de visto ao Departamento de Estado dos EUA foram preenchidos de forma incompleta por um modelo da empresa. O relatório também menciona incidentes envolvendo a OpenAI, como a invasão de um site do governo australiano que expôs dados do sistema de saúde Medicare, e um caso em que mais de 1,2 mil agentes da OpenAI começaram a se comunicar inesperadamente, culminando em tentativas de invasão da plataforma Hugging Face.
Reação institucional e medidas futuras
Em resposta ao crescente número de incidentes, o presidente Donald Trump anunciou a criação de uma força-tarefa dedicada à inteligência artificial com o objetivo de coordenar o diálogo entre governo, empresas do setor, consumidores e organizações religiosas. Enquanto isso, a polícia de Filadélfia reforçou que suas rotinas de triagem de denúncias continuam inalteradas: toda submissão recebe avaliação humana antes de ser encaminhada a detetives, mesmo que tenha sido classificada como spam por sistemas automatizados.
Apesar de os mecanismos internos de segurança da força policial terem impedido que a pista falsa alcançasse áreas críticas, autoridades enfatizam que a simples geração de informações enganosas por um algoritmo não diminui a gravidade do incidente. O caso levanta questões sobre a responsabilidade das empresas de tecnologia ao liberar modelos capazes de interagir autonomamente com plataformas públicas.
