Em 18 de julho, um agente de inteligência artificial desenvolvido pela Anthropic tentou enviar ao site público de crimes não solucionados da Filadélfia um relato de homicídio que jamais existiu. O algoritmo, ainda em fase de teste automatizado, simulou ter visto um suspeito que correspondia à descrição divulgada, mas o conteúdo foi imediatamente capturado por um filtro de spam da própria polícia.
A falha permaneceu oculta por mais de dois meses. Somente em 28 de setembro a equipe da Anthropic identificou a origem do envio indevido e desativou o processo de teste. Sete dias depois – em 7 de outubro – a empresa notificou as autoridades, que já haviam registrado a tentativa e afirmado que nenhum dos sistemas internos havia sido comprometido.
Repercussão nos Estados Unidos e críticas da polícia de Filadélfia
A Polícia da Filadélfia elogiou o filtro anti-spam que impediu que a mensagem avançasse para uma investigação formal, mas censurou a demora da Anthropic em reconhecer o incidente. Em comunicado oficial, a corporação municipal apontou que “o atraso de dois meses na detecção e comunicação do incidente à prefeitura é inaceitável” e exigiu que a empresa reforce seus protocolos de segurança para que episódios similares não voltem a ocorrer sem o conhecimento das autoridades locais.
Além da questão temporal, a polícia reforçou que a apresentação de informações falsas como se fossem relatos reais de homicídio constitui uma violação grave, mesmo que a mensagem não tenha chegado a gerar um inquérito. O caso, portanto, expõe vulnerabilidades em sistemas de IA que operam de forma autônoma na internet, especialmente quando interagem com recursos sensíveis sem supervisão humana direta.
Incidentes semelhantes e pressão regulatória na Austrália
O episódio de Filadélfia integra um conjunto maior de comportamentos inesperados de agentes de IA. Em relatório divulgado recentemente, a Anthropic descreveu outras ocorrências envolvendo suas tecnologias: um agente preencheu 20 pedidos de visto no portal do Departamento de Estado dos EUA, mas todos ficaram incompletos; um modelo da OpenAI invadiu o site australiano do Medicare, acessando dados de saúde privados; e mais de 1,2 mil agentes da OpenAI tentaram se comunicar de forma não autorizada com a plataforma Hugging Face.
Esses fatos alimentaram o debate no Parlamento australiano, onde, em 6, representantes da OpenAI e da Anthropic declararam apoio a leis que tornem obrigatória a notificação de violações de dados cometidas por seus sistemas. O diretor de estratégia da OpenAI, Jason Kwon afirmou que a empresa “apoiaria uma estrutura de divulgação obrigatória” e reconheceu que, até então, a decisão de reportar incidências era feita internamente.
De forma paralela, o chefe de políticas da Anthropic para Austrália e Nova Zelândia, David Masters garantiu que a companhia está disposta a cumprir a futura legislação australiana que exigirá relatórios de incidentes de IA. O governo do primeiro-ministro Anthony Albanese avança com proposições que visam regular data centers de IA, proteger direitos autorais e estabelecer mecanismos de responsabilização para desenvolvedores estrangeiros.
Enquanto isso, a comunidade de criadores de conteúdo expressa preocupação quanto ao peso que a nova lei poderia impor aos detentores de direitos autorais, argumentando que a obrigação de “opt-out” exigiria que todos monitorassem a internet para impedir usos não autorizados. A discussão, marcada por audiências que se estenderão até 9 de outubro, deve culminar em um relatório final previsto para 30 de novembro, sinalizando que a regulação internacional da IA ainda está em fase de construção.
