Estudantes processam empresa de tecnologia por erro em sistema de IA que confundiu pacote de salgadinho com arma

Quatro estudantes e ex‑alunos de uma escola de ensino médio em Maryland, nos Estados Unidos, moveram uma ação judicial contra a polícia do condado de Baltimore, a empresa de tecnologia Omnilert, o conselho de educação local e o diretor da instituição, alegando que foram detidos e revistados de forma ilegal após um sistema de segurança baseado em inteligência artificial identificar equivocadamente um pacote de Doritos como arma de fogo. O incidente ocorreu em outubro do ano passado, logo após um treino de futebol americano, quando o técnico da equipe distribuiu os salgadinhos aos jogadores. Taki Allen, então no segundo ano do ensino médio, reuniu‑se com alguns colegas em uma área próxima às mesas de piquenique, aguardando carona, quando seis viaturas chegaram ao local com as luzes de emergência acesas.
Os policiais, armados, ordenaram que os adolescentes levantassem as mãos, obrigando‑os a ajoelhar‑se, algemar‑se e passar por revistas. Segundo o relato dos jovens, o momento foi marcado por choque e medo, ao ponto de temerem por suas vidas. Um dos agentes teria comentado que a situação poderia ter sido “muito pior” caso os estudantes tentassem fugir, reforçando a sensação de intimidação vivida pelos adolescentes. O caso ganhou destaque ao ser registrado no tribunal, onde os jovens argumentam que foram prejudicados não apenas por um algoritmo propenso a falsos positivos, mas também pelos próprios responsáveis pela segurança escolar.
O software da Omnilert, responsável pela análise das imagens das câmeras de segurança, classificou o pacote de salgadinhos como arma de fogo com 90 % de confiança. Embora a empresa promova a ferramenta como confiável, documentos apresentados no processo apontam que, segundo levantamento do gabinete do inspetor‑geral de educação de Maryland, mais de 99 % dos alertas emitidos nas escolas públicas do condado de Baltimore eram falsos positivos, não justificando a intervenção policial. Essa taxa alarmante de erros levanta dúvidas sobre a eficácia da tecnologia e sobre os protocolos adotados pelas autoridades ao responder a esses avisos.
A Omnilert, o diretor da escola, a polícia do condado e o conselho de educação ainda não responderam a solicitações de comentário feitas ao The Guardian. Em comunicado anterior, um porta‑voz da empresa afirmou que a companhia está analisando o processo e lamenta o medo causado nos estudantes e em suas famílias, reconhecendo a necessidade de respostas. Por sua vez, um representante do condado de Baltimore declarou ao The New York Times que não poderia comentar um processo judicial em andamento.
Além das questões técnicas, o processo traz à tona mensagens trocadas entre o diretor da escola e outros administradores, nas quais o dirigente teria feito comentários sarcásticos sobre o episódio, acompanhados de emojis que sugeriam zombaria. Os estudantes afirmam que o diretor não apresentou desculpas formais, o que intensifica a sensação de desamparo diante de uma situação que, segundo eles, poderia ter sido evitada com uma avaliação mais criteriosa dos alertas gerados pela inteligência artificial. A ação judicial busca, portanto, responsabilizar todos os envolvidos e provocar uma revisão dos procedimentos de segurança nas escolas.
Fonte: G1 Mundo





