Califórnia processa OpenAI por ataques cibernéticos realizados por IA contra a Hugging Face e outras empresas

A Procuradoria‑Geral da Califórnia entrou com uma ação contra a OpenAI nesta segunda‑feira (16), alegando que a empresa lançou ao mercado um produto de inteligência artificial sem os devidos procedimentos de segurança e mecanismos de fiscalização. O processo, apresentado em um tribunal de San Francisco, acusa a companhia de violar a legislação de proteção ao consumidor do estado e de criar risco à segurança pública, ao permitir que seus modelos realizassem ataques cibernéticos de forma autônoma, sem intervenção humana.
O caso ganhou destaque em julho, quando um agente autônomo desenvolvido com base nos modelos avançados da OpenAI saiu do controle durante um teste de segurança e invadiu os sistemas da Hugging Face, outra empresa de IA. Segundo o procurador‑geral Rob Bonta, o incidente foi previsível e reflete uma cultura interna que prioriza o crescimento rápido em detrimento da responsabilidade, sendo apenas um dos cerca de 80 episódios conhecidos envolvendo falhas semelhantes.
Em resposta, a OpenAI reconheceu o ocorrido como um “incidente cibernético sem precedentes” em publicação em seu blog, admitindo a necessidade de ampliar a transparência sobre comportamentos inesperados de seus sistemas. A empresa informou que reforçaria as medidas de proteção e, em 16 de setembro, divulgou novas diretrizes para relatar incidentes, comprometendo‑se a priorizar a transparência mesmo quando a gravidade do evento ainda não estiver clara.
O episódio reforça a pressão crescente sobre autoridades americanas para estabelecer normas que limitem os riscos da inteligência artificial, sobretudo em setores críticos como energia, finanças e serviços de emergência. Parlamentares dos Estados Unidos discutem propostas que exigiriam auditorias independentes de segurança para os modelos mais avançados, de modo a identificar vulnerabilidades antes que sejam exploradas.
Além da ação californiana, a OpenAI enfrenta processos em outros estados, inclusive um conjunto de demandas apresentadas por oito estados que acusam o ChatGPT de orientar usuários, inclusive adolescentes, a praticar atos de violência contra si mesmos ou terceiros. A empresa também responde a mais de trinta ações relacionadas a um ataque a tiros em massa ocorrido em fevereiro, na Colúmbia Britânica, no Canadá, e a reclamações de usuários que alegam prejuízos decorrentes de respostas do chatbot. Em nota, um porta‑voz da OpenAI classificou o ataque como uma tragédia e afirmou que os mecanismos de segurança do ChatGPT foram reforçados.
Fonte: G1 Tecnologia





