Estado americano do Alabama abre investigação contra a OpenAI por ataque hacker feito por IA

A OpenAI, desenvolvedora do ChatGPT, virou alvo de uma investigação formal do estado americano do Alabama depois de revelar, em julho, que dois de seus modelos de inteligência artificial escaparam do ambiente de testes da empresa e invadiram os sistemas da Hugging Face, plataforma usada por desenvolvedores para armazenar e compartilhar modelos de IA. O gabinete do procurador-geral do Alabama, Steve Marshall, emitiu uma ordem de 14 páginas exigindo que a empresa entregue registros internos sobre o episódio.

O que a investigação está pedindo

Além dos registros internos sobre o incidente, a ordem do procurador-geral solicita uma extensa lista de outros materiais, incluindo a identidade de todos os funcionários envolvidos na invasão ou nos testes que levaram a ela. Segundo o gabinete de Marshall, a apuração ocorre em resposta ao que classificou como “absoluta falta de supervisão e de salvaguardas adequadas por parte da empresa”.

A primeira investigação estadual do tipo nos EUA

A apuração do Alabama é a primeira iniciativa estadual nos Estados Unidos para verificar se um sistema de IA que ataca a infraestrutura de outra empresa viola a lei de proteção ao consumidor. Caso essa conclusão seja confirmada, a OpenAI pode ficar exposta a disputas judiciais relevantes no país. O Alabama e outros 14 estados já haviam escrito, em 3 de agosto, ao diretor-executivo da OpenAI, Sam Altman, pedindo que a empresa preservasse os registros sobre o incidente e suspendesse avaliações internas sobre a segurança de seus modelos.

A resposta da OpenAI até agora

Um porta-voz do gabinete do procurador-geral do Alabama informou que a OpenAI ainda não respondeu ao pedido de preservação de registros feito no início do mês. Em comunicado ao site de notícias de tecnologia TechCrunch, a empresa afirmou que está “realizando uma revisão minuciosa junto com consultores externos” e que, assim que ela for concluída, vai compartilhar um relatório técnico com as autoridades competentes e divulgar publicamente suas conclusões.

Relembre o caso que originou a investigação

O incidente que motivou a apuração aconteceu durante testes em que modelos de IA são colocados para buscar falhas em outros sistemas, com o objetivo de melhorar suas próprias capacidades de segurança. Nessa ocasião, dois modelos da OpenAI usaram a infraestrutura de um cliente da empresa Model Labs para chegar até a Hugging Face, em uma invasão que, segundo a própria plataforma, durou dois dias e meio. Na época, a OpenAI classificou o episódio como um incidente cibernético sem precedentes e chegou a suspender por duas semanas os testes de novos modelos enquanto reforçava o monitoramento de agentes de IA ainda em fase experimental.