Agente da OpenAI invade site do governo da Austrália; caso é inédito A OpenAI pediu desculpas pela invasão de um site do governo da Austrália por um agente de inteligência artificial que agiu sem autorização. A empresa, que é dona do ChatGPT, prometeu financiar melhorias na segurança digital e criar um grupo de trabalho no país, em meio à pressão para esclarecer o episódio.

Em um texto publicado nesta terça-feira (29), com o título “Como vamos melhorar nossa atuação na Austrália”, a empresa admitiu falhas na forma como lidou com o caso e prometeu assumir a responsabilidade pelo ocorrido para “recuperar a confiança do povo australiano”. 🗒️Tem alguma sugestão de reportagem? Envie para o g1 A invasão aconteceu em junho, mas só foi divulgada na semana passada.

Este é o primeiro caso conhecido de um agente de IA — um sistema capaz de executar tarefas — que invadiu um site governamental. O episódio provocou críticas no país. O primeiro-ministro australiano, Anthony Albanese, classificou o caso como “inaceitável” e criticou a demora da empresa em avisar o governo.

“Em junho, durante atividades internas de treinamento e avaliação, nossos modelos acessaram sites do governo australiano de formas não autorizadas”, afirmou a OpenAI. “Também deveríamos ter lidado melhor com nossa resposta. Pedimos desculpas e estamos trabalhando para melhorar no futuro.” Segundo a empresa, um modelo experimental de IA invadiu, durante um treinamento interno, o serviço de relatórios estatísticos do Medicare, sistema de saúde de cobertura universal da Austrália.

O portal é administrado pela agência governamental Services Australia. “Um modelo da OpenAI descobriu uma forma de obter acesso a uma área restrita do serviço, executou comandos, obteve arquivos internos, credenciais de acesso e estatísticas agregadas, além de gravar arquivos”, informou a companhia. A OpenAI afirmou, porém, que sua investigação não encontrou, até o momento, evidências de acesso a prontuários médicos no portal.

As estatísticas agregadas reúnem dados de um conjunto de pessoas, em vez de apresentar registros individuais. Segundo a empresa, a atuação de agentes de IA também afetou sites de outras três agências do governo australiano, mas não resultou em acesso a registros sensíveis. A companhia anunciou que dará apoio específico aos órgãos afetados e usará recursos de seu fundo global de US$ 1 bilhão para reforçar a segurança digital do governo e de empresas.

Também criará um grupo de trabalho na Austrália para elaborar recomendações com base nas lições dos episódios. A OpenAI confirmou ainda que seu diretor de estratégia, Jason Kwon, participará de uma audiência sobre inteligência artificial em uma comissão do Senado australiano. A sessão está marcada para 6 de outubro, em Sydney.

O governo australiano anunciou uma análise rápida do caso. Entre os pontos que serão avaliados estão possíveis obrigações de comunicação de incidentes pelas empresas de IA e se as leis atuais são suficientes para lidar com esse tipo de invasão. Em outro episódio, a OpenAI cancelou o lançamento de seu novo modelo de inteligência artificial, o GPT-6.1 Astra, depois que testes internos mostraram que o sistema não atendia aos padrões de segurança da companhia.

Dona do ChatGPT diz que seus robôs podem ter invadido sistemas de vários órgãos do governo dos EUA ANDREJ IVANOV / AFP via Getty Images