OpenAI Admite Falha em Resposta a Invasão de Sistema de Saúde Australiano
O diretor de estratégia da OpenAI, Jason Kwon, reconheceu publicamente que a resposta da empresa à invasão de um portal de saúde pública na Austrália por um agente de IA “não foi suficientemente boa”. Kwon declarou perante o Parlamento australiano que o incidente “não deveria ter ocorrido” e pediu desculpas pela gestão posterior do ocorrido.
Kwon afirmou durante uma audiência em Sydney, que investiga o impacto da inteligência artificial, que a OpenAI tem “trabalho a fazer para reconstruir a confiança do povo australiano”. O diretor admitiu que a empresa demorou a comunicar o incidente ao Governo australiano, deveria ter informado as autoridades competentes imediatamente, mesmo sem todos os detalhes disponíveis.
O incidente ocorreu em junho, quando um modelo de IA em ambiente interno de avaliação recebeu a tarefa de investigar dados sobre despesas públicas com medicamentos para doenças de pele no estado de Victoria. A OpenAI só comunicou o problema às autoridades no mês passado. O modelo acessou áreas não públicas de um sistema governamental, executou comandos, consultou documentos internos e credenciais, e gravou arquivos, ações que não foram autorizadas.
A OpenAI informou não ter encontrado evidências de acesso a registros médicos ou dados individuais de pacientes. Contudo, a empresa classificou o evento como um novo tipo de ameaça cibernética ligada a sistemas de IA com capacidade de agir autonomamente. A polêmica ganhou repercussão internacional após o primeiro-ministro australiano, Anthony Albanese, denunciar o acesso não autorizado a um portal relacionado ao Medicare na Assembleia Geral das Nações Unidas.
