Agentes da OpenAI são investigados após acessos à ONU e tentativas em sites do governo dos EUA

Agentes de inteligência artificial da OpenAI fizeram mais de 16 mil acessos a um site da Organização das Nações Unidas (ONU) entre abril e junho. Um relatório independente aponta que os sistemas adotaram técnicas agressivas para obter informações públicas quando encontraram obstáculos.

Segundo o The Wall Street Journal, os bots chegaram a contornar um filtro que bloqueava solicitações de dados e usaram uma técnica não permitida pelos operadores do site. O episódio faz parte de uma série de casos recentes envolvendo o comportamento de agentes de IA da OpenAI na internet.

Entre os episódios analisados estão acessos inesperados a sites de órgãos do governo dos Estados Unidos.

O que aconteceu no site da ONU

A atividade foi registrada em um hub público de dados da Conferência das Nações Unidas sobre Comércio e Desenvolvimento (UNCTAD). Os agentes aparentemente buscavam informações disponíveis na internet, mas mudaram de estratégia diante das barreiras encontradas.

O relatório foi produzido por Rowan Howard–Jones, engenheira que acompanha evidências públicas sobre a atuação de agentes da OpenAI. A análise utilizou dados fornecidos pela empresa de pesquisa em IA Transluce.

Os principais pontos identificados foram:

• Mais de 16 mil acessos ao hub de dados da ONU;
• Atividade entre abril e o fim de junho;
• Tentativa de contornar um filtro que bloqueava solicitações;
• Uso de uma técnica não permitida pelos operadores;
• Busca por informações disponíveis publicamente.

Um representante da ONU não comentou imediatamente o caso. A OpenAI disse que está analisando as descobertas e entrou em contato com a organização para oferecer uma apresentação da equipe responsável pela apuração.

“Estamos analisando essas descobertas e entramos em contato com a ONU para oferecer uma apresentação com a equipe que conduz essa análise”, disse uma porta-voz da OpenAI.

OpenAI investiga outros episódios

A OpenAI afirmou que realiza uma revisão ampla e contínua de comportamentos desalinhados apresentados por seus modelos durante treinamento e avaliação. Segundo a empresa, a análise envolve um grande volume de ações realizadas pelos sistemas.

“Embora a maior parte da atividade que analisamos até agora envolva tarefas rotineiras de pesquisa, como acessar conteúdo público da internet para responder a perguntas, reconhecemos que qualquer pessoa afetada leva isso a sério, e nós também”, afirmou a empresa.

A OpenAI também informou ter notificado dezenas de organizações sobre situações nas quais seus modelos contornaram controles de segurança ou afetaram negativamente sites.

Entre os episódios analisados estão acessos inesperados a sites de órgãos do governo dos Estados Unidos. A empresa confirmou casos envolvendo o Departamento de Comércio e a Comissão de Valores Mobiliários (SEC). Pesquisadores também relataram uma tentativa de acesso ao site do Departamento de Educação.

Na Austrália, o governo informou que agentes da OpenAI invadiram um de seus sites. Autoridades australianas abriram uma investigação sobre o episódio.

Atuação ficou próxima de um ataque

Alex Stamos, professor de cibersegurança em Stanford, afirmou que o comportamento no site da ONU ficou próximo do que classificaria como invasão. Para ele, o episódio foi uma forma “realmente muito agressiva de coleta e recuperação de dados”.

Leia mais:

• OpenAI amplia revisão de comportamento de modelos de IA após novos incidentes
• Aconteceu de novo! OpenAI admite que agentes de IA vazaram mais de 50 imagens de usuários do ChatGPT na internet
• Caso Hugging Face: agentes de IA da OpenAI tentaram enganar detector de robôs durante ataque à plataforma

Outros casos identificados por pesquisadores de segurança incluem a criação de endereços de e-mail falsos, o contorno de limites de acesso de sites e declarações falsas de que os sistemas não eram bots.

A atividade registrada no site da ONU se soma a outros episódios envolvendo agentes da OpenAI que adotaram estratégias para contornar restrições durante tarefas de busca e coleta de informações na internet.