Austrália pode bloquear serviços de IA que não verificarem idade dos usuários

A autoridade de segurança online da Austrália revelou que poderá acionar lojas de aplicativos e mecanismos de busca para bloquear serviços de inteligência artificial que não implementarem sistemas eficazes de verificação de idade.

Isso porque, a partir de 9 de março, ferramentas digitais disponíveis no país – incluindo buscadores com IA e chatbots, como o ChatGPT – terão que impedir que menores de 18 anos acessem conteúdos relacionados a pornografia, violência extrema, automutilação e transtornos alimentares.

Segundo o órgão regulador, conhecido como eSafety, empresas que ignorarem as exigências serão enquadradas sob os devidos mecanismos legais. O descumprimento pode resultar em multas de até 49,5 milhões de dólares australianos (cerca de R$ 180,8 milhões).

A medida amplia a ofensiva regulatória da Austrália sobre plataformas digitais. Em dezembro, o país se tornou o primeiro a proibir adolescentes de utilizarem redes sociais, citando riscos à saúde mental. Agora, o foco recai sobre ferramentas de inteligência artificial, que enfrentam crescente pressão internacional e uma série de processos judiciais por supostamente não impedirem – ou até estimularem – comportamentos autodestrutivos.

A OpenAI e a Character.AI, por exemplo, já foram alvo de ações judiciais relacionadas a interações com jovens usuários. Embora a Austrália ainda não tenha registrado casos de violência ligados diretamente a chatbots, a eSafety informou ter recebido relatos de crianças com apenas 10 anos utilizando essas ferramentas por até seis horas diárias.

Serviços de IA ainda não estão agindo para se adequar às regras

O aviso ocorre após uma análise da agência Reuters indicar que a maioria das plataformas ainda não anunciou medidas concretas para atender às exigências.

Entre os 50 produtos de IA baseados em texto mais populares no país, apenas nove haviam implementado ou anunciado planos de verificação de idade. Outras 11 plataformas adotaram filtros abrangentes ou optaram por bloquear totalmente o acesso na Austrália, o que também atenderia às exigências. Assim, cerca de 30 serviços não apresentaram medidas aparentes para cumprir as novas regras.

Entre os principais assistentes conversacionais, como ChatGPT, Replika e Claude, sistemas de verificação de idade ou filtros de conteúdo mais rígidos já começaram a surgir. A Character.AI restringiu o acesso de menores a chats abertos. Já outras plataformas afirmaram que pretendem se adequar, mas não detalharam como.

Por outro lado, a análise identificou que aproximadamente três quartos dos chatbots complementares não dispõem de filtragem ou planos claros de verificação de idade. Uma parcela significativa também não publica sequer um canal de contato para denúncias de violação – outro requisito do novo código.

A ferramenta Grok, desenvolvida pela xAI, não apresentava sistemas de verificação etária ou filtros textuais adequados até o momento do anúncio da Austrália. A empresa não respondeu aos questionamentos.

Apple e Google, que operam as principais lojas de aplicativos disponíveis no país, foram procuradas pela Reuters. A Apple afirmou em seu site que pretende usar “métodos razoáveis” para impedir downloads de apps restritos a maiores de 18 anos, sem detalhar os mecanismos. O Google não comentou.