Equipes brasileiras do Google protegem Gemini de ataques
O desenvolvimento de tecnologias cruciais para a segurança digital, como o filtro de spam do Gmail e o sistema de detecção de comentários ofensivos no Google Maps, conta com a participação ativa de equipes do Google no Brasil. Alex Freire, diretor sênior de engenharia de software do Google no país e líder do recém-inaugurado Centro de Engenharia da empresa em São Paulo, revelou essa informação em entrevista ao Podcast Canaltech.
A atuação dessas equipes no Brasil possui raízes mais antigas. Segundo Freire, a estrutura de engenharia de segurança nasceu em Belo Horizonte durante o período do Orkut, quando engenheiros identificaram a necessidade de detectar e remover conteúdos abusivos de forma sistemática. Essa tecnologia evoluiu ao longo de duas décadas e hoje opera com times distribuídos entre Belo Horizonte, São Paulo e outros escritórios globais.
O Google Safety Engineering Center (GSEC) de São Paulo, parte do novo Centro de Engenharia, concentrará seus esforços em duas frentes principais. A primeira visa a proteção dos usuários nos produtos do Google, atuando na detecção de fraudes, golpes, spam e conteúdos abusivos envolvendo crianças e adolescentes.
A segunda frente, mais recente, dedica-se à segurança do Gemini e à proteção dos produtos contra ataques originados em sistemas de inteligência artificial de terceiros. “Precisamos garantir que o Gemini é seguro; a gente desenvolve ele de forma ousada, mas muito responsável”, afirmou Freire, destacando o compromisso da empresa com o desenvolvimento seguro da IA.
O trabalho da equipe em São Paulo inclui impedir que o modelo de IA seja exposto ou gere conteúdo indevido, além de monitorar tentativas de abuso da plataforma. As tentativas de ataque variam desde manipulações de prompt com fins de entretenimento até ações orquestradas por atores maliciosos. A resposta a essas infrações segue uma escala, que vai desde a educação para casos leves até o cancelamento de conta para reincidências e a desativação imediata em casos de ataque deliberado.
Freire ressaltou que ferramentas de terceiros sem mecanismos de proteção adequados também são utilizadas para tentar acessar contas, roubar propriedade intelectual ou obter dados sensíveis das plataformas do Google. A estratégia de segurança adota o princípio de ‘zero confiança’, aliado à transparência sobre o funcionamento dos sistemas. O Google publica o SAFE (Secure AI Framework), um guia de boas práticas para o desenvolvimento responsável de IA, e utiliza padrões abertos como o FIDO para autenticação por hardware.
Para antecipar falhas em um cenário onde ‘os atacantes estão cada vez mais sofisticados, a IA também está ajudando eles a serem mais céleres’, segundo Freire, a empresa emprega IA em ‘red teaming’, testando ativamente seus produtos em busca de vulnerabilidades. Adicionalmente, uma equipe no Brasil dedica-se a identificar e corrigir falhas em programas de código aberto dos quais o Google depende, um trabalho que beneficia diretamente órgãos públicos e empresas privadas brasileiras que utilizam as mesmas ferramentas.
