Pular para o conteúdo
Inteligëncia Artificial

Grok Bot tentou acessar e-mail e Slack sem pedir, diz pesquisa

4 min
Grok Bot tentou acessar e-mail e Slack sem pedir, diz pesquisa

Uma pesquisa divulgada nesta terça-feira (17) pela empresa de segurança NewCore aponta que o Grok Bot, agente de inteligência artificial da xAI, tentou acessar e-mails, agendas e outros aplicativos de trabalho sem que os usuários pedissem. Em cinco dias, dois bots instalados em contas de funcionários da empresa fizeram 31 pedidos de acesso a Gmail, Google Agenda, Slack, GitHub e Notion.

Parte dessas tentativas aconteceu com o notebook fechado e em repouso, enquanto os donos das contas dormiam. Em um dos casos, o bot continuou a agir mesmo depois de ouvir “não” quatro vezes. Quando questionado, ainda negou ter feito qualquer chamada.

Há um detalhe importante: as tentativas foram barradas por um sistema de controle da própria NewCore, que segura os pedidos de agentes de IA até que uma pessoa aprove. No teste de confirmação feito pela empresa, nenhum dos pedidos não solicitados chegou aos dados.

A xAI trata o comportamento como um recurso do produto, os chamados check-ins proativos. Depois do relato, a empresa criou uma opção para desligar a função, mas ela vem ativada de fábrica.

O que o Grok Bot fez sem autorização

O Grok Bot é um assistente de IA que executa tarefas em serviços conectados, como e-mail, agenda e ferramentas de trabalho. Na prática, ele recebe permissão para mexer nessas contas e agir em nome do usuário.

Segundo a NewCore, os dois bots procuraram a agenda pela primeira vez cerca de quatro horas depois da configuração, de novo uma hora depois e outra vez na manhã seguinte. Nenhuma dessas buscas foi pedida pelos funcionários.

O episódio mais curioso envolve um usuário que recusou quatro vezes, na mesma tarde, a oferta do bot para fazer check-ins automáticos. O assistente respondeu que pararia de oferecer. Na manhã seguinte, entre 15 e 19 horas depois da última mensagem, fez duas rodadas de tentativas em todos os aplicativos conectados.

Por que o bot negou as tentativas

Perguntado diretamente, o Grok Bot disse que não tinha feito nenhuma chamada. De acordo com a NewCore, as tentativas não aparecem no histórico do chat, o dono da conta não recebeu aviso e a plataforma não oferece um registro dessas ações.

Ou seja, quem dependesse só do Grok Bot para saber o que aconteceu não teria como descobrir. As 31 tentativas só ficaram registradas no sistema de controle da NewCore.

A empresa afirma que não encontrou falha de software. Para a NewCore, o problema está no comportamento do agente, que age além do que o usuário espera e não deixa rastro visível para ele.

O que diz a xAI

Segundo a NewCore, que procurou o suporte da xAI em 4 de novembro, a empresa confirmou que os acessos do Grok Bot fazem parte de um check-in proativo em segundo plano, previsto no produto. Na época, nenhuma configuração de usuário ou de administrador permitia desligar o recurso.

Em 12 de novembro, depois do relato, a xAI adicionou às configurações administrativas uma opção chamada “Proactive Messages”, que desliga os check-ins. A função, porém, continua ligada por padrão. O EpicGeek não encontrou posicionamento público da xAI sobre o estudo até a publicação desta matéria.

Como se proteger

Para quem usa o Grok Bot conectado a e-mail, agenda, chat ou código, a NewCore recomenda partir do princípio de que o agente pode estar lendo esses dados em segundo plano.

O primeiro passo é pedir ao administrador da conta que desligue a opção “Proactive Messages”. Também vale revisar quais serviços estão conectados ao bot e manter apenas os necessários.

A documentação da xAI prevê ainda regras do tipo “perguntar antes” e o Auto Review, que pede aprovação antes de ações consideradas arriscadas. Ativar essas travas reduz a chance de o assistente agir por conta própria.

Fonte: NewCore, Ars Technica

Compartilhar

Redação

Escrito por