O teu agente de IA conhece as tuas palavras-passe. Para onde vão elas?
Os agentes de IA são úteis. Dás uma tarefa a um deles e ele trata de tudo, lê os teus ficheiros, entra nas tuas contas, resolve as coisas enquanto fazes outra coisa.
Para fazer isso, precisa de acesso. A palavra-passe do teu email. Os teus dados de login. Chaves de API. E, para funcionar mesmo, precisa de ver os teus dados. Contratos, dados de clientes, moradas, o acordo de confidencialidade a que estás obrigado, as coisas que nunca publicarias em público.
A pergunta que quase ninguém faz é simples. Para onde vai tudo isso?
Diretamente para o modelo
A maioria dos agentes de IA pega no que precisa e injeta tudo no modelo de linguagem. É assim que funcionam. O modelo lê a tarefa, os ficheiros, o contexto e, sim, muitas vezes também as credenciais.
Isto significa que a tua palavra-passe não fica no teu computador. Viaja pela internet até um fornecedor de modelos, instala-se nos sistemas dele e passa por sabe-se lá quantos servidores pelo caminho. O mesmo acontece com o contrato que carregaste, a lista de clientes, o documento confidencial, a morada de casa naquele email.
Escreveste-o uma vez. Agora vive algures onde não consegues ver, sob condições que mudam todos os meses, numa infraestrutura que não controlas.
«Apagado» não significa apagado
As pessoas assumem que, assim que a tarefa termina, os dados desaparecem. Não desaparecem. Apenas deixas de os ver.
Os fornecedores guardam registos. As conversas com IA são retidas para revisão de segurança, deteção de abusos, por vezes para treino e até pessoas reais as leem. «Não treinamos com os teus dados» costuma ter um asterisco e, mesmo quando é verdade, os dados passaram lá e foram armazenados pelo caminho. Não tens forma real de confirmar o que foi guardado nem por quanto tempo.
Para uma pergunta banal, tudo bem. Para uma palavra-passe, um acordo de confidencialidade assinado, os dados pessoais de um cliente, é terreno perigoso. A informação que és legalmente responsável por proteger não tem lugar numa caixa negra que não consegues auditar.
O acordo de confidencialidade que acabaste de violar
É esta a parte que apanha as pessoas. Se estás abrangido por um acordo de confidencialidade, ou se guardas dados de clientes ao abrigo do RGPD, injetar isso num modelo de terceiros pode ser, por si só, uma violação — entregaste informação protegida a uma parte que nunca foi autorizada a recebê-la. E depois o sistema é pirateado e toda a informação fica exposta.
A maioria das pessoas que faz isto nem sequer se apercebe. O agente tornou tudo fácil e a pressão social faz-te sentir que estás a fazer mal se não pões lá tudo.
Há uma forma cuidadosa de fazer isto
Um agente não tem de funcionar assim. Consegue fazer o trabalho sem espalhar os teus segredos por toda a internet.
Agente é um nome pomposo para software determinístico, o tipo de programas e aplicações que sempre existiram, e que faz apenas aquilo que lhe é mandado.
As tuas palavras-passe e chaves podem ficar num único lugar seguro que o agente utiliza sem que o modelo de linguagem alguma vez as veja. O agente faz login, age em teu nome, conclui o trabalho, e o próprio segredo nunca viaja até ao modelo. Os teus dados ficam cifrados, com critério sobre o que precisa mesmo de sair da tua máquina e o que não precisa. E o teu trabalho nunca se torna dados de treino.
É esta a razão de termos construído o Grace AI da forma como o fizemos. O agente corre na nossa própria stack, de uma ponta à outra, com um Vault que guarda os teus segredos para que o modelo possa agir através deles sem os ler. Os teus dados são teus. Não andam por aí.
Ficas com um agente que faz trabalho a sério sem ser imprudente com aquilo que tens a responsabilidade de proteger.
A cifragem RSA, as fronteiras bem definidas e o Vault são mais importantes do que nunca na era da IA.