AI 에이전트는 당신의 비밀번호를 알고 있어요. 그건 어디로 갈까요?

곧장 모델 속으로

대부분의 AI 에이전트는 필요한 건 뭐든 가져다가 언어 모델에 그대로 집어넣어요. 그게 작동 방식이죠. 모델은 작업과 파일, 맥락을 읽고, 그래요, 대개는 인증 정보까지도 읽습니다.

다시 말해 당신의 비밀번호는 컴퓨터 안에 머물지 않아요. 인터넷을 건너 모델 제공업체로 이동하고, 그들의 시스템에 자리 잡으며, 가는 길에 도대체 몇 대의 서버를 거치는지도 알 수 없어요. 업로드한 계약서, 고객 명단, 기밀 문서, 그 이메일 속 집 주소도 마찬가지죠.

한 번 입력했을 뿐인데, 이제 그건 당신이 볼 수 없는 어딘가에서 살아갑니다. 매달 바뀌는 약관 아래에서, 당신이 통제할 수 없는 인프라 위에서요.

"삭제됨"이 삭제됐다는 뜻은 아니에요

작업이 끝나면 데이터가 사라진다고 다들 생각해요. 아니에요. 그저 당신 눈에 더 이상 안 보일 뿐이죠.

제공업체는 로그를 보관해요. AI와 나눈 대화는 안전성 검토, 악용 탐지, 때로는 학습을 위해 보관되고, 실제 사람이 읽기까지 합니다. "당신의 데이터로 학습하지 않습니다"라는 말에는 종종 별표가 붙어 있고, 설령 그게 사실이라 해도 데이터는 어쨌든 거쳐 갔고 그 과정에서 저장됐어요. 무엇이 얼마나 오래 보관됐는지 당신이 실제로 확인할 길은 없습니다.

가벼운 질문이라면 괜찮아요. 하지만 비밀번호, 서명한 NDA, 고객의 개인정보라면 위험한 영역이죠. 당신이 법적으로 보호할 책임이 있는 정보가, 감사할 수도 없는 블랙박스 속에 들어가서는 안 됩니다.

방금 어긴 그 NDA

사람들이 걸려 넘어지는 지점이 바로 여기예요. NDA의 적용을 받고 있거나 GDPR 하에서 고객 데이터를 보유하고 있다면, 그걸 제3자 모델에 집어넣는 것 자체가 위반일 수 있어요. 받을 권한이 전혀 없던 쪽에 보호 대상 정보를 넘긴 셈이니까요. 그러다 시스템이 해킹당하면 모든 정보가 새어 나가는 거죠.

이런 짓을 하는 사람 대부분은 자기가 그러고 있다는 사실조차 몰라요. 에이전트가 너무 쉽게 만들어버렸고, 모든 걸 넣지 않으면 뭔가 잘못하고 있는 것 같은 사회적 압박까지 느끼게 되죠.

신중하게 하는 방법도 있어요

에이전트가 꼭 이런 식으로 작동할 필요는 없어요. 당신의 비밀을 인터넷 곳곳에 흩뿌리지 않고도 일을 해낼 수 있습니다.

에이전트라는 건 결정론적 소프트웨어에 붙인 그럴싸한 이름이에요. 늘 있어 왔던 프로그램과 앱 같은 것이고, 시킨 일만 합니다.

당신의 비밀번호와 키는 한 곳의 안전한 장소에 머물 수 있고, 에이전트는 언어 모델이 그걸 단 한 번도 보지 않은 채로 그것을 사용해요. 에이전트가 로그인하고, 당신을 대신해 행동하고, 일을 끝내지만, 비밀 자체는 모델로 절대 이동하지 않죠. 당신의 데이터는 암호화된 상태로 유지되고, 무엇이 실제로 기기를 떠나야 하고 무엇이 그러지 않아도 되는지를 분명히 가립니다. 그리고 당신의 작업물은 결코 학습 데이터가 되지 않아요.

우리가 Grace AI를 지금의 방식으로 만든 이유가 바로 이거예요. 에이전트는 위에서 아래까지 우리 자체 스택 위에서 돌아가고, Vault가 당신의 비밀을 보관해 모델이 그걸 읽지 않고도 그것을 통해 행동할 수 있게 합니다. 당신의 데이터는 당신 것이에요. 떠돌아다니지 않습니다.

당신이 보호할 책임이 있는 것들을 함부로 다루지 않으면서도 실제 일을 해내는 에이전트, 그걸 얻는 거예요.

RSA 암호화, 명확한 경계, 그리고 Vault는 AI 시대에 그 어느 때보다 중요합니다.