당신의 AI 에이전트는 비밀번호를 알고 있어요. 그건 어디로 갈까요?

곧장 모델 속으로

대부분의 AI 에이전트는 필요한 건 뭐든 가져다가 언어 모델에 집어넣어요. 원래 그렇게 동작하거든요. 모델은 작업 내용, 파일, 맥락을 읽죠. 그리고 그래요, 대개 인증 정보까지도 읽어요.

그 말은 당신의 비밀번호가 컴퓨터 안에 머물지 않는다는 뜻이에요. 인터넷을 건너 모델 제공업체로 흘러가고, 그들의 시스템에 자리를 잡고, 그 과정에서 몇 대의 서버를 거치는지도 알 수 없죠. 업로드한 계약서, 고객 명단, 기밀 문서, 그 이메일에 적힌 집 주소도 마찬가지예요.

한 번 입력했을 뿐인데, 이제 그건 당신이 볼 수 없는 어딘가에 살게 돼요. 매달 바뀌는 약관 아래에서, 당신이 통제할 수 없는 인프라 위에 말이죠.

"삭제됨"이 삭제됐다는 뜻은 아니에요

사람들은 작업이 끝나면 데이터도 사라진다고 생각해요. 아니에요. 그냥 당신 눈에 안 보일 뿐이죠.

제공업체는 로그를 남겨요. AI와 나눈 대화는 안전성 검토, 악용 탐지, 때로는 학습을 위해 보관되고, 심지어 실제 사람이 읽기도 해요. "당신의 데이터로 학습하지 않습니다"라는 문구에는 보통 별표가 붙어 있고, 설령 그게 사실이라 해도 데이터는 여전히 거쳐 갔고 그 길목에 저장됐어요. 무엇이 얼마나 오래 남았는지 확인할 진짜 방법은 없죠.

가벼운 질문이라면 괜찮아요. 하지만 비밀번호, 서명한 NDA, 고객의 개인정보라면 위험한 영역이에요. 법적으로 보호할 책임이 있는 정보가 당신이 감사할 수도 없는 블랙박스 안에 들어가서는 안 돼요.

방금 어긴 그 NDA

여기서 사람들이 발목을 잡혀요. NDA를 맺고 있거나 GDPR에 따라 고객 데이터를 보유하고 있다면, 그걸 제3자 모델에 집어넣는 것 자체가 위반일 수 있어요. 받을 권한이 전혀 없는 쪽에 보호 대상 정보를 넘겨준 셈이니까요. 그러다 시스템이 해킹당하면 그 모든 정보가 새어 나가죠.

이렇게 하는 사람들 대부분은 자기가 그러고 있다는 걸 몰라요. 에이전트가 너무 쉽게 만들어 줬고, 모든 걸 다 넣지 않으면 오히려 잘못하고 있는 것 같은 사회적 압박도 있거든요.

조심스럽게 하는 방법이 있어요

에이전트가 꼭 이렇게 동작할 필요는 없어요. 당신의 비밀을 인터넷 곳곳에 흩뿌리지 않고도 일을 해낼 수 있죠.

에이전트라는 건 결정론적 소프트웨어에 붙인 멋진 이름일 뿐이에요. 예전부터 늘 있던 그런 프로그램과 앱 말이죠. 시키는 일만 해요.

당신의 비밀번호와 키는 한 군데 안전한 곳에 머물 수 있고, 에이전트는 언어 모델이 그것들을 한 번도 보지 않은 채로 그걸 사용할 수 있어요. 에이전트가 로그인하고, 당신을 대신해 행동하고, 일을 끝내지만, 비밀 그 자체는 모델로 절대 흘러가지 않죠. 당신의 데이터는 암호화된 채로 남고, 무엇이 정말 당신의 기기를 떠나야 하고 무엇은 그러지 않아도 되는지 신중하게 가려져요. 그리고 당신의 작업은 결코 학습 데이터가 되지 않아요.

이게 바로 우리가 Grace AI를 지금의 방식으로 만든 이유예요. 에이전트는 위에서 아래까지 우리 자체 스택 위에서 돌아가고, Vault가 당신의 비밀을 보관해서 모델이 그걸 읽지 않고도 그걸 통해 행동할 수 있게 해주죠. 당신의 데이터는 당신 것이에요. 떠돌아다니지 않아요.

당신은 보호할 책임이 있는 것들을 함부로 다루지 않으면서도 진짜 일을 해내는 에이전트를 얻게 돼요.

AI 시대에 RSA 암호화, 명확한 경계, 그리고 Vault는 그 어느 때보다 중요해요.