당신의 AI 에이전트는 비밀번호를 알고 있어요. 그 정보는 어디로 갈까요?

곧장 모델 속으로

대부분의 AI 에이전트는 필요한 걸 가져다가 언어 모델에 그대로 집어넣어요. 원래 그렇게 작동하니까요. 모델은 작업 내용을 읽고, 파일을 읽고, 맥락을 읽죠. 그리고 그래요, 대개 인증 정보까지 읽습니다.

즉, 당신의 비밀번호는 컴퓨터 안에 머물지 않아요. 인터넷을 타고 모델 제공업체로 건너가, 그들의 시스템에 자리 잡고, 가는 길에 몇 대나 되는지 모를 서버를 거쳐 갑니다. 당신이 업로드한 계약서, 고객 명단, 기밀 문서, 그 이메일에 담긴 집 주소도 마찬가지예요.

한 번 입력했을 뿐인데, 이제 그 정보는 당신이 볼 수 없는 어딘가에 살고 있어요. 매달 바뀌는 약관 아래, 당신이 통제할 수 없는 인프라 위에 말이죠.

"삭제됨"이 진짜 삭제는 아니에요

사람들은 작업이 끝나면 데이터도 사라진다고 생각해요. 아니에요. 그저 당신 눈에 안 보일 뿐이죠.

제공업체는 로그를 보관해요. AI와 나눈 대화는 안전 검토, 악용 탐지, 때로는 학습을 위해 저장되고, 심지어 실제 사람이 읽기도 합니다. "당신의 데이터로 학습하지 않습니다"라는 말에는 종종 별표가 붙어 있고, 설령 사실이더라도 데이터는 어쨌든 그곳을 거쳐 가며 그 과정에서 저장됐어요. 무엇이 얼마나 오래 남았는지 확인할 방법은 사실상 없습니다.

가벼운 질문이라면 괜찮아요. 하지만 비밀번호, 서명한 NDA, 고객의 개인정보라면 위험한 영역이에요. 당신이 법적으로 보호해야 할 정보가, 감사조차 할 수 없는 블랙박스에 들어가서는 안 되죠.

방금 어긴 그 NDA

바로 이 지점에서 사람들이 발목 잡혀요. NDA 적용을 받고 있거나, GDPR에 따라 고객 데이터를 보유하고 있다면, 그 정보를 제3자 모델에 집어넣는 것만으로도 위반일 수 있어요. 받을 권한이 전혀 없던 쪽에 보호 대상 정보를 넘긴 셈이니까요. 그러다 시스템이 해킹당하면 모든 정보가 새어 나가죠.

이런 짓을 하는 대부분의 사람은 자기가 그러고 있다는 걸 몰라요. 에이전트가 너무 쉽게 만들어 줬고, 모든 걸 다 집어넣지 않으면 뭔가 잘못하고 있는 듯한 분위기까지 형성됐죠.

조심스럽게 하는 방법도 있어요

에이전트가 꼭 이런 식으로 작동할 필요는 없어요. 당신의 비밀을 인터넷에 흩뿌리지 않고도 일을 해낼 수 있습니다.

에이전트는 결정론적 소프트웨어를 멋지게 부르는 이름일 뿐이에요. 늘 우리 곁에 있던 그런 프로그램과 앱 말이죠. 시킨 일만 정확히 합니다.

당신의 비밀번호와 키는 한 곳의 안전한 공간에 머물 수 있고, 에이전트는 언어 모델이 그것을 절대 보지 못하게 한 채로 그 정보를 사용해요. 에이전트가 로그인하고, 당신을 대신해 행동하고, 일을 끝내지만 비밀 자체는 결코 모델로 건너가지 않습니다. 데이터는 암호화된 채로 남고, 정작 당신의 기기를 벗어나야 할 것과 그렇지 않은 것을 신중하게 가려요. 그리고 당신의 작업물은 절대 학습 데이터가 되지 않습니다.

우리가 Grace AI를 지금의 방식으로 만든 이유가 바로 이거예요. 에이전트는 위에서 아래까지 우리 자체 스택 위에서 돌아가고, 당신의 비밀을 담아 두는 Vault가 함께합니다. 덕분에 모델은 그 비밀을 읽지 않고도 그것을 통해 행동할 수 있죠. 당신의 데이터는 당신 것이에요. 떠돌아다니지 않습니다.

당신이 보호해야 할 것들을 함부로 다루지 않으면서도, 진짜 일을 해내는 에이전트를 갖게 되는 거예요.

RSA 암호화, 단단한 경계선, 그리고 Vault는 AI 시대에 그 어느 때보다 중요해요.