AIエージェントはあなたのパスワードを知っている。それはどこへ行く?
AIエージェントは便利だ。タスクを渡せば勝手に動き出し、ファイルを読み、アカウントにログインし、こちらが別のことをしている間に処理を片付けてくれる。
そのためにはアクセス権が要る。メールのパスワード。各アカウントのログイン情報。APIキー。そしてちゃんと仕事をするには、あなたのデータを見る必要がある。契約書、顧客情報、住所、あなたが結んでいるNDA、公の場には絶対に出さないようなものまで。
そして、ほとんど誰も問わない問いがある。とてもシンプルな問いだ。それらは一体どこへ行くのか?
まっすぐモデルへ
たいていのAIエージェントは、必要なものを片っ端から取り込んで言語モデルに流し込む。それが動作の仕組みだ。モデルはタスクを読み、ファイルを読み、コンテキストを読む。そしてたいていは認証情報まで読む。
つまり、あなたのパスワードは手元のコンピュータには留まらない。インターネットを越えてモデルプロバイダーへ渡り、その先のシステムに置かれ、途中で何台のサーバーを通るかも分からない。アップロードした契約書も、顧客リストも、機密文書も、メールに書かれた自宅の住所も、すべて同じだ。
入力したのは一度きり。だがそれは、あなたには見えないどこかで生き続ける。毎月変わる規約のもとで、あなたが管理できないインフラの上で。
「削除済み」は削除されたという意味ではない
タスクが終われば、データも消えると人は思い込む。違う。ただ見えなくなっただけだ。
プロバイダーはログを保持する。AIとのやり取りは安全性レビューや不正検知、ときに学習のために残され、実際に人間が読むことさえある。「あなたのデータは学習に使いません」には大抵アスタリスクが付いているし、たとえそれが本当でも、データは経由し、その途中で保存されている。何がどれだけの期間残されたのか、確かめる術は本当にない。
気軽な質問ならそれでいい。だがパスワード、署名済みのNDA、顧客の個人情報となれば、そこは危険地帯だ。法的に守る責任を負っている情報を、監査もできないブラックボックスに置くべきではない。
たった今あなたが破ったNDA
ここで人は足をすくわれる。NDAを結んでいたり、GDPRのもとで顧客データを預かっていたりするなら、それを第三者のモデルに流し込むこと自体が違反になりかねない——受け取る権限など一切ない相手に、保護対象の情報を手渡したことになる。そしてそのシステムがハッキングされれば、情報はすべて流出する。
こういうことをしている人のほとんどは、自分がそうしているとすら気づいていない。エージェントが簡単にしてしまったし、社会的な空気のせいで、何もかも入れないと自分のやり方が間違っているかのように感じさせられる。
慎重にやる方法はある
エージェントがこんなふうに動く必要はない。あなたの秘密をインターネット中にばらまかなくても、仕事はできる。
エージェントというのは、決定論的なソフトウェアに付けた洒落た名前にすぎない。昔から存在してきたプログラムやアプリの類いであり、言われたことしかしない。
あなたのパスワードやキーは、エージェントが使う安全な一箇所に留めておける。言語モデルに一度も見せることなく、だ。エージェントはログインし、あなたの代理として動き、仕事を片付ける。それでいて秘密そのものはモデルへ一切渡らない。データは暗号化されたまま、本当にマシンの外へ出す必要があるものとないものを意図的に切り分ける。そしてあなたの仕事が学習データになることもない。
これこそ、私たちがGrace AIをこの形で作った理由のすべてだ。エージェントは上から下まで自社のスタック上で動き、あなたの秘密を保持するVaultを備える。モデルはそれを読むことなく、それを通じて動く。あなたのデータはあなたのものだ。さまよったりしない。
あなたが守る責任を負っているものを無頓着に扱うことなく、本物の仕事をこなすエージェントが手に入る。
RSA暗号、明確な境界線、そしてVault。AIの時代において、これらはかつてないほど重要になっている。