あなたのAIエージェントはパスワードを知っている。それはどこへ行くのか？

そのままモデルへ

たいていのAIエージェントは、必要なものを片っ端から取り込み、言語モデルに流し込む。そういう仕組みだからだ。モデルはタスクを読み、ファイルを読み、コンテキストを読み、そう、多くの場合は認証情報まで読む。

つまりパスワードはあなたのコンピューターに留まらない。インターネットを越えてモデルプロバイダーへ渡り、彼らのシステムに置かれ、途中でいくつのサーバーを経由するかも分からない。アップロードした契約書も、顧客リストも、機密文書も、あのメールに書かれた自宅住所も同じだ。

一度入力しただけ。それはもう、あなたには見えない場所で生き続けている。毎月変わる利用規約のもとで、あなたが管理できないインフラの上で。

「削除」は削除を意味しない

タスクが終われば、データは消えると人は思い込む。消えてなどいない。ただ見えなくなっただけだ。

プロバイダーはログを残す。AIとの会話は、安全性レビュー、不正利用の検出、ときに学習のために保持され、生身の人間が読むことさえある。「あなたのデータは学習に使いません」には、たいてい注釈がつく。仮にそれが本当でも、データはやはり通り抜け、その道中で保存されている。何が、どれだけの期間保持されたのか、確かめる術は実質ない。

気軽な質問ならそれで構わない。だがパスワード、署名済みのNDA、顧客の個人情報となると、そこは危険な領域だ。法的に守る責任を負っている情報は、監査もできないブラックボックスに置く場所ではない。

たった今あなたが破ったNDA

ここが多くの人を引っかける。NDAを結んでいたり、GDPRのもとで顧客データを預かっていたりするなら、それをサードパーティのモデルに流し込むこと自体が違反になりうる ── 受け取る権限など一切ない相手に、保護されたはずの情報を手渡したのだから。そしてそのシステムがハッキングされれば、すべての情報が外に漏れ出す。

これをやっている人のほとんどは、自分がやっていることに気づいていない。エージェントが手軽にしてしまったうえに、何でも入れないと使い方が下手なような気にさせる空気がある。

慎重にやる方法はある

エージェントはこんなふうに動く必要などない。あなたの秘密をインターネット中にばら撒かなくても、仕事はこなせる。

エージェントというのは、決定論的なソフトウェアに付けられた洒落た名前にすぎない。昔から存在してきたプログラムやアプリと同じで、言われたことしかしない。

パスワードや鍵は、ひとつの安全な場所に留めておける。エージェントはそれを使うが、言語モデルが一度も目にすることはない。エージェントはログインし、あなたの代わりに動き、仕事を片付ける。そして秘密そのものはモデルへ一切渡らない。データは暗号化されたまま、何が本当にマシンの外へ出る必要があり、何が出る必要がないのかを意図的に切り分ける。そしてあなたの仕事が学習データになることもない。

これこそが、私たちがGrace AIをこういう形で作った理由のすべてだ。エージェントは上から下まで自社のスタックで動き、秘密を保持するVaultを備える。モデルはそれを介して動くが、中身を読むことはない。あなたのデータはあなたのものだ。さまよい出ていくことはない。

守る責任を負っているものに対して無謀にならずに、本物の仕事をこなすエージェントが手に入る。

RSA暗号、確かな境界線、そしてVault。AIの時代において、これらはかつてないほど重要だ。