Váš AI agent zná vaše hesla. Kam putují?
AI agenti jsou užiteční. Zadáte jednomu úkol a on se ho chopí a vyřídí ho – čte vaše soubory, přihlašuje se do vašich účtů, řeší věci za vás, zatímco děláte něco jiného.
Aby to mohl dělat, potřebuje přístup. Heslo k e-mailu. Přihlašovací údaje k účtům. API klíče. A aby skutečně fungoval, musí vidět vaše data. Smlouvy, údaje klientů, adresy, mlčenlivost, kterou jste vázáni, věci, které byste nikdy nezveřejnili.
Otázka, kterou si skoro nikdo nepokládá, je jednoduchá. Kam to všechno putuje?
Rovnou do modelu
Většina AI agentů vezme, cokoliv potřebuje, a nasype to do jazykového modelu. Tak fungují. Model čte úkol, soubory, kontext a ano, často i přihlašovací údaje.
To znamená, že vaše heslo nezůstane na vašem počítači. Putuje přes internet k poskytovateli modelu, leží v jeho systémech a cestou prochází kdovíkolika servery. To samé platí pro smlouvu, kterou jste nahráli, seznam klientů, důvěrný dokument nebo adresu bydliště v tom e-mailu.
Napsali jste to jednou. Teď to žije někde, kam nevidíte, za podmínek, které se každý měsíc mění, na infrastruktuře, kterou neovládáte.
„Smazáno“ neznamená smazáno
Lidé předpokládají, že jakmile je úkol hotový, data jsou pryč. Nejsou. Jenom je už nevidíte.
Poskytovatelé si vedou logy. Konverzace s AI se uchovávají kvůli bezpečnostní kontrole, odhalování zneužití, někdy kvůli trénování a čtou je dokonce i skuteční lidé. „Na vašich datech netrénujeme“ má často hvězdičku, a i když je to pravda, data stejně někudy prošla a cestou se uložila. Nemáte žádný reálný způsob, jak ověřit, co se uchovalo a na jak dlouho.
U běžného dotazu je to v pořádku. U hesla, podepsané dohody o mlčenlivosti, osobních údajů klienta je to nebezpečné území. Informace, které jste ze zákona povinni chránit, nepatří do černé skříňky, kterou nemůžete kontrolovat.
Dohoda o mlčenlivosti, kterou jste právě porušili
Tohle je ta část, která lidi zaskočí. Pokud jste vázáni mlčenlivostí nebo držíte data klientů podle GDPR, nasypat je do modelu třetí strany může být porušení samo o sobě – předali jste chráněné informace někomu, kdo je nikdy neměl dostat. A pak se systém nabourá a všechny informace jsou venku.
Většina lidí, kteří to dělají, vůbec netuší, že to dělají. Agent to udělal snadným a společenský tlak ve vás vyvolává pocit, že to děláte špatně, když tam nedáte všechno.
Existuje opatrný způsob, jak na to
Agent takhle fungovat nemusí. Práci může odvést, aniž by vaše tajemství rozesílal po celém internetu.
Agent je honosný název pro deterministický software, ten druh programů a aplikací, které tu byly odjakživa, a dělá jen to, co se mu řekne.
Vaše hesla a klíče mohou zůstat na jednom bezpečném místě, které agent používá, aniž by je jazykový model kdy viděl. Agent se přihlásí, jedná vaším jménem, odvede práci a samotné tajemství k modelu nikdy neputuje. Vaše data zůstávají zašifrovaná, s rozmyslem nad tím, co skutečně potřebuje opustit váš počítač a co ne. A vaše práce se nikdy nestane trénovacími daty.
To je celý důvod, proč jsme Grace AI postavili tak, jak jsme ho postavili. Agent běží na našem vlastním stacku odshora dolů, s trezorem, který drží vaše tajemství tak, aby skrz ně model mohl jednat, aniž by je četl. Vaše data jsou vaše. Netoulají se.
Dostanete agenta, který odvede skutečnou práci, aniž by lehkomyslně zacházel s věcmi, které máte za úkol chránit.
RSA šifrování, pevné hranice a trezor jsou ve věku AI důležitější než kdy dřív.