Váš AI agent pozná vaše heslá. Kam putujú?
AI agenti sú užitoční. Zadáte jednému úlohu a on sa do nej pustí, číta vaše súbory, prihlasuje sa do vašich účtov a vybavuje veci, kým vy robíte niečo iné.
Aby to dokázal, potrebuje prístup. Heslo k e-mailu. Prihlasovacie údaje k účtom. API kľúče. A aby skutočne fungoval, musí vidieť vaše dáta. Zmluvy, údaje o klientoch, adresy, dohodu o mlčanlivosti, ktorá vás viaže, veci, ktoré by ste nikdy nezverejnili.
Otázka, ktorú si takmer nikto nekladie, je jednoduchá. Kam to všetko putuje?
Rovno do modelu
Väčšina AI agentov si zoberie, čo potrebuje, a pošle to do jazykového modelu. Tak fungujú. Model si prečíta úlohu, súbory, kontext a áno, často aj prihlasovacie údaje.
To znamená, že vaše heslo nezostane vo vašom počítači. Putuje cez internet k poskytovateľovi modelu, leží v jeho systémoch a po ceste prejde ktovie koľkými servermi. To isté platí pre zmluvu, ktorú ste nahrali, zoznam klientov, dôverný dokument či domácu adresu v tom e-maile.
Napísali ste to raz. Teraz to žije niekde, kam nedovidíte, podľa podmienok, ktoré sa menia každý mesiac, na infraštruktúre, ktorú neovládate.
„Vymazané“ neznamená vymazané
Ľudia si myslia, že keď je úloha hotová, dáta sú preč. Nie sú. Len ich už nevidíte.
Poskytovatelia uchovávajú logy. Konverzácie s AI sa ukladajú kvôli bezpečnostným kontrolám, odhaľovaniu zneužitia, niekedy na tréning, a dokonca ich čítajú reálni ľudia. Pri vete „netrénujeme na vašich dátach“ býva často hviezdička, a aj keď je pravdivá, dáta cez systém aj tak prešli a cestou sa uložili. Nemáte ako spoľahlivo zistiť, čo sa uchovalo a na ako dlho.
Pri bežnej otázke je to v poriadku. Pri hesle, podpísanej dohode o mlčanlivosti, osobných údajoch klienta je to nebezpečné územie. Informácie, ktoré ste zo zákona povinní chrániť, nepatria do čiernej skrinky, ktorú nemôžete preveriť.
Dohoda o mlčanlivosti, ktorú ste práve porušili
Toto je tá časť, ktorá ľudí dobehne. Ak vás viaže dohoda o mlčanlivosti alebo držíte dáta klientov pod GDPR, poslať ich do modelu tretej strany môže byť samo osebe porušenie – odovzdali ste chránené informácie strane, ktorá ich nikdy nemala dostať. A potom systém niekto napadne a všetky informácie sú vonku.
Väčšina ľudí, ktorí to robia, vôbec netuší, že to robia. Agent to spravil jednoduchým a sociálny tlak vo vás vyvoláva pocit, že robíte niečo zle, ak doň nevložíte všetko.
Dá sa to robiť aj opatrne
Agent takto fungovať nemusí. Prácu zvládne aj bez toho, aby vaše tajomstvá roztrúsil po celom internete.
Agent je len honosný názov pre deterministický softvér, teda programy a aplikácie, ktoré tu boli vždy, a robí iba to, čo mu prikážete.
Vaše heslá a kľúče môžu zostať na jednom bezpečnom mieste, ktoré agent využíva bez toho, aby ich jazykový model čo i len videl. Agent sa prihlási, koná vo vašom mene, vybaví prácu a samotné tajomstvo k modelu nikdy neputuje. Vaše dáta zostávajú zašifrované, s jasným rozhodnutím o tom, čo skutočne musí opustiť váš počítač a čo nie. A vaša práca sa nikdy nestane tréningovými dátami.
Presne preto sme Grace AI postavili tak, ako sme ho postavili. Agent beží na našom vlastnom stacku, od základov až po vrch, s trezorom, ktorý drží vaše tajomstvá, takže model cez ne môže konať bez toho, aby ich čítal. Vaše dáta sú vaše. Nikam sa netúlajú.
Dostanete agenta, ktorý odvedie skutočnú prácu bez toho, aby zaobchádzal ľahkovážne s vecami, ktoré máte chrániť.
RSA šifrovanie, pevné hranice a trezor sú v ére AI dôležitejšie než kedykoľvek predtým.