Un sistem AI care urmărește ecranul și înregistrează întâlniri nu colectează doar viața utilizatorului. Colectează fiecare persoană care apare în workflow.
Prognoza atribuită lui Sam Altman pentru un ChatGPT cu context profund face problema imediată. Valoarea vine din context continuu. Riscul vine din același loc.
Utilizatorul nu poate consimți pentru toți
Un ecran poate conține date despre clienți, mesaje private, informații medicale, credențiale, documente confidențiale și conținut licențiat limitat. O întâlnire poate include angajați, candidați, parteneri și clienți sub politici sau legi diferite.
Un click al owner-ului contului nu rezolvă aceste drepturi. Oamenii trebuie să știe când captura este activă, ce primește sistemul, de ce procesează, unde rulează, cât păstrează și cine poate recupera memoria derivată.
Accesul ambiental are nevoie de limite de sesiune
Captura continuă este modelul tehnic cel mai simplu și modelul de guvernanță cel mai slab. Accesul trebuie limitat prin scop, aplicație, întâlnire, participant și timp.
Un design de încredere face înregistrarea vizibilă, se oprește pe suprafețe sensibile, separă contextul personal de cel profesional și permite inspectarea și ștergerea capturii și memoriei derivate. Procesarea locală reduce expunerea, dar nu elimină consimțământul.
Memoria derivată poate fi mai sensibilă decât înregistrarea
Sistemul poate deduce relații, performanță, sănătate, presiune financiară sau dezacord intern din activitate obișnuită. Ștergerea înregistrării nu ajunge dacă rezumatul, embedding-ul, profilul sau memoria agentului rămân.
Organizațiile au nevoie de un owner pentru întregul lifecycle: colectare, procesare, acces, corecție, retenție, ștergere, incidente și schimbarea furnizorului. Au nevoie și de o cale utilizabilă pentru oamenii care nu pot sau nu vor să participe.
Contextul always-on poate face AI-ul mult mai util. Trebuie să ajungă ca o capabilitate limitată, nu ca un strat implicit de supraveghere ascuns în spatele convenienței.