Alex Stamos: A-ți da AI-ului acces la conturile tale bancare e o nebunie

De ce accesul la agenți e un coșmar de securitate?

Alex Stamos, fostul șef al securității la Meta, avertizează că a împărtăși datele de acces la conturile bancare cu agenți AI este o riscuri gravă. A făcut aceste comentarii la Big Technology Podcast, un episod recent raportat de Business Insider.

Stamos, care s-a alăturat Cognition ca șef al securității în septembrie, a susținut că a preda log-urile financiare unui software autonom este o greșeală critică de securitate.

Problema se concentrează pe modul în care funcționează agenții AI. Aceste instrumente necesită adesea acces larg pentru a funcționa. Stamos a subliniat că cu cât un agent are mai multe permisiuni, cu atât suprafața de atac devine mai mare. Un agent compromis puterea expune date financiare sensibile sau execută tranzacții neautorizate.

Stamos a explicat că agenții AI acționează ca intermediari puternici între utilizatori și activele lor digitale. Când un agent controlează conturi financiare, o singură vulnerabilitate poate declanșa pierderi majore.

El a descris practica ca „total nebună”, deoarece concentrează riscul într-un singur punct de eșec.

Această perspectivă se aliniază cu discuțiile mai largi din industrie despre autonomia agenților. Pe măsură ce sistemele AI dobândesc mai multe capacități, miza unei încălcări crește brusc.

Întrebări frecvente!

Instituțiile financiare și companiile de tehnologie se gândesc acum cum ar trebui să aibă acces la datele utilizatorilor. Ce ar trebui să facă utilizatorii cu permisiunile Stamos a sugerat că utilizatorii ar trebui să limiteze accesul agenților la scopul minim necesar.

În loc de a da acces complet la log-urile financiare, acordați agenților doar permisiunile specifice de care au nevoie pentru o sarcină. Verificați și revocați permisiunile odată ce sarcina este finalizată.

Privind înainte, experții se așteaptă cadre de securitate mai stricte pentru agenții AI. Regulatorii pot introduce standarde pentru modul în care agenții gestionează datele de acces și datele sensibile. Pentru acum, cea mai sigură abordare este să tratați accesul agenților cu precauție extremă.

De ce e riscant să dai agenților AI log-urile financiare? Crează un singur punct de eșec. Dacă agentul e compromis, toate conturile financiare legate sunt expuse.

Ce ar trebui să facă utilizatorii în schimb? Acordați agenților doar permisiunile minime necesare pentru o sarcină specifică. Revocați accesul odată ce sarcina e finalizată.

Cine e Alex Stamos? El e fostul șef al securității la Meta și acum servește ca șef al securității la Cognition.