Deloitte figyelmeztet az AI ügynökök veszélyeire

A Deloitte legújabb jelentése szerint a vállalkozások az AI ügynökrendszereket gyorsabban vezetik be, mint ahogy biztonsági protokolljaik és védelmi mechanizmusaik képesek lennének lépést tartani. Ennek következményeként komoly aggályok merülnek fel a biztonság, az adatvédelem és a felelősség kérdéseiben. Az agentic rendszerek olyan gyorsan lépnek pilot fázisból a tényleges felhasználásba, hogy a hagyományos kockázatkezelési eszközök ehhez nem alkalmazkodnak megfelelően.

A Deloitte jelentése kiemeli, hogy az AI rendszerek üzembe helyezése az utóbbi időben exponenciálisan gyorsult fel, és az ehhez kapcsolódó hagyományos biztonsági protokollok már nem képesek mindezt nyomon követni. Az üzleti élet szereplői gyakran tapasztalják, hogy a megszokott eljárások és szabványok nem fedik le az új technológiák nyújtotta kihívásokat. Ez a diszkrepancia növekvő kockázatot jelenthet mind az üzleti folyamatokra, mind pedig az ügyféladatok biztonságára.

A jelentés eredményeinek tükrében a Deloitte szakértői hangsúlyozzák, hogy a vállalkozásoknak haladéktalanul meg kell újítaniuk biztonsági eljárásaikat. Javasolják, hogy a cégek nagyobb hangsúlyt fektessenek a technológiai innovációk által kínált lehetőségek mellett azok lehetséges veszélyeinek feltérképezésére is. A meglévő és jövőbeli AI rendszerek biztonsági keretrendszereinek folyamatos újratervezése és fejlesztése kulcsfontosságú lehet annak érdekében, hogy a technológia üzleti előnyeit anélkül élvezzék, hogy közben kockáztatnák értékes adataik vagy a vállalat jó hírnevét.

Forrás: https://www.artificialintelligence-news.com/news/deloitte-agentic-ai-guidelines-published/