ხელოვნური ინტელექტის აგენტების სწრაფი დანერგვა გლობალურ ქსელებსა და კორპორაციულ გარემოში ახალ, მასშტაბურ კიბერუსაფრთხოების რისკებს აჩენს. ბლოკჩეინის უსაფრთხოების აუდიტორული კომპანია CertiK-ის თანადამფუძნებელი და აღმასრულებელი დირექტორი, რონგჰუი გუ, აფრთხილებს, რომ აგენტების უკონტროლო გამოყენება კატასტროფის წინაპირობაა.

საფრთხე მომხმარებლის პირად სივრცეში

მიუხედავად იმისა, რომ ტექნოლოგიური გიგანტები AI აგენტებს პროდუქტიულობის ზრდის ინსტრუმენტად წარმოაჩენენ, რეალობა ბევრად უფრო საგანგაშოა. გუს თქმით, მომხმარებლები საკუთარ მგრძნობიარე ფაილებს, პაროლებსა და საბანკო ანგარიშებს ანდობენ სისტემებს, რომელთა მანიპულირება ან გატეხვა მარტივად არის შესაძლებელი.

თანამედროვე აგენტები უკვე აღარ შემოიფარგლებიან მხოლოდ კითხვებზე პასუხის გაცემით. ისინი იწყებენ გარე ხელსაწყოებთან დაკავშირებას, ლოკალური ფაილების კითხვას და ფინანსურ ტრანზაქციებში მონაწილეობას. თუ მსგავსი ხელსაწყოები სათანადოდ არ არის იზოლირებული, მომხმარებელი საფრთხის წინაშე აყენებს მთელ თავის ქსელს.

„Zero Trust“ არქიტექტურის აუცილებლობა

CertiK-ის კვლევამ აჩვენა, რომ ბევრი პოპულარული AI აპლიკაცია მცდარ დაშვებაზეა აგებული, თითქოს ლოკალურად გაშვებული პროგრამები გარე საფრთხეებისგან დაცულია. რეალურად კი, როგორც კი აგენტი იღებს წვდომას სისტემურ მეხსიერებასა თუ ელექტრონულ ფოსტაზე, ის ავტომატურად ხდება „შიდა საფრთხე“.

კვლევამ გამოავლინა ასობით კრიტიკული დაუცველობა, მათ შორის დაუცველი პროგრამული უზრუნველყოფის ხარვეზები (CVE). ყველაზე საგანგაშო კი ისაა, რომ თავდამსხმელებს სისტემის გასატეხად მავნე კოდის წერაც კი არ სჭირდებათ. ე.წ. „prompt injection“ შეტევების საშუალებით, ჰაკერებს შეუძლიათ აგენტს დამამახინჯებული ბრძანებები მისცენ, რათა მან მონაცემები გაასაჯაროოს ან უნებართვო ფინანსური გადარიცხვები განახორციელოს.

„ამჟამად აგენტების მოტყუება უფრო ადვილია, ვიდრე ადამიანის“, — აცხადებს რონგჰუი გუ.

CertiK-ის მონაცემებით, უკვე შეინიშნება ავტომატიზებული ფინანსური თაღლითობის შემთხვევებიც, სადაც ერთი ავტონომიური სისტემა მეორეს ებრძვის. ეს „ჰიპერ-სწრაფი“ შეტევები სრულდება მანამ, სანამ მომხმარებელი მიხვდება, რომ მისი სისტემა კომპრომეტირებულია. ინდუსტრიამ სასწრაფოდ უნდა მიატოვოს ნდობაზე დაფუძნებული მოდელები და გადავიდეს „Zero Trust“ არქიტექტურაზე, სადაც ყველა ბრძანება მუდმივად ვერიფიცირებადია.