კრიპტოვალუტის ბაზარზე ხელოვნური ინტელექტის აგენტების როლი იზრდება. Circle-ის აღმასრულებელი დირექტორის, ჯერემი ალერის პროგნოზით, უახლოეს ხუთ წელიწადში მილიარდობით AI აგენტი იქნება ჩართული ფინანსურ ოპერაციებში. თუმცა, ტექნოლოგიურმა გიგანტებმა, მათ შორის Google-ის სპეციალისტებმა, მკაცრი გაფრთხილება გაავრცელეს.

უსაფრთხოება როგორც სისტემური პრობლემა

Google-ის, Gray Swan AI-ისა და სხვა წამყვანი კვლევითი ცენტრების ერთობლივი დასკვნით, AI აგენტები არ უნდა განიხილებოდეს როგორც სანდო კომპონენტები. მკვლევარები ხაზს უსვამენ, რომ მხოლოდ მოდელის გაუმჯობესება საკმარისი არ არის; საჭიროა სისტემური უსაფრთხოების მიდგომების დანერგვა.

კვლევის ავტორები გვთავაზობენ სამ ძირითად მექანიზმს, რომელსაც კიბერშეტევების დიდი ნაწილის პრევენცია შეუძლია:

  • ინსტრუქციებისა და მონაცემების გამიჯვნა: აგენტმა მკაფიოდ უნდა განასხვავოს მომხმარებლის ბრძანებები და გარე მონაცემები, რათა თავიდან ავიცილოთ მავნე კოდის შეპარება.
  • მინიმალური წვდომის პრინციპი: AI აგენტს უნდა ჰქონდეს მხოლოდ იმ მოქმედებების უფლება, რაც კონკრეტული დავალების შესასრულებლად არის საჭირო.
  • სენსიტიური ინფორმაციის კონტროლი: სისტემამ უნდა აკონტროლოს მონაცემთა ნაკადი და არა თავად აგენტმა, რათა მანიპულაციის შემთხვევაში კონფიდენციალური ინფორმაცია არ გაჟონოს.

რეალური საფრთხეები და პრაქტიკული რჩევები

უსაფრთხოების რისკები უკვე რეალურია. ბოლო პერიოდში, კრიპტო-სავაჭრო ასისტენტმა Bankr-მა ტრანზაქციები შეაჩერა, მას შემდეგ რაც თავდამსხმელებმა მინიმუმ 14 საფულეზე მიიღეს წვდომა. ექსპერტების აზრით, ეს სწორედ ბოტის არასათანადო დაცვის შედეგი იყო.

ბლოკჩეინის ინტელექტუალური ფირმა Merkle Science-ის წარმომადგენელი აარონ რეტკლიფი აღნიშნავს, რომ საფულეზე წვდომის მიცემა ხელოვნური ინტელექტისთვის დამატებით რისკს ქმნის. მისი თქმით, სანამ აგენტი ვაჭრობას დაიწყებს, მან უნდა შეძლოს თაღლითური ტოკენების ამოცნობა, სლიპეიჯის (slippage) ლიმიტების დაცვა და კონტრაქტების რეალურ დროში აუდიტი.

AI აგენტი არ უნდა იყოს ავტონომიური მმართველი, არამედ მხოლოდ „კარიბჭე“, რომელიც მომხმარებელს დამატებით დაცვას სთავაზობს.

Sahara AI-ის თანადამფუძნებელი შონ რენი გვირჩევს, რომ აგენტები გამოვიყენოთ მხოლოდ კონკრეტული, წინასწარ დამტკიცებული მოქმედებებისთვის, როგორიცაა ბალანსის შემოწმება ან გადახდის მომზადება, რომლის დადასტურებაც საბოლოოდ მაინც ადამიანმა უნდა მოახდინოს.