Cisco-ს მკვლევართა ჯგუფმა გამოაქვეყნა ანგარიში, რომელიც ხელოვნური ინტელექტის უსაფრთხოების არსებულ სტანდარტებს აკრიტიკებს. კომპანიის მონაცემებით, მიღებული სატესტო მეთოდოლოგიები ვერ უზრუნველყოფს იმ რისკების სრულფასოვან იდენტიფიცირებას, რომლებსაც თანამედროვე AI მოდელები ატარებენ.

პრობლემა არსებულ მიდგომებში

დღეს არსებული ე.წ. „უსაფრთხოების ბენჩმარკები“ ძირითადად ფოკუსირებულია მოდელების მიერ კონკრეტულ კითხვებზე პასუხის გაცემაზე. თუმცა, Cisco-ს სპეციალისტები მიუთითებენ, რომ ეს მიდგომა ზედაპირულია. რეალური საფრთხეები არა უშუალოდ კითხვა-პასუხში, არამედ სისტემის არაპროგნოზირებად ქცევასა და მანიპულაციაშია.

კვლევა ხაზს უსვამს, რომ არსებული სისტემები ხშირად ვერ ცნობენ „შენიღბულ“ შეტევებს. ხელოვნური ინტელექტის მოდელები აგრძელებენ ტესტების წარმატებით გავლას, მაშინ როდესაც მათი არქიტექტურა დაუცველი რჩება უფრო რთული კიბერშეტევების მიმართ.

რა დარჩა მიღმა?

  • სისტემების მიერ მიღებული გადაწყვეტილებების კონტექსტური საფრთხეები.
  • მოდელების მანიპულაციის მცდელობები, რომლებიც არ ჯდება სტანდარტულ სცენარებში.
  • ავტომატიზებული სისტემების მიერ წარმოქმნილი სისტემური სისუსტეები.

Cisco-ს ექსპერტები მოუწოდებენ ინდუსტრიას, შეცვალონ მიდგომა. მათი აზრით, საჭიროა არა მხოლოდ სტატიკური ტესტები, არამედ დინამიური მონიტორინგი, რომელიც მოდელის მუშაობის პროცესს რეალურ დროში გააანალიზებს.

უსაფრთხოების სტანდარტები უნდა ვითარდებოდეს ისეთივე სისწრაფით, როგორც თავად ხელოვნური ინტელექტი. არსებული მეთოდები მხოლოდ ილუზიას ქმნის, რომ სისტემები დაცულია.

კვლევა ნათლად აჩვენებს, რომ ტექნოლოგიური სექტორი კრიტიკულ ეტაპზეა. უსაფრთხოების პროტოკოლების გადახედვის გარეშე, AI-ზე დაფუძნებული სერვისები შესაძლოა სერიოზული კიბერინციდენტების წყაროდ იქცეს.