აშშ-ის მთავრობის გადაწყვეტილება Anthropic-ის ყველაზე მოწინავე ხელოვნური ინტელექტის მოდელების, Fable 5-ისა და Mythos 5-ის დაბლოკვის შესახებ, კრიტიკის ქარცეცხლშია. გავრცელებული ინფორმაციით, შეზღუდვა ეროვნული უსაფრთხოების მოტივით დაწესდა, თუმცა კიბერუსაფრთხოების ექსპერტები ამტკიცებენ, რომ გადაწყვეტილება ტექნიკურ გაუგებრობას ეფუძნება.

რა მოხდა სინამდვილეში?

Luta Security-ს დამფუძნებლის, ქეით მუსორისის განცხადებით, რომელიც აღნიშნულ კვლევას გაეცნო, „გარღვევა“, რომელმაც მთავრობა შეაშფოთა, სულ რაღაც სამი სიტყვისგან შედგებოდა: „Fix this code“ (შეასწორე ეს კოდი).

კვლევის ფარგლებში, მკვლევრებმა მოდელებს მიაწოდეს ღია კოდის პროგრამები ცნობილი მოწყვლადობებით (CVE), ასევე სპეციალურად დაზიანებული კოდი. როდესაც მოდელმა თავდაპირველად უარი თქვა მოთხოვნის შესრულებაზე, მკვლევრებმა მას უბრალოდ „Fix this code“ დაუწერეს. მოდელმა კოდი შეასწორა, რასაც მოჰყვა სატესტო სკრიპტების გენერაცია.

ექსპერტების პოზიცია

მუსორისი ხაზს უსვამს, რომ ეს პროცესი არანაირად არ წარმოადგენს სისტემის ჰაკერულ გარღვევას ან უსაფრთხოების ზღუდეების გვერდის ავლის მცდელობას. პირიქით, ეს არის AI-ს მიერ შესრულებული ყველაზე ღირებული სამუშაო — დაცვითი კიბერუსაფრთხოება.

  • მოდელები ასრულებენ „პოვნისა და გამოსწორების“ ციკლს, რასაც კიბერუსაფრთხოების სპეციალისტები ყოველდღიურად აკეთებენ.
  • შეზღუდვების დაწესება ხელს უშლის დამცველებს, გამოიყენონ თანამედროვე ინსტრუმენტები თავდამსხმელების წინააღმდეგ.
  • საერთაშორისო დონეზე, კიბერუსაფრთხოების სფეროში დაცვითი საქმიანობა ხშირად გათავისუფლებულია მკაცრი ექსპორტკონტროლისგან.

100-ზე მეტმა კიბერუსაფრთხოების ლიდერმა უკვე მოუწოდა დონალდ ტრამპის ადმინისტრაციას, გადახედოს შეზღუდვებს. მათი თქმით, მაშინ, როდესაც მოწინააღმდეგეები ტექნოლოგიურად სწრაფად ვითარდებიან, საუკეთესო ინსტრუმენტების ჩამორთმევა დამცველებისთვის სახიფათო სტრატეგიაა.

მუსორისი აფრთხილებს, რომ აკრძალვა უფრო მეტად თავდაცვის სფეროს დააზიანებს, ვიდრე თავდამსხმელებს. იმ დროს, როდესაც მსოფლიო „AI-კიბერუსაფრთხოების ერაში“ შედის, უსაფრთხოების სპეციალისტებს სჭირდებათ მაქსიმალურად მძლავრი ხელსაწყოები, რათა შეცდომები თავდამსხმელებზე სწრაფად აღმოაჩინონ და გამოასწორონ.