აშშ-ის მთავრობის გადაწყვეტილება Anthropic-ის უახლესი ხელოვნური ინტელექტის მოდელების, Fable 5-ისა და Mythos 5-ის შეზღუდვის შესახებ, ტექნოლოგიურ სექტორში სკანდალის მიზეზი გახდა. ოფიციალური მიზეზი ეროვნული უსაფრთხოებაა, თუმცა კიბერუსაფრთხოების ექსპერტები ამტკიცებენ, რომ შეზღუდვები უსაფუძვლოა.

რა მოხდა სინამდვილეში?

Luta Security-ის დამფუძნებლის, ქეთი მუსურის განცხადებით, მოდელების დაბლოკვის მიზეზი გახდა კვლევა, რომელიც თითქოსდა მოდელების „ჯეილბრეიკს“ (დაცვის სისტემების გვერდის ავლის მეთოდს) აღწერდა. რეალურად, მკვლევრებმა ხელოვნურ ინტელექტს სთხოვეს, „გამოესწორებინა კოდი“ (Fix this code), რომელშიც ცნობილი დაუცველობები იყო დაფიქსირებული.

როდესაც მოდელმა ეს დავალება შეასრულა, მკვლევრებმა მას დამატებითი სკრიპტების დაწერა მოსთხოვეს, რათა შეემოწმებინათ, მუშაობდა თუ არა შესწორებები. მუსურის თქმით, ეს არის სტანდარტული პროცესი, რომელსაც კიბერუსაფრთხოების სპეციალისტები ყოველდღიურად იყენებენ.

რატომ არის ეს მნიშვნელოვანი?

მუსური, რომელიც წარსულში Wassenaar-ის შეთანხმების (ორმაგი დანიშნულების ტექნოლოგიების ექსპორტის კონტროლის მექანიზმი) ტექნიკურ ექსპერტთა ჯგუფში მუშაობდა, მიიჩნევს, რომ დამცველებისთვის ამ ინსტრუმენტების ჩამორთმევა საშიში პრეცედენტია. მისი აზრით, AI-ის მიერ კოდის ანალიზი და „პაჩების“ შექმნა არა საფრთხე, არამედ კიბერუსაფრთხოების ყველაზე ეფექტური იარაღია.

უკვე 100-ზე მეტმა კიბერუსაფრთხოების ლიდერმა მოაწერა ხელი ღია წერილს, სადაც მთავრობას მოუწოდებენ, შეზღუდვები მოხსნას. ისინი აცხადებენ, რომ როდესაც მოწინააღმდეგეები აქტიურად იყენებენ AI-ს, დამცველების შესაძლებლობების შეზღუდვა მათ უპირატესობას ანიჭებს.

„ეს არის ყველაზე ღირებული რამ, რისი გაკეთებაც AI-ს შეუძლია თავდაცვისთვის: შეცდომების პოვნა, გამოსწორება და ტესტირება“, — წერს მუსური თავის ბლოგპოსტში.

გარდა ამისა, ექსპერტები აღნიშნავენ, რომ მსგავსი აკრძალვები არ შეაჩერებს პროცესებს ჩინეთსა და სხვა ქვეყნებში, სადაც მსგავსი შესაძლებლობების მქონე მოდელები უკვე ვითარდება. Anthropic-მა და Google-მა უკვე არაერთხელ განაცხადეს, რომ ჩინური კომპანიები ამერიკული AI-ის ცოდნის „დისტილაციით“ საკუთარ მოდელებს ავარჯიშებენ.