ხელოვნური ინტელექტის სფეროში მოღვაწე კომპანია Anthropic-მა საკუთარი ახალი და მძლავრი მოდელი, Claude Fable 5, საჯარო პრეზენტაციიდან სულ რამდენიმე დღეში გათიშა. გადაწყვეტილება აშშ-ის ხელისუფლების მხრიდან გაჟღერებულ უსაფრთხოების რისკებს უკავშირდება.

კომპანიის ოფიციალური განცხადებით, მათ მიიღეს დირექტივა, რომელიც უცხო ქვეყნის მოქალაქეებისთვის Fable 5-ის გამოყენების აკრძალვას მოითხოვდა. შესაბამისობის უზრუნველსაყოფად, Anthropic იძულებული გახდა, პროგრამა ყველა მომხმარებლისთვის დროებით გაეთიშა.

რა გახდა შეჩერების მიზეზი?

Anthropic-ის ინფორმაციით, აშშ-ის ეროვნული უსაფრთხოების სამსახურებს კონკრეტული დარღვევები არ დაუფიქსირებიათ, თუმცა არსებობს ეჭვი, რომ ჰაკერებმა მოდელის დაცვის გვერდის ავლის, ე.წ. „ჯეილბრეიკის“ (jailbreaking) მეთოდს მიაგნეს. ეს პროცესი საშუალებას აძლევს მომხმარებელს, გვერდი აუაროს პროგრამულ შეზღუდვებს და წვდომა მიიღოს დაცულ ინფორმაციასთან.

კომპანია აცხადებს, რომ მათ შეისწავლეს ტექნიკა, რომლითაც დაფიქსირდა უმნიშვნელო და უკვე ცნობილი სუსტი წერტილები. თუმცა, Anthropic-ის მტკიცებით, მსგავსი მოწყვლადობები სხვა საჯარო ხელმისაწვდომ მოდელებშიც გვხვდება და მათ აღმოსაჩენად სპეციალური გვერდის ავლის მეთოდები საჭირო არ არის.

კონფლიქტი აშშ-ის ადმინისტრაციასთან

ეს ინციდენტი Anthropic-სა და დონალდ ტრამპის ადმინისტრაციას შორის არსებული დაძაბული ურთიერთობის ფონზე მიმდინარეობს. თავდაცვის მდივანმა პიტ ჰეგსეთმა კომპანია „მიწოდების ჯაჭვის რისკად“ მოიხსენია, რაც აშშ-ში უპრეცედენტო შემთხვევაა.

აღნიშნული სტატუსი გულისხმობს, რომ სერვისი არ არის საკმარისად დაცული სამთავრობო მიზნებისთვის. Anthropic-მა ამ გადაწყვეტილების გასაჩივრების მიზნით პენტაგონს უჩივლა. მიმდინარე სასამართლო დავის პარალელურად, მოსამართლის გადაწყვეტილებით, სამთავრობო უწყებებს ჯერჯერობით კვლავ შეუძლიათ კომპანიის ხელსაწყოებით სარგებლობა.

ექსპერტების შეფასება

ლონდონის ქუინ მერის უნივერსიტეტის პროფესორი ჯინა ნეფი მიიჩნევს, რომ მსგავსი შეზღუდვები აფერხებს ხელოვნური ინტელექტის უსაფრთხო ტესტირებასა და საერთაშორისო თანამშრომლობას. მისი თქმით, გაერთიანებული სამეფოს AI უსაფრთხოების ინსტიტუტის ტესტებმა აჩვენა, რომ Claude Fable 5-ს შეუძლია კიბერდაცვის სისტემების 73%-ის გარღვევა.

„ეს არის ნახტომი კიბერუსაფრთხოების შესაძლებლობებში“, — აღნიშნავს ნეფი, რაც კიდევ უფრო ამწვავებს დებატებს იმის შესახებ, თუ რამდენად სწრაფად უნდა მოხდეს მსგავსი მძლავრი ტექნოლოგიების საჯარო სივრცეში დაშვება.