ხელოვნური ინტელექტის სფეროში გლობალური უსაფრთხოების კითხვები მწვავდება. Semafor-ის მიერ გავრცელებული ინფორმაციით, თეთრი სახლის გადაწყვეტილება, დაეწესებინა მკაცრი საექსპორტო შეზღუდვები Anthropic-ის მოწინავე მოდელზე, Mythos, ნაწილობრივ იმ შიშმა განაპირობა, რომ სისტემაზე წვდომა ჩინეთთან დაკავშირებულ ჯგუფებს ჰქონდათ.

თუ ჩინეთის მთავრობამ რეალურად შეძლო Mythos 5-ის ან Fable 5-ის მონაცემების მოპოვება, ეს ეროვნული უსაფრთხოებისთვის სერიოზულ გამოწვევას წარმოადგენს. ექსპერტები შიშობენ, რომ მოწინააღმდეგე მხარეს შეუძლია ე.წ. „დისტილაციის“ მეთოდით მოდელის რევერსული ინჟინერია განახორციელოს. ეს გულისხმობს უფრო მარტივი, „სტუდენტი“ AI-ის გაწვრთნას მოწინავე მოდელის ქცევის სრულად რეპლიკაციისთვის.

პოლიტიკური დებატები და Anthropic-ის პოზიცია

თეთრ სახლს ოფიციალურად არ დაუდასტურებია, რომ შეზღუდვების მიზეზი ჩინური კვალია. დონალდ ტრამპის მრჩეველმა, დევიდ საქსმა, სოციალურ ქსელ X-ზე გამოქვეყნებულ პოსტში ჩინეთი არ უხსენებია. მისი ყურადღება მიმართული იყო ცნობებზე, რომელთა თანახმად, Fable და Mythos-ის მოდელების ე.წ. „jailbreak“ ანუ უსაფრთხოების ბარიერების გარღვევა შესაძლებელი იყო.

თავად კომპანია Anthropic-ი ამ ბრალდებებს უარყოფს. მიუხედავად იმისა, რომ კომპანიას კომენტარის მოთხოვნაზე პასუხი არ გაუცია, Semafor-თან საუბრისას სპიკერმა აღნიშნა, რომ საექსპორტო კონტროლთან დაკავშირებულ დისკუსიებში მთავრობას ჩინეთის ფაქტორი არ წამოუწევია.

უსაფრთხოების ისტორიული ხარვეზები

ეს არ არის პირველი შემთხვევა, როდესაც Anthropic-ის ყველაზე მძლავრი მოდელების უსაფრთხოება კითხვის ნიშნის ქვეშ დგება. კომპანია მუდმივად იმეორებს, რომ Mythos იმდენად სახიფათო და მძლავრია, რომ მისი საჯარო წვდომა დაუშვებელია.

მიუხედავად ამისა, წარსულში დაფიქსირდა შემთხვევა, როდესაც Discord-ის ერთ-ერთმა ჯგუფმა მოდელზე წვდომა ორი კვირის განმავლობაში შეინარჩუნა. Anthropic-მა ინციდენტი მხოლოდ ორი კვირის შემდეგ აღმოაჩინა და წვდომა დაუყოვნებლივ გააუქმა. ამგვარი ფაქტები კიდევ უფრო აძლიერებს ეჭვებს იმასთან დაკავშირებით, თუ რამდენად ეფექტურად აკონტროლებს კომპანია საკუთარ ტექნოლოგიურ ინფრასტრუქტურას.