ხელოვნური ინტელექტის სფეროში მოქმედმა კომპანია Anthropic-მა აშშ-ის მთავრობისგან ოფიციალური მოთხოვნა მიიღო. უწყებამ კომპანიას დაავალა, დაუყოვნებლივ შეწყვიტოს მისი ორი მოდელის — Claude Fable-ისა და Mythos-ის მუშაობა.

ეს გადაწყვეტილება ტექნოლოგიურ სექტორში AI-ს უსაფრთხოებისა და რეგულირების შესახებ მიმდინარე მწვავე დისკუსიების ფონზე მოხდა. Anthropic-ი, რომელიც ერთ-ერთ წამყვან მოთამაშედ ითვლება, ჯერჯერობით არ აკეთებს დეტალურ კომენტარს ამ მოთხოვნის კონკრეტულ სამართლებრივ თუ ტექნიკურ საფუძვლებზე.

რა ვიცით მოდელების შესახებ?

Claude Fable და Mythos წარმოადგენდნენ კომპანიის ექსპერიმენტულ მიმართულებებს. მათი შესაძლებლობები ფოკუსირებული იყო კონტენტის გენერირებასა და რთულ ლოგიკურ დამუშავებაზე. თუმცა, სამთავრობო დირექტივა მიანიშნებს, რომ აღნიშნულმა მოდელებმა შესაძლოა დაარღვიეს უსაფრთხოების სტანდარტები ან ეთიკური ნორმები.

ამერიკელი მარეგულირებლები ბოლო პერიოდში განსაკუთრებულ ყურადღებას აქცევენ მსხვილი ენობრივი მოდელების (LLM) მიერ გენერირებულ ინფორმაციას. მთავრობის მიზანია, თავიდან აიცილოს AI-ს მიერ დეზინფორმაციის გავრცელება ან მავნე კოდის შექმნა.

რა გავლენა ექნება ამას ბაზარზე?

ანალიტიკოსები მიიჩნევენ, რომ ეს ნაბიჯი პრეცედენტულია. თუ აქამდე კომპანიები თავად წყვეტდნენ მოდელების გაშვებასა თუ დახურვას, ახლა სახელმწიფო პირდაპირ ერევა პროდუქტის სასიცოცხლო ციკლში. ეს, სავარაუდოდ, გამოიწვევს ხელოვნური ინტელექტის დეველოპერების მხრიდან უფრო მკაცრ შიდა კონტროლს.

Anthropic-ისთვის ეს გამოწვევაა, რადგან კომპანია აქტიურად ცდილობდა „უსაფრთხო AI-ს“ იმიჯის დამკვიდრებას. Claude-ის სერიის სხვა მოდელების ბედი კვლავ გაურკვეველია, თუმცა მთავრობის მოთხოვნა მხოლოდ კონკრეტულ ორ მოდელს შეეხო.

სექტორი ახლა ელოდება დამატებით განმარტებებს. ბაზარზე მყოფმა სხვა მოთამაშეებმა, შესაძლოა, უახლოეს დღეებში გადახედონ საკუთარ უსაფრთხოების პროტოკოლებს, რათა თავიდან აიცილონ მსგავსი სამთავრობო სანქციები.