ხელოვნური ინტელექტის სფეროში მორიგი ხმაურიანი სიახლეა: კომპანია Anthropic-მა ოფიციალურად გამოუშვა Claude Fable 5. ეს არის Claude Mythos-ის ვერსია, რომლის საჯაროდ გავრცელებისგანაც კომპანია აქამდე თავს იკავებდა. მიზეზი მარტივი და შემაშფოთებელია — მოდელის შესაძლებლობები იმდენად მაღალია, რომ ის პოტენციურ საფრთხეს ქმნის.

აპრილში, როდესაც Mythos-ის პირველი სატესტო ვერსია შეზღუდულ ჯგუფებში გავრცელდა, მან მთავრობებისა და კორპორატიული სექტორის ლიდერების მკვეთრი რეაქცია გამოიწვია. ექსპერტებს აწუხებთ, რომ ინსტრუმენტს შეუძლია კიბერუსაფრთხოების სისტემების გატეხვა და ფინანსური რისკების შექმნა.

რა შეუძლია ახალ მოდელს?

Anthropic-ის განცხადებით, Fable 5-ის შესაძლებლობები აღემატება ყველაფერს, რაც კომპანიას აქამდე შეუქმნია. მოდელი გამოირჩევა დამოუკიდებლად მუშაობის უნარით: მას შეუძლია ადამიანის მიერ მიცემული დავალებები დიდი ხნის განმავლობაში, ზედამხედველობის გარეშე შეასრულოს.

კომპანიის თანადამფუძნებელმა ჯეკ კლარკმა BBC-სთან საუბრისას აღნიშნა, რომ ტექნოლოგია იმდენად სწრაფად ვითარდება, რომ ინდუსტრიას „მუხრუჭები“ სჭირდება. მისი თქმით, ამჟამად AI-ს განვითარებას მხოლოდ „გაზის პედალი“ აქვს, რაც უკონტროლო პროცესებს იწვევს.

უსაფრთხოება და შეზღუდვები

მიუხედავად გაფრთხილებებისა, Anthropic-მა მოდელი მაინც გაუშვა, თუმცა გარკვეული შეზღუდვებით. კომპანია აცხადებს, რომ მოდელი აღჭურვილია უსაფრთხოების მექანიზმებით. თუმცა, დაახლოებით 150-მა ორგანიზაციამ, რომლებიც Mythos-ს ტესტავდნენ, უკვე აღმოაჩინა 10 000-ზე მეტი კრიტიკული უსაფრთხოების ხარვეზი საკუთარ სისტემებში.

ახლა ეს ორგანიზაციები წვდომას მიიღებენ Claude Mythos 5-ზეც, რომელსაც კიბერუსაფრთხოებისა და ბიოლოგიური დაცვის კუთხით სპეციალური შეზღუდვები მოხსნილი აქვს. Anthropic გეგმავს, „სანდო მომხმარებლების“ პროგრამის ფარგლებში, წვდომა კიდევ უფრო გააფართოოს.

კანადის ფინანსთა მინისტრმა ფრანსუა-ფილიპ შამპანმა Mythos-ის გამოჩენას „უცნობი საფრთხე“ უწოდა. მიუხედავად ამისა, აშშ-ის სამთავრობო უწყებები მოდელის ტესტირებას აქტიურად აგრძელებენ, პარალელურად კი Anthropic-სა და თავდაცვის სამინისტროს შორის დავა მიმდინარეობს.