ხელოვნური ინტელექტის ერთ-ერთი წამყვანი კომპანია Anthropic-ი ვაშინგტონში მაღალი რანგის შეხვედრას გეგმავს. კომპანიის ხელმძღვანელობა აშშ-ის ვაჭრობის დეპარტამენტის წარმომადგენლებს ხვდება, რათა უსაფრთხოების იმ რისკებზე იმსჯელონ, რომელთა გამოც კომპანიამ საკუთარი უახლესი AI ხელსაწყოების საჯარო წვდომა შეაჩერა.

დაძაბულობა ტექნოლოგიურ სექტორში

საუბარია ახალ მოდელებზე – Fable 5-სა და Mythos 5-ზე, რომლებიც Anthropic-ის განახლებული Claude Mythos არქიტექტურის ნაწილია. კომპანიამ გასულ კვირას საჯარო წვდომა მას შემდეგ დაბლოკა, რაც აშშ-ის მთავრობამ აკრძალა ამ ტექნოლოგიაზე უცხო ქვეყნის მოქალაქეების დაშვება. მთავრობის პოზიცია ეროვნული უსაფრთხოების ინტერესებით არის განპირობებული.

რა არის პრობლემა?

ოფიციალურმა ვაშინგტონმა განაცხადა, რომ მათ ხელთ არსებული ინფორმაციით, არსებობს „ჯეილბრეიკის“ (jailbreak) შესაძლებლობა. ეს ნიშნავს, რომ მომხმარებელს შეუძლია AI სისტემა აიძულოს, შეასრულოს ისეთი დავალებები, რისთვისაც ის თავდაპირველად არ იყო შექმნილი და რასაც შესაძლოა, უსაფრთხოების სერიოზული საფრთხეები ახლდეს თან.

თავად Anthropic-ი აცხადებს, რომ მათ მხოლოდ „ზეპირსიტყვიერი მტკიცებულებები“ მიიღეს ამ ხარვეზის შესახებ. თუმცა, კომპანიის აღმასრულებელი დირექტორი დარიო ამოდეი, რომელიც შეხვედრას დაესწრება, აქტიურად თანამშრომლობს უწყებებთან სიტუაციის გასარკვევად.

მზარდი გამოწვევები

ეს არ არის პირველი შემთხვევა, როდესაც Anthropic-სა და აშშ-ის მთავრობას შორის უთანხმოება ხდება. წლის დასაწყისში კომპანიამ თავდაცვის დეპარტამენტს უჩივლა კიდეც მოდელების გამოყენების წესებთან დაკავშირებით. მიუხედავად ამისა, ბოლო პერიოდში მხარეებს შორის დიალოგი „პროდუქტიულად“ ფასდებოდა.

ამჟამად უცნობია, შეძლებს თუ არა Anthropic-ი შეხვედრის შემდეგ Fable 5-ისა და Mythos 5-ის ხელახლა გაშვებას. კომპანიის წარმომადგენლები აღიარებენ, რომ ამ მასშტაბის მოდელების საჯარო სივრცეში გამოტანა გარკვეულ რისკებთანაა დაკავშირებული, რადგან მათი შესაძლებლობები აღემატება ყველაფერს, რაც აქამდე საზოგადოებისთვის ხელმისაწვდომი იყო.