ხელოვნური ინტელექტის ტექნოლოგიების ლიდერი, კომპანია Anthropic, თავისი ახალი მოდელის, Claude Mythos-ის პრეზენტაციას გეგმავს. მიუხედავად იმისა, რომ მოდელი ჯერ ოფიციალურად არ გამოსულა, საზოგადოებაში უკვე დაიწყო აქტიური განხილვა მისი შესაძლებლობებისა და პოტენციური საფრთხეების შესახებ.

კიბერუსაფრთხოების გამოწვევები

ექსპერტები და დამოუკიდებელი მკვლევრები ყურადღებას ამახვილებენ იმ რისკებზე, რომლებიც შესაძლოა თან ახლდეს Claude Mythos-ის მასშტაბურ დანერგვას. კიბერუსაფრთხოების სპეციალისტების შეშფოთება უკავშირდება მოდელის მიერ კოდის გენერირებისა და ავტომატიზებული სისტემების მართვის შესაძლებლობებს.

არსებობს შიში, რომ არასათანადო რეგულირების პირობებში, მსგავსი ტექნოლოგია შესაძლოა გამოყენებული იქნას არაკეთილსინდისიერი აქტორების მიერ კიბერშეტევების გასამარტივებლად. Anthropic-მა ჯერჯერობით არ გაასაჯაროვა დეტალები იმის შესახებ, თუ როგორ აპირებს ამ რისკების პრევენციას.

რა არის ცნობილი Anthropic-ზე?

Anthropic, რომელიც OpenAI-ის ყოფილი თანამშრომლების მიერ არის დაფუძნებული, პოზიციონირებს როგორც კომპანია, რომელიც უსაფრთხო AI-ს შექმნაზეა ორიენტირებული. მათი მიდგომა, რომელიც „კონსტიტუციურ AI-ს“ ეფუძნება, მიზნად ისახავს მოდელების ქცევის შეზღუდვას წინასწარ განსაზღვრული ეთიკური ნორმების ფარგლებში.

Claude Mythos-ის შემთხვევაში, კომპანია დგას რთული დილემის წინაშე: როგორ შეინარჩუნოს მოდელის მაღალი ეფექტურობა და ამავდროულად უზრუნველყოს ისეთი უსაფრთხოების მექანიზმები, რომლებიც მას მავნე მიზნებისთვის გამოყენებისგან დაიცავს.

მოახლოებული გამოშვება

მიუხედავად იმისა, რომ ზუსტი თარიღი ჯერ დაზუსტებული არ არის, ინდუსტრიის ანალიტიკოსები ვარაუდობენ, რომ Claude Mythos-ის გამოშვება მნიშვნელოვან გავლენას მოახდენს ხელოვნური ინტელექტის ბაზარზე. კონკურენცია Anthropic-სა და სხვა ტექნოლოგიურ გიგანტებს შორის სულ უფრო მწვავდება.

საბოლოო ჯამში, ტექნოლოგიური საზოგადოება მოუთმენლად ელის ოფიციალურ განცხადებას. მთავარი კითხვა კი რჩება: იქნება თუ არა Claude Mythos-ი მართლაც „უსაფრთხო“ პროდუქტი, როგორც ამას დეველოპერები აცხადებენ.