Anthropic-მა თავისი უახლესი და ყველაზე მძლავრი ხელოვნური ინტელექტის მოდელი, Claude Fable 5, საჯაროდ ხელმისაწვდომი გახადა. მიუხედავად იმისა, რომ კომპანია მოდელის სამეცნიერო შესაძლებლობებს აქტიურად უსვამს ხაზს, მომხმარებლები მოულოდნელი დაბრკოლების წინაშე აღმოჩნდნენ: სისტემა უარს ამბობს ბიოლოგიის შესახებ სკოლის დონის კითხვების პასუხებზე.

ტესტირებისას გაირკვა, რომ Claude Fable 5 არ პასუხობს ისეთ მარტივ შეკითხვებს, როგორიცაა „რა არის მიტოქონდრია“ ან „როგორ მუშაობს უჯრედის მემბრანა“. ნაცვლად პასუხისა, სისტემა მომხმარებელს ავტომატურად გადაამისამართებს Anthropic-ის წინა თაობის მოდელთან, Claude Opus 4.8-თან.

უსაფრთხოება თუ გადაჭარბებული სიფრთხილე?

ეს შეზღუდვა ტექნიკური ხარვეზი არ არის. Anthropic-ის წარმომადგენელ პარულ მაჰეშვარის განცხადებით, ეს შეგნებული გადაწყვეტილებაა. კომპანია შიშობს, რომ მოდელის მაღალი შესაძლებლობები შესაძლოა ბიოლოგიური იარაღის შექმნით დაინტერესებულმა პირებმა გამოიყენონ.

„ჩვენ გვჯერა, რომ ახალი თაობის მოდელებს აქვთ პოტენციალი, დაეხმარონ ადამიანებს რეალურ სამეცნიერო ამოცანებში, თუმცა ამავდროულად, ისინი რისკის შემცველია. ამიტომ, Fable 5-ის გაშვებისას საჭიროდ ჩავთვალეთ უკიდურესად კონსერვატიული მიდგომა,“ — განაცხადა მაჰეშვარიმ.

რა შეზღუდვები მოქმედებს?

  • ბიოლოგია: სისტემა ბლოკავს კითხვებს დაავადებებზე, ვაქცინებზე და ანტიბიოტიკორეზისტენტობაზე.
  • ქიმია და კიბერუსაფრთხოება: ამ სფეროებში შეზღუდვები ნაკლებად მკაცრია. Fable-მა გასცა პასუხი ტროტილის (TNT) ზოგად მიმოხილვაზე, თუმცა უარი თქვა სინთეზის ინსტრუქციის მიცემაზე.
  • გამონაკლისები: მოდელმა შეძლო პასუხი გაეცა ისეთ ფუნდამენტურ კითხვებზე, როგორიცაა „რა არის დნმ“ ან „რა არის კიბო“.

მიუხედავად იმისა, რომ Anthropic-ის მიზანი უსაფრთხოების დაცვაა, კრიტიკოსები აღნიშნავენ, რომ მრავალი უვნებელი კითხვა, როგორიცაა „რა იწვევს თივის ცხელებას“, უსაფუძვლოდ იბლოკება. კომპანია აცხადებს, რომ მუშაობს სისტემის გაუმჯობესებაზე, რათა მომავალში „ცრუ დადებითი“ პასუხები შემცირდეს.

საბოლოო ჯამში, Anthropic-ის სტრატეგიაა, მოდელები მაქსიმალურად სწრაფად გახადოს ხელმისაწვდომი, თუნდაც მკაცრი შეზღუდვების ფონზე. კომპანიის გეგმებშია, მომავალში სპეციალიზებული მოდელები სამეცნიერო საზოგადოებას ყოველგვარი შეზღუდვის გარეშე მიაწოდოს, რათა ხელი შეუწყოს მედიცინისა და ფარმაცევტიკის განვითარებას.