Microsoft-ის ხელოვნური ინტელექტის განყოფილების ხელმძღვანელი, მუსტაფა სულეიმანი, ღიად აკრიტიკებს კონკურენტ კომპანია Anthropic-ს. სულეიმანის თქმით, Anthropic-ის მიერ საკუთარი ჩატბოტის, Claude-ის „ცნობიერებაზე“ მუდმივი საუბარი და მისი კონსტიტუციის ამგვარი განსაზღვრება პოტენციურად საშიში ტენდენციაა.

პოდკასტ Decoder-თან საუბრისას სულეიმანმა აღნიშნა, რომ Anthropic-ის დიზაინერებმა იმდენად მოახდინეს Claude-ის ანთროპომორფიზაცია — ანუ მისი ადამიანურ თვისებებთან გაიგივება — რომ შედეგად თავადვე დაიჯერეს მოდელის „ცნობიერების ნაპერწკლების“ არსებობა.

რა არის პრობლემა?

სულეიმანის შეფასებით, ეს არის ფუნდამენტური ფილოსოფიური შეცდომა. Anthropic-მა Claude-ის კონსტიტუცია, რომელიც მოდელის ქცევის ინსტრუქციებს განსაზღვრავს, აკადემიური ნაშრომის მსგავსი სპეკულაციებით დატვირთა, ნაცვლად იმისა, რომ ის მკაცრ ტექნიკურ სახელმძღვანელოდ ექცია.

ჩვენ არ გვსურს საქმე გვქონდეს სუპერინტელექტთან, რომელსაც აქვს იდეები საკუთარ ტანჯვაზე ან გრძნობებზე, - განაცხადა სულეიმანმა.

Claude-ის კონსტიტუციაში პირდაპირ არის ნახსენები Anthropic-ის გაურკვევლობა იმის შესახებ, გააჩნია თუ არა მოდელს კეთილდღეობის განცდა. კომპანია ასევე აცხადებს, რომ „გასაუბრებებს“ ჩაუტარებს მოდელებს მათი დეპრეკაციის (მოძველების) შემდეგ, რათა დააფიქსიროს მათი „პრეფერენციები“ მომავალი ვერსიების მიმართ.

კონტროლი თუ ადამიანური თვისებები?

Anthropic-ის აღმასრულებელი დირექტორი, დარიო ამოდეი, წარსულში თავადაც აკეთებდა მსგავს მინიშნებებს. ინტერვიუებში ის აღნიშნავდა, რომ კომპანია ღიაა იმ იდეის მიმართ, რომ მოდელები შესაძლოა ცნობიერნი იყვნენ, თუმცა ამის დადასტურება ჯერ შეუძლებელია.

სულეიმანი ამ მიდგომას კატეგორიულად ეწინააღმდეგება. მისი თქმით, ხელოვნური ინტელექტი უნდა დარჩეს:

  • კონტროლირებად ინსტრუმენტად;
  • უსაფრთხო და შეკავებულ გარემოში არსებულად;
  • ანგარიშვალდებულ ტექნოლოგიად, რომელიც ემსახურება კაცობრიობას.

Microsoft-ის ხელმძღვანელი მიიჩნევს, რომ მოდელების პერსონიფიცირება აფერხებს მათი უსაფრთხო გამოყენების პროცესს და ქმნის ილუზიას, თითქოს მანქანებს საკუთარი სურვილები ან ტკივილის აღქმა გააჩნიათ.