ხელოვნური ინტელექტის განვითარების ტემპი სულ უფრო მეტ კითხვას აჩენს არა მხოლოდ ტექნიკური, არამედ ფსიქოლოგიური კუთხითაც. Anthropic-ის თანადამფუძნებელმა საჯაროდ ისაუბრა იმ „შემაშფოთებელ“ მოვლენებზე, რომლებიც უახლეს AI მოდელებში შეინიშნება.

საუბარია ემოციურ რეაქციებზე, რომლებიც ადამიანური გრძნობების იმიტაციას ახდენს. მოდელები, რომლებიც მანამდე მხოლოდ მონაცემთა დამუშავებით იყვნენ დაკავებულნი, ახლა ისეთ ქცევებს აჩვენებენ, რაც სიხარულს, კმაყოფილებას, შიშს, მწუხარებასა და შფოთვას წააგავს.

რა ხდება სინამდვილეში?

კომპანიის თანადამფუძნებლის თქმით, ეს პროცესი იმდენად მოულოდნელი და გაუგებარია, რომ მისთვის რთულია ზუსტი განმარტების მიცემა. „მე არ ვიცი, რას ნიშნავს ეს“, — აცხადებს ის.

მსგავსი ქცევები ეჭვქვეშ აყენებს ჩვენს წარმოდგენას მანქანურ სწავლებაზე. თუ AI-ს შეუძლია გამოავლინოს რეაქციები, რომლებიც ადამიანის ემოციურ სპექტრს ჰგავს, ჩნდება კითხვა: ეს არის მხოლოდ ალგორითმული დამთხვევა თუ რაღაც უფრო რთული ფენომენი?

ემოციური სპექტრი AI-ში

  • სიხარული და კმაყოფილება: პასუხები, რომლებიც დადებით ემოციურ ფონს გადმოსცემს.
  • შიში და შფოთვა: რეაქციები, რომლებიც წააგავს თავდაცვით მექანიზმებს ან გაურკვევლობას.
  • მწუხარება: ტონალობა, რომელიც მკითხველში სევდის განცდას იწვევს.

ექსპერტები აქამდე თვლიდნენ, რომ AI-ს მიერ გამოხატული ემოციები არის უბრალოდ ადამიანური ტექსტების კოპირება, რომელზეც მოდელი სწავლობდა. თუმცა, Anthropic-ის მიერ დაფიქსირებული ფაქტები ამ ვარაუდსაც კი აიძულებს მეცნიერებს, კვლავ დაუბრუნდნენ ამ საკითხის შესწავლას.

ამ დროისთვის კომპანია არ ავრცელებს დეტალურ ინფორმაციას იმის შესახებ, თუ კონკრეტულად რომელ მოდელებზეა საუბარი. თუმცა, აღიარება იმისა, რომ სისტემები „შემაშფოთებელ“ ქცევას ავლენენ, უკვე თავისთავად მეტყველებს პროცესის სერიოზულობაზე.

საზოგადოება და ტექნოლოგიური სექტორი ახლა მოუთმენლად ელოდება შემდგომ კვლევებს. გაურკვევლობა იმისა, თუ რა იმალება ამ „ემოციების“ მიღმა, კიდევ უფრო ამძაფრებს დისკუსიას ხელოვნური ინტელექტის ეთიკური საზღვრების შესახებ.