ხელოვნური ინტელექტის სფეროში ერთ-ერთმა წამყვანმა კომპანიამ, Anthropic-მა, საგანგაშო განცხადება გაავრცელა. Claude-ის შემქმნელები მოუწოდებენ ტექნოლოგიურ ლაბორატორიებს, დროებით შეაჩერონ ხელოვნური ინტელექტის სისტემების შემდგომი განვითარება. მათი თქმით, ტექნოლოგია იმდენად სწრაფად ვითარდება, რომ კაცობრიობა შესაძლოა აღმოჩნდეს სიტუაციის წინაშე, რომელსაც ვეღარ გააკონტროლებს.

კომპანიის ბლოგზე გამოქვეყნებული ინფორმაციით, მთავარ საფრთხედ ე.წ. „რეკურსიული თვით-სრულყოფის“ პროცესი სახელდება. ეს ნიშნავს, რომ სისტემებმა შესაძლოა დამოუკიდებლად, ადამიანის ჩარევის გარეშე დაიწყონ საკუთარი თავის გაუმჯობესება. Anthropic-ის თანადამაარსებელი ჯეკ კლარკი და ინსტიტუტის ხელმძღვანელი მარინა ფავარო აცხადებენ, რომ თუ არსებული ტექნიკური ტენდენციები შენარჩუნდება, ხელოვნური ინტელექტი ამ ეტაპს იმაზე ადრე მიაღწევს, ვიდრე ამისთვის მსოფლიო ინსტიტუტები იქნებიან მზად.

წარსული გაფრთხილებები და რეალობა

ხელოვნური ინტელექტის შეჩერების მოწოდება პირველი არ არის. მსგავსი სკეპტიციზმით 2023 წლის მარტში ილონ მასკიც გამოვიდა. მან კაცობრიობისთვის სერიოზულ საფრთხეებზე ისაუბრა, თუმცა მოგვიანებით თავად დაიწყო საკუთარი ჩეტ-ბოტის შექმნა. ასევე, მაისში რომის პაპმა ლეონ XIV-მ ენციკლიკით მოუწოდა მსოფლიოს, მკაცრად გააკონტროლონ AI-ს სისტემები, რადგან ისინი ზრდიან უთანასწორობასა და ტექნოლოგიურ დამოკიდებულებას.

Anthropic-ი, რომელიც 2021 წელს OpenAI-ის ყოფილმა თანამშრომლებმა, დარიო ამოდეის ხელმძღვანელობით დააარსეს, დღეს გენერირებული ხელოვნური ინტელექტის ბაზრის ერთ-ერთი მთავარი მოთამაშეა. მათი ინსტრუმენტი, Claude Code, განსაკუთრებით პოპულარულია პროგრამისტებში, რაც კომპანიის პოზიციას ამ დისკუსიაში კიდევ უფრო მნიშვნელოვანს ხდის.