ხელოვნური ინტელექტის განვითარებასთან ერთად, უსაფრთხოების საკითხები კრიტიკულ მნიშვნელობას იძენს. კიბერუსაფრთხოების მკვლევართა ჯგუფმა ChatGPT-ის მუშაობაში ახალი ხარვეზი გამოავლინა, რომელიც სისტემის უსაფრთხოების დამცავ მექანიზმებს, ე.წ. „გარდრეილებს“ (guardrails) გვერდს უვლის.

პრობლემა კონკრეტულ „პრომპტებს“ ანუ მომხმარებლის მიერ გაცემულ ბრძანებებს უკავშირდება. მკვლევრების თქმით, სისტემაში არსებული ეს სისუსტე ხელოვნურ ინტელექტს აიძულებს, შექმნას ისეთი გამოსახულებები, რომლებიც დაწესებულ ეთიკურ და უსაფრთხოების სტანდარტებს არღვევს და შემაშფოთებელ შინაარსს ატარებს.

როგორ მუშაობს უსაფრთხოების გვერდის ავლის მეთოდი?

ექსპერტები განმარტავენ, რომ ეს შემთხვევა ნათელს ჰფენს იმას, თუ როგორ მიმდინარეობს AI-ს წვრთნის პროცესი და რამდენად რთულია მოდელების სრული კონტროლი. მაშინ, როდესაც დეველოპერები ცდილობენ შეზღუდონ მავნე კონტენტის შექმნა, მომხმარებლები პოულობენ გზებს ამ ბარიერების გასარღვევად.

მსგავსი ტიპის ექსპლუატაცია საფრთხეს უქმნის არა მხოლოდ პლატფორმის რეპუტაციას, არამედ აჩენს კითხვებს იმასთან დაკავშირებით, თუ რამდენად ეფექტურია ამჟამინდელი უსაფრთხოების სისტემები. ეს ინციდენტი კიდევ ერთხელ ადასტურებს, რომ ხელოვნური ინტელექტის უსაფრთხოება არ არის ერთჯერადი პროცესი, არამედ მუდმივი ბრძოლაა დეველოპერებსა და სისტემის „გატეხვის“ მსურველებს შორის.

ტექნოლოგიური გამოწვევები და მომავალი

BBC-ის ტექნოლოგიურ პროგრამაში, გარდა ChatGPT-ის საკითხისა, ყურადღება გამახვილდა სხვა ინოვაციებზეც. მაგალითად, საუბარი შეეხო კვანტურ ალმასის მაგნიტომეტრებს, რომლებიც კოსმოსში გაიგზავნა. ამ მოწყობილობების მიზანი დედამიწის მაგნიტური ჩრდილოეთის ზუსტი მდებარეობის დადგენაა.

ასევე აქტუალური დარჩა ინფრასტრუქტურული პრობლემები, კერძოდ, ბრიტანეთის სატრანსპორტო სამინისტროსთან გამართული დიალოგი გზებზე არსებული ორმოების შესახებ. ეს მიუთითებს იმაზე, რომ ტექნოლოგიური განვითარება პარალელურად მიმდინარეობს ყოფითი, საინჟინრო გამოწვევების გადაჭრასთან ერთად.