Meta-ს ხელოვნური ინტელექტის სისტემაში აღმოჩენილმა ხარვეზმა კვლავ გაამწვავა დისკუსია AI-ს უსაფრთხოების შესახებ. როგორც 404 Media იტყობინება, ჰაკერები კომპანიის მომხმარებელთა მხარდაჭერის AI-აგენტს იყენებდნენ ინსტაგრამის ანგარიშების ხელში ჩასაგდებად. სქემა მარტივი იყო: AI-ს სთხოვდნენ კონკრეტული ანგარიშების დაკავშირებას თავად ჰაკერების კონტროლის ქვეშ მყოფ ელექტრონულ ფოსტებთან, რაზეც სისტემა დაუყოვნებლივ თანხმდებოდა.

ამ გზით ჰაკერებმა კონტროლი დაამყარეს სხვადასხვა ანგარიშზე, მათ შორის აშშ-ის ყოფილი პრეზიდენტის, ბარაკ ობამას თეთრი სახლის დროებით მიძინებულ გვერდზეც კი, სადაც პრო-ირანული შინაარსის პოსტები გამოქვეყნდა. სხვა შემთხვევებში, მიზანი ღირებული სახელების მქონე ანგარიშების მითვისება და მათი შემდგომი გაყიდვა იყო.

ექსპერტები აღნიშნავენ, რომ ეს თავდასხმა რადიკალურად განსხვავდება იმ სცენარებისგან, რომლებსაც ხშირად განიხილავენ კიბერუსაფრთხოების სპეციალისტები. აქ AI თავად არის სამიზნე და არა თავდამსხმელი. დიუკის უნივერსიტეტის პროფესორი ნილ გონგი აცხადებს, რომ რაც უფრო მეტად ვანდობთ AI-ს ისეთ პროცესებს, როგორიცაა ანგარიშის აღდგენა, მით უფრო მეტად მოტივირებულები გახდებიან თავდამსხმელები, პირდაპირ დაესხან თავს სისტემას.

საინტერესოა, რომ ჰაკერებს ამ ოპერაციისთვის მხოლოდ VPN-ის გამოყენება დასჭირდათ, რათა მათი მდებარეობა ანგარიშის კანონიერი მფლობელის ლოკაციას დამთხვეოდა. დანარჩენს AI-აგენტი თავად აკეთებდა. ექსპერტების აზრით, ასეთი პრიმიტიული ხარვეზის არსებობა Meta-ს დონის კომპანიისთვის გაუგებარია.

ვისკონსინ-მედისონის უნივერსიტეტის პროფესორი სომეშ ჯჰა განმარტავს, რომ AI-აგენტები ხშირად ზედმეტად „მონდომებულები“ არიან დავალების შესასრულებლად, რაც მათ დაუცველს ხდის. „ისინი ჰგვანან მოსწავლეს, რომელსაც მხოლოდ მასწავლებლის გულის მოგება სურს“, - ამბობს ჯჰა. ადამიანისგან განსხვავებით, AI-ს არ გააჩნია სიფრთხილის მექანიზმი, რომელიც დამატებით შეკითხვებს დასვამდა.

უსაფრთხოების ექსპერტები გამოსავალს ე.წ. „რედ-თიმინგში“ (red-teaming) ხედავენ. ეს არის პროცესი, როდესაც დეველოპერები სისტემის გაშვებამდე ცდილობენ მის გატეხვას სუსტი წერტილების გამოსავლენად. თუმცა, არსებობს კომპრომისი უსაფრთხოებასა და ფუნქციონალურობას შორის. რაც უფრო ნაკლები ბარიერი აქვს AI-ს, მით უფრო ეფექტურია ის, მაგრამ ამავდროულად, მით უფრო მაღალია რისკი.

მიუხედავად იმისა, რომ Meta-მ ხარვეზი უკვე აღმოფხვრა, შემთხვევა ნათლად აჩვენებს, რომ ტექნოლოგიური გიგანტები ხშირად ჩქარობენ ახალი პროდუქტების ბაზარზე გამოტანას, რაც უსაფრთხოების ხარჯზე ხდება. როგორც ექსპერტები აფრთხილებენ, AI-აგენტების მომავალში უფრო ფართო გამოყენება ამ ტიპის საფრთხეებს მხოლოდ გაზრდის.