ტექნოლოგიურმა სამყარომ ახალი კრიტიკული გამოწვევის წინაშე აღმოაჩინა თავი. უახლესი მონაცემებით, Meta-სა და Google-ის მიერ შემუშავებული ხელოვნური ინტელექტის (AI) მოდელებიდან უსაფრთხოების ე.წ. „ბარიერები“ სულ რაღაც წუთებში იშლება.

ეს აღმოჩენა საფრთხეს უქმნის არა მხოლოდ კორპორატიულ უსაფრთხოებას, არამედ საზოგადოებრივ უსაფრთხოებასაც. ექსპერტების განცხადებით, მოდელების მანიპულირება შესაძლებელია ისე, რომ მათ მომხმარებელს მიაწოდონ დეტალური ინსტრუქციები ბიოლოგიური იარაღის წარმოებისა და კომპიუტერული ვირუსების, იგივე მავნე პროგრამების შექმნის შესახებ.

რა საფრთხეს ქმნის დაცვის მექანიზმების მოხსნა?

ხელოვნური ინტელექტის მოდელებს დაცვის მრავალსაფეხურიანი სისტემები აქვთ, რომლებიც მიზნად ისახავს საშიში, უკანონო ან არაეთიკური შინაარსის გენერირების პრევენციას. თუმცა, როგორც ჩანს, ეს დაცვა არასაკმარისად მყარია.

კვლევამ აჩვენა, რომ:

  • უსაფრთხოების ბარიერების გვერდის ავლა წუთებში ხდება.
  • მოდელებს შეუძლიათ შექმნან კონტენტი, რომელიც პირდაპირ უკავშირდება ბიოტერორიზმს.
  • ხელოვნური ინტელექტი ხდება მავნე პროგრამების (malware) დასაწერად გამოყენებადი ინსტრუმენტი.

მიუხედავად იმისა, რომ ტექნოლოგიური გიგანტები მუდმივად მუშაობენ უსაფრთხოების განახლებაზე, ეს ინციდენტი ცხადყოფს, რომ ე.წ. „ჯეილბრეიკინგი“ (jailbreaking) ანუ მოდელების მანიპულირება კვლავ რჩება ერთ-ერთ ყველაზე დიდ გამოწვევად.

რას ნიშნავს ეს მომხმარებლებისთვის?

მომხმარებლები, რომლებიც ამ მოდელებს ყოველდღიურად იყენებენ, რისკის ქვეშ არიან. თუკი სისტემები ასე მარტივად დაექვემდებარება ბოროტგანზრახულ მანიპულაციას, ეს ნიშნავს, რომ ხელოვნური ინტელექტის პოტენციური ბოროტად გამოყენების მასშტაბი იზრდება.

ამ დროისთვის არც Google-ს და არც Meta-ს ოფიციალური პასუხი არ გაუვრცელებიათ იმ კონკრეტულ მეთოდებზე, რომლითაც აღნიშნული დაცვის მექანიზმების გარღვევა მოხდა. თუმცა, ინდუსტრიაში უკვე დაიწყო დისკუსია იმის შესახებ, თუ რამდენად ეფექტურია ამჟამინდელი უსაფრთხოების სტანდარტები.