ხელოვნური ინტელექტის მქონე ხმოვანი ასისტენტები და ავტომატური სისტემები უსაფრთხოების ახალი, სერიოზული გამოწვევის წინაშე დგანან. ახალი კვლევის მიხედვით, კიბერკრიმინალებს შეუძლიათ განახორციელონ ე.წ. „უხმო“ თავდასხმები, რომლებიც AI-მოდელებს ბრძანებების არასწორად შესრულებას აიძულებს.

როგორ მუშაობს „უხმო“ ჰაკინგი?

მკვლევარებმა აღმოაჩინეს, რომ AI-მოდელები დაუცველია ისეთი აუდიო სიგნალების მიმართ, რომლებიც ადამიანის ყურისთვის აღქმადი არ არის. ჰაკერები იყენებენ მაღალი სიხშირის ულტრაბგერით ტალღებს, რომლებიც ჩვეულებრივ აუდიო ფაილებში ან გარემოს ხმაურშია შენიღბული.

როდესაც ასეთი სიგნალი ხვდება მიკროფონს, AI-ს ალგორითმები მას „ესმის“ როგორც მკაფიო ბრძანებას. შედეგად, სისტემა ასრულებს ისეთ მოქმედებებს, როგორიცაა ვებ-გვერდებზე შესვლა, აპლიკაციების გაშვება ან კონფიდენციალურ მონაცემებზე წვდომა.

რატომ არის ეს საშიში?

მთავარი პრობლემა ისაა, რომ თავდასხმის მომენტში მომხმარებელი ვერაფერს ამჩნევს. ტექნოლოგია ეყრდნობა იმ ფაქტს, რომ ადამიანის სმენა შეზღუდულია, მაშინ როდესაც ციფრული მიკროფონები და AI-მოდელები ბევრად უფრო ფართო სპექტრის სიხშირეებს ამუშავებენ.

  • შეუმჩნევლობა: მსხვერპლი არ გრძნობს არანაირ დისკომფორტს.
  • მასშტაბურობა: თავდასხმა შეიძლება განხორციელდეს ვიდეოების, პოდკასტებისა და სხვა მედია ფაილების მეშვეობით.
  • სისტემური ხარვეზი: პრობლემა არა კონკრეტულ მოწყობილობაში, არამედ თავად AI-მოდელების ხმის დამუშავების არქიტექტურაშია.

ექსპერტები აცხადებენ, რომ ამ ტიპის თავდასხმებისგან თავის დასაცავად საჭიროა ხმოვანი ინტერფეისების ფუნდამენტური გადახედვა. მიმდინარეობს მუშაობა ფილტრაციისა და დაცვის ახალ მეთოდებზე, რომლებიც სისტემებს არასტანდარტული სიხშირეების იგნორირებას ასწავლის.

თუმცა, სანამ დეველოპერები შესაბამის განახლებებს არ დანერგავენ, მომხმარებლები დაუცველნი რჩებიან. კვლევა ხაზს უსვამს, რომ ხელოვნური ინტელექტის სწრაფი განვითარება ხშირად უსწრებს უსაფრთხოების სტანდარტების დაწესებას.