ხელოვნური ინტელექტის ეპოქაში უსაფრთხოება აღარ არის საკითხი, რომლის მოგვარებაც პროცესის ბოლოს შეიძლება. Google Cloud-ის ოპერაციულმა დირექტორმა, ფრენსის დე სოუზამ, ლოს-ანჯელესში გამართულ შეხვედრაზე ხაზი გაუსვა, რომ კომპანიები AI-ს დანერგვისას ე.წ. „პლატფორმულ მიდგომას“ უნდა ირჩევდნენ.

დე სოუზას თქმით, „ჩრდილოვანი AI“ (Shadow AI) – როდესაც თანამშრომლები კომპანიის ზედამხედველობის გარეშე იყენებენ გარე ხელსაწყოებს – სერიოზულ საფრთხეს წარმოადგენს. მისი აზრით, AI სტრატეგია მონაცემთა და უსაფრთხოების სტრატეგიის გარეშე უბრალოდ არ არსებობს.

საფრთხეების ახალი რეალობა

კიბერშეტევების სიჩქარე კატასტროფულად გაიზარდა. დე სოუზას დაკვირვებით, თავდასხმის საწყის ეტაპსა და მის განვითარებას შორის დრო 8 საათიდან სულ რაღაც 22 წამამდე შემცირდა. დღეს დასაცავი არეალი სცილდება ტრადიციულ ქსელებს და მოიცავს:

  • AI მოდელებს;
  • მონაცემთა გადამამუშავებელ მილსადენებს;
  • ავტონომიურ აგენტებსა და პრომპტებს.

ერთ-ერთი ნაკლებად ყურადღებამიღებული საფრთხე კი ძველი, მივიწყებული მონაცემთა საცავებია. „აგენტები, რომლებიც კომპანიის სისტემებში მოძრაობენ, ადვილად პოულობენ წლების წინ მიტოვებულ, დაუცველ სერვერებს, რაც მონაცემთა გაჟონვის რისკს ზრდის“, — აღნიშნავს დე სოუზა.

პლატფორმების პასუხისმგებლობა და ტექნიკური ხარვეზები

მიუხედავად დე სოუზას რჩევებისა, თავად Google-სთან დაკავშირებით კითხვები მაინც არსებობს. TechCrunch-ის მონაცემებით, არაერთი დეველოპერი აღმოჩნდა უსიამოვნო სიტუაციაში, როდესაც მათი API გასაღებები Google-ის სისტემური ცვლილებების გამო მოულოდნელად Gemini-ს მოდელებზე წვდომას იღებდა, რამაც ათასობით დოლარის დავალიანება გამოიწვია.

კიდევ ერთი პრობლემა უსაფრთხოების გასაღებების გაუქმების მექანიზმს უკავშირდება. უსაფრთხოების ფირმა Aikido-ს კვლევის თანახმად, კომპრომეტირებული გასაღების წაშლის შემდეგაც, თავდამსხმელებს შესაძლოა კიდევ 23 წუთი ჰქონდეთ სისტემაზე წვდომა, რადგან ცვლილება Google-ის ინფრასტრუქტურაში ნელა ვრცელდება.

მიუხედავად იმისა, რომ Google-ის უფრო ახალ გასაღებებს გაუქმების გაცილებით სწრაფი მექანიზმი აქვთ, ძველი გასაღებების პრობლემა კვლავ აქტუალური რჩება. ეს მიუთითებს იმაზე, რომ პლატფორმების მიერ გაცემული რეკომენდაციები და მათი რეალური ტექნიკური მზაობა ხშირად ერთმანეთს არ ემთხვევა.

უსაფრთხოება არ არის მხოლოდ IT დეპარტამენტის საქმე, ეს არის მენეჯმენტის დონის საკითხი, რომელიც ბიზნესის სტრატეგიის გულში უნდა იდგეს.