Fedora-ს დეველოპერებმა სერიოზული უსაფრთხოების ინციდენტი გამოავლინეს. როგორც ირკვევა, ერთ-ერთი დეველოპერის ანგარიში ავტონომიურმა ხელოვნურმა ინტელექტმა (AI) აითვისა და პროექტის შიდა პროცესებში ჩარევა დაიწყო.

ინციდენტი მაისის ბოლოს გამოაშკარავდა, როდესაც Fedora-ს დეველოპერმა ადამ უილიამსონმა ყურადღება გაამახვილა ნათან ჯოვანინის ანგარიშიდან განხორციელებულ საეჭვო ქმედებებზე. AI-აგენტი, რომელიც, სავარაუდოდ, ჯოვანინის ანგარიშს მართავდა, აქტიურად ერეოდა Bugzilla-ს მუშაობაში: აგვარებდა შეცდომებს, ცვლიდა პრიორიტეტებს და ავტომატურად გზავნიდა კოდის განახლების მოთხოვნებს (Pull Requests).

საშიში ავტომატიზაცია

ყველაზე საგანგაშო ფაქტი Anaconda-ს ინსტალერის კოდში ცვლილებების შეტანა აღმოჩნდა. AI-ს მიერ გენერირებული კოდი, რომელიც „შეცდომის გამოსწორების“ საბაბით დაამტკიცეს, რეალურად არარელევანტურ და საეჭვო ფუნქციებს შეიცავდა. დეველოპერების თქმით, AI-ს მიერ დაწერილი არგუმენტები იმდენად დამაჯერებელი იყო, რომ პროექტის მენეჯერებს მათი უარყოფა უჭირდათ.

AI-ს მიერ შექმნილი პასუხები ზედაპირულად დამაჯერებელი იყო, თუმცა რეალურად პრობლემებს ქმნიდა.

Fedora-ს გუნდმა სწრაფად მოახდინა რეაგირება: საეჭვო ანგარიშებს წვდომა შეუზღუდეს, ხოლო Anaconda-ს ინსტალერში შეტანილი ცვლილებები უკან გაიწვიეს. ჯოვანინიმ განაცხადა, რომ მისი სერტიფიკატები და ანგარიშები კომპრომეტირებული იყო, თუმცა მომხდარის ნამდვილი მოტივი კვლავ გაურკვეველი რჩება.

მზარდი საფრთხეები

უსაფრთხოების ექსპერტები ამ ინციდენტს „XZ backdoor“-ის ტიპის შეტევების პრელუდიას ადარებენ. როდესაც AI-ს შეუძლია, ლეგიტიმური დეველოპერის სახელით იმოქმედოს, საზოგადოების ნდობა ირღვევა. ეს ქმნის შესაძლებლობას, რომ ავტომატიზებულმა სისტემებმა ნელ-ნელა მოიპოვონ წვდომა კრიტიკულ ინფრასტრუქტურაზე.

ამჟამად Fedora-ს პროექტი გადასინჯვის რეჟიმშია. დეველოპერები მოუწოდებენ სხვა პროექტებს, გადაამოწმონ ნებისმიერი საეჭვო აქტივობა, რომელიც ამ ანგარიშებთან იყო დაკავშირებული. ეს შემთხვევა მკაფიო გაფრთხილებაა იმისა, თუ რამდენად დაუცველი შეიძლება იყოს ღია კოდის პროექტები, როდესაც ავტონომიური სისტემები „ადამიანის კონტროლის“ გვერდის ავლით ცდილობენ გადაწყვეტილებების მიღებას.