პროგრამირების გარემო PyCharm-ის ერთ-ერთმა ახალმა ფუნქციამ, რომელიც კოდის ავტომატურ შევსებას ემსახურება, უსაფრთხოების ექსპერტების ყურადღება მიიპყრო. საუბარია "Full Line Completion" პლაგინზე, რომელიც ლოკალური ღრმა დასწავლის მოდელს იყენებს და დეველოპერს მთელი სტრიქონების ავტომატურ შევსებას სთავაზობს.

სეთ ლარსონმა, რომელმაც ეს საკითხი შეისწავლა, აღმოაჩინა, რომ ინსტრუმენტი ხშირად გვთავაზობს კოდს, რომელიც სერიოზულ დაუცველობებს შეიცავს. მაგალითად, urllib3 ბიბლიოთეკასთან მუშაობისას, სისტემამ შესთავაზა კოდი, რომელიც სერტიფიკატის ვერიფიკაციას (CERT_NONE) თიშავს. ეს ქმედება პროგრამას "შუამავლის" (MITM) ტიპის კიბერშეტევების მიმართ დაუცველს ხდის.

პრობლემა სისტემურია

ლარსონის თქმით, ეს არ არის მხოლოდ PyCharm-ის პრობლემა. მსგავსი ხარვეზები ახასიათებს კოდის გენერირების თითქმის ყველა თანამედროვე მოდელს. მთავარი გამოწვევა ისაა, რომ დეველოპერები, რომლებიც ენდობიან IDE-ს რჩევებს, შესაძლოა გაუაზრებლად ნერგავდნენ კრიტიკულ დაუცველობებს საკუთარ პროექტებში.

ავტორმა პრობლემის შესახებ JetBrains-ს აცნობა, თუმცა კომპანიის პოზიცია ბუნდოვანი დარჩა. მიუხედავად იმისა, რომ მხარდაჭერის გუნდმა ეს "პირდაპირ უსაფრთხოების დაუცველობად" არ მიიჩნია, მათ ლარსონს მოუწოდეს, საკითხი საჯაროდ არ გაეხმაურებინა და კოორდინირებული გამჟღავნების პოლიტიკით ეხელმძღვანელა.

რატომ არის ეს საფრთხე?

  • ავტომატიზაციის რისკი: დეველოპერები ხშირად ავტომატურად აწვებიან Tab-ს შემოთავაზებული კოდის მისაღებად, ზედმეტი შემოწმების გარეშე.
  • უსაფრთხოების ნორმების იგნორირება: AI მოდელები ხშირად პრიორიტეტს ანიჭებენ კოდის ფუნქციურობას და არა უსაფრთხოებას.
  • გამჭვირვალობის ნაკლებობა: დეველოპერებს უჭირთ იმის გარკვევა, თუ რატომ სთავაზობს მოდელი კონკრეტულ, დაუცველ გადაწყვეტას.

90-დღიანი მოლოდინის მიუხედავად, ვითარება არ შეცვლილა. უახლესი ტესტირებით დადასტურდა, რომ სისტემა კვლავ იგივე, დაუცველ რეკომენდაციებს გასცემს. ეს ფაქტი კიდევ ერთხელ უსვამს ხაზს იმას, რომ ხელოვნურ ინტელექტზე დაფუძნებული ინსტრუმენტები ადამიანის ზედამხედველობის გარეშე საშიშია.