ბოლო წლებში ხელოვნური ინტელექტის განვითარებამ პროგრამირების სფეროში დიდი აჟიოტაჟი გამოიწვია. OpenAI-ს, Google-ისა და სხვა ტექნოლოგიური გიგანტების მიერ წარმოდგენილი დემო ვერსიები გვარწმუნებს, რომ AI აგენტები უკვე მზად არიან კოდის წერისთვის. თუმცა, რეალურ, ათასობით ხაზისგან შემდგარ და წლების განმავლობაში განვითარებულ პროგრამულ სისტემებში, ეს ტექნოლოგია ჯერ კიდევ ვერ უზრუნველყოფს უსაფრთხო ცვლილებებს.

ადდიტიური vs ტრანსფორმაციული სამუშაო

მთავარი პრობლემა ამოცანების ტიპოლოგიაშია. არსებული LLM-ები (დიდი ენობრივი მოდელები) კარგად უმკლავდებიან „ადდიტიურ“ სამუშაოს. ეს არის პროცესი, როდესაც სისტემას უბრალოდ ემატება ახალი ინფორმაცია ან ფუნქცია, რომელიც არ ცვლის არსებულ კავშირებს.

ამის საპირისპიროდ, პროგრამული უზრუნველყოფის მართვა „ტრანსფორმაციული“ ხასიათისაა. სისტემაში ნებისმიერი ცვლილება მოითხოვს დამოკიდებულებების, ინვარიანტებისა და შედეგების ღრმა გააზრებას. ხელოვნური ინტელექტი ამ ეტაპზე მხოლოდ სტატისტიკურად სარწმუნო ტექსტს აგენერირებს და არა სისტემურ გააზრებას.

რატომ მარცხდება AI სისტემურ დონეზე?

  • მიზეზ-შედეგობრივი კავშირი: AI მოდელები აკეთებენ შაბლონების პროგნოზირებას და არა შედეგების ანალიზს.
  • შიდა წარმოდგენის არარსებობა: მოდელს არ შეუძლია შეინარჩუნოს სისტემის სტაბილური შიდა სტრუქტურა, რაც კრიტიკულია რთული ცვლილებების დროს.
  • კონტექსტის სიმცირე: პროგრამული უზრუნველყოფა არ არის იზოლირებული ამოცანა; ის ითხოვს იმის გააზრებას, თუ როგორ მოხდა სისტემის ამ მდგომარეობამდე მისვლა.

როდესაც ცვლილება ეხება უკვე არსებულ კოდს, საჭიროა იმის ცოდნა, თუ როგორ გავრცელდება ცვლილების ტალღა მთელ არქიტექტურაში. ეს არის კაუზალური მსჯელობა, რაც ამჟამინდელი მოდელების შესაძლებლობებს აღემატება.

ინჟინერია უფრო მაღალ საფეხურზე

საბოლოო ჯამში, AI-ს მიერ დამატებული პროგრამული უზრუნველყოფა არ აუქმებს ინჟინერიას, არამედ მას უფრო მაღალ დონეზე გადაჰყავს. ადამიანის როლი ინაცვლებს მექანიკური წერიდან განსჯის, კოორდინაციისა და სისტემური ხედვისკენ.

ორგანიზაციებმა, რომელთაც სურთ ამ ტექნოლოგიით სარგებელი მიიღონ, აგენტური განვითარება არა როგორც სრული ავტომატიზაცია, არამედ როგორც სტრუქტურული ცვლილება უნდა განიხილონ. სანამ ხელოვნურ ინტელექტს არ ექნება სისტემების კაუზალური გააზრების უნარი, ადამიანის გადაწყვეტილება პროგრამული უზრუნველყოფის მიწოდების ფუნდამენტად დარჩება.