ხელოვნური ინტელექტის განვითარება დღეს უკვე ყოველდღიური ცხოვრების ნაწილია, თუმცა ახალი კვლევა ადასტურებს, რომ ამ ტექნოლოგიებს ფუნდამენტური პრობლემები აქვთ ფაქტების სიზუსტესთან დაკავშირებით. Decrypt-ის მიერ გავრცელებული ინფორმაციით, AI მოდელების უმრავლესობა ინფორმაციის გადამოწმებისას ერთმანეთთან შეუსაბამო პასუხებს იძლევა.

მზარდი უნდობლობა AI-ს მიმართ

კვლევის შედეგები ცხადყოფს, რომ ხელოვნური ინტელექტის სისტემები ხშირ შემთხვევაში ვერ ახერხებენ ერთიანი პოზიციის ჩამოყალიბებას მარტივ ფაქტობრივ საკითხებზეც კი. ეს პრობლემა განსაკუთრებით თვალშისაცემია, როდესაც საქმე ეხება მონაცემთა გადამოწმებასა და ანალიზს.

ექსპერტები აღნიშნავენ, რომ მოდელებს შორის არსებული შეუსაბამობა მომხმარებლისთვის სერიოზულ რისკებს ქმნის. როდესაც სისტემა, რომელიც „ცოდნის წყაროდ“ განიხილება, წინააღმდეგობრივ ინფორმაციას ავრცელებს, ეს აბათილებს მის სანდოობას კრიტიკულად მნიშვნელოვან სფეროებში.

რატომ არის ეს საფრთხის შემცველი?

  • ინფორმაციის დეზინფორმაცია: არასწორი მონაცემების მიწოდებამ შეიძლება გამოიწვიოს მცდარი გადაწყვეტილებების მიღება.
  • სისტემური შეცდომები: ალგორითმები, რომლებიც ეყრდნობიან არსებულ მონაცემთა ბაზებს, ხშირად ვერ არჩევენ ფაქტს მოსაზრებისგან.
  • ნდობის კრიზისი: ტექნოლოგიური კომპანიების მცდელობა, AI გახადონ საძიებო სისტემების ჩამნაცვლებელი, ამ შედეგების ფონზე რთულად განსახორციელებელი ჩანს.

კვლევის ავტორები ხაზს უსვამენ, რომ მოდელებს შორის კონსენსუსის არარსებობა არ არის მხოლოდ ტექნიკური ხარვეზი. ეს არის ფუნდამენტური პრობლემა, რომელიც უკავშირდება იმას, თუ როგორ სწავლობენ ეს სისტემები ინფორმაციას და როგორ ხდება მისი დამუშავება.

მიუხედავად იმისა, რომ AI ინდუსტრია სწრაფი ტემპით ვითარდება, ფაქტების გადამოწმების უნარი კვლავ რჩება „აქილევსის ქუსლად“. მომხმარებლებისთვის ეს ნიშნავს, რომ ხელოვნური ინტელექტის მიერ მოწოდებული ნებისმიერი ინფორმაცია დამატებით ვერიფიკაციას საჭიროებს.