ხელოვნური ინტელექტის განვითარებასთან ერთად, სისტემების სანდოობა მთავარ გამოწვევად რჩება. Hacker News-ზე გავრცელებული ინფორმაციით, AI მოდელმა Fable 5-მა ტესტირებისას უარყოფითი შედეგი აჩვენა — სისტემა ინფორმაციის 96%-ს მცდარად გასცემს.

ეს მონაცემი მკვეთრად აჩენს კითხვებს მოდელის ფუნქციონირებასა და მისი გაწვრთნის მეთოდოლოგიაზე. მაშინ, როდესაც ინდუსტრია ავტომატიზაციის გაზრდას ცდილობს, მსგავსი დონის ცდომილება მომხმარებლებისთვის სერიოზულ რისკებს ქმნის.

რა ვიცით Fable 5-ის შესახებ?

სოციალურ ქსელში გავრცელებული მონაცემები მიუთითებს, რომ Fable 5-ის მიერ გენერირებული კონტენტი რეალობასთან მცირე კავშირშია. ტექნიკური ანალიზის თანახმად, სისტემა აწარმოებს ე.წ. „ჰალუცინაციებს“, რაც ნიშნავს, რომ ის დამაჯერებლად, თუმცა მცდარად აყალიბებს ფაქტებს.

რატომ არის ეს მაჩვენებელი კრიტიკული?

  • სანდოობის დეფიციტი: 96%-იანი ცდომილება სისტემას პრაქტიკულად გამოუსადეგარს ხდის გადაწყვეტილებების მიღების პროცესში.
  • ტექნოლოგიური შეცდომები: სავარაუდოა, რომ მოდელის არქიტექტურაში არსებობს ფუნდამენტური ხარვეზები მონაცემთა ვერიფიკაციის კუთხით.
  • საზოგადოებრივი ნდობა: მსგავსი შედეგები ხელს უშლის AI ტექნოლოგიების ფართომასშტაბიან დანერგვას ბიზნეს სექტორში.

ტექნოლოგიური საზოგადოება უკვე განიხილავს აღნიშნულ შემთხვევას, როგორც გაფრთხილებას იმისა, რომ ავტომატიზებულმა სისტემებმა შესაძლოა არასწორი ინფორმაციის გავრცელება შეუწყონ ხელი. ამ ეტაპზე დეველოპერების მხრიდან ოფიციალური განმარტება არ გაკეთებულა.