2019 წელს ხელოვნური ინტელექტის სფეროში მნიშვნელოვანი მოვლენა განვითარდა. კომპანია OpenAI-მ GPT-2-ის სრული ვერსიის საჯარო წვდომა შეზღუდა. გადაწყვეტილების მთავარ მიზეზად ტექნოლოგიის ბოროტად გამოყენების პოტენციური საფრთხე დასახელდა.

იმ პერიოდში GPT-2-ის ნაცვლად, მკვლევრებისთვის მხოლოდ შეზღუდული, მცირე ზომის მოდელი გამოქვეყნდა. ეს იყო „პასუხისმგებლიანი გამჟღავნების“ ექსპერიმენტი, რომელიც მიზნად ისახავდა AI-ს განვითარებასთან დაკავშირებული რისკების შესწავლას.

ტექნიკური განსხვავება: GPT-1 და GPT-2

GPT-2 არ წარმოადგენდა რევოლუციურ არქიტექტურულ ცვლილებას, არამედ იყო GPT-1-ის პირდაპირი მასშტაბირება. ორივე მოდელი ეფუძნებოდა ტრანსფორმერის დეკოდერს, თუმცა განსხვავება პარამეტრების რაოდენობასა და მონაცემთა მასშტაბში იყო.

GPT-1-ის კვლევამ აჩვენა, რომ მოდელს წინასწარი წვრთნის შედეგად უკვე გააჩნდა საჭირო ინფორმაცია კონკრეტული ამოცანების შესასრულებლად. შესაბამისად, პარამეტრების ზრდამ მოდელის შესაძლებლობები კიდევ უფრო გააძლიერა.

ყველაზე დიდი GPT-2 მოდელი 1.5 მილიარდ პარამეტრს შეიცავდა, რაც GPT-1-ზე ათჯერ მეტი იყო. ის 40 გიგაბაიტ ტექსტურ მონაცემზე გაიწვრთნა და ენობრივი მოდელირების, კითხვის გააზრებისა და შეჯამების სფეროებში უმაღლესი შედეგები აჩვენა.

ცხრა თვის გაკვეთილი

2019 წლის ნოემბერში, საწყისი განცხადებიდან ცხრა თვის შემდეგ, OpenAI-მ 1.5 მილიარდიანი მოდელი საჯაროდ ხელმისაწვდომი გახადა. კომპანიამ ამ პერიოდში მიღებული გამოცდილება შეაჯამა:

  • ადამიანებისთვის GPT-2-ის მიერ გენერირებული ტექსტები დამაჯერებელია.
  • მოდელის მორგება (fine-tuning) ბოროტი განზრახვისთვის შესაძლებელია.
  • ავტომატური დეტექცია რთულია: RoBERTa-ს მსგავს მოდელებს დაახლოებით 95%-იანი სიზუსტე ჰქონდათ.
  • პრაქტიკაში მოდელის მასობრივი ბოროტად გამოყენების მტკიცებულება არ დაფიქსირებულა.

OpenAI-მ აღნიშნა, რომ აუცილებელია სტანდარტების შემუშავება ხელოვნურ ინტელექტში მიკერძოებულობის შესასწავლად.

მემკვიდრეობა დღეს

დღეს, როდესაც ChatGPT-ის შესაძლებლობები ყველასთვის ცნობილია, GPT-2-ის თავდაპირველი შიშები ნაკლებად მწვავედ აღიქმება. თუმცა, OpenAI-მ სწორედ ამ ექსპერიმენტით მიღებული ცოდნა გამოიყენა თანამედროვე მოდელების უსაფრთხოების ზომების დასანერგად.

მიუხედავად ამისა, აკადემიური თუ სხვა სახის ბოროტად გამოყენების პრევენცია დღემდე რჩება გამოწვევად, რადგან ტექნოლოგიების შესაძლებლობები მუდმივად იზრდება.