აშშ-ში დამსაქმებელთა 90%-ზე მეტი სამუშაოზე აყვანის პროცესში სპეციალიზებულ ალგორითმებს იყენებს. თუმცა, ამ ტექნოლოგიური პროგრესის უკან სერიოზული პრობლემა იკვეთება: ბაზარზე არსებული მცირე რაოდენობის მომწოდებლების გამო, კომპანიები ხშირად ერთი და იმავე სისტემებს ეყრდნობიან. ეს ქმნის ე.წ. „ალგორითმულ მონოკულტურას“.

მეცნიერთა ჯგუფმა ჩაატარა ყველაზე მასშტაბური ემპირიული კვლევა, რომლის ფარგლებშიც 3.4 მილიონი კანდიდატის 4 მილიონი განაცხადი შეისწავლეს. მონაცემები მოიცავდა 156 დამსაქმებელს 11 სხვადასხვა სექტორში. შედეგები ადასტურებს, რომ როდესაც ერთი მომწოდებლის ალგორითმი მართავს გადაწყვეტილებებს სხვადასხვა კომპანიაში, ეს მნიშვნელოვნად ზღუდავს დასაქმების შესაძლებლობებს.

სისტემური უარყოფა და დისკრიმინაცია

კვლევამ გამოავლინა, რომ ალგორითმული გადაწყვეტილებები ხშირად შეიცავს ფარულ მიკერძოებას. მაგალითად, შავკანიანი აპლიკანტების 30% ხვდება ისეთ პოზიციებზე, სადაც ალგორითმი მათ მიმართ დისკრიმინაციულად მოქმედებს. აზიელი აპლიკანტების შემთხვევაში კი, თუ მათ შერჩევა მოხდებოდა იმავე სიხშირით, როგორც ყველაზე პრივილეგირებული ჯგუფის, დამატებით 29 000-ზე მეტი კანდიდატი მიიღებდა დადებით რეკომენდაციას.

განსაკუთრებით საგანგაშოა „სისტემური უარყოფის“ ფაქტორი. კანდიდატების 10%, რომლებიც ოთხ სხვადასხვა პოზიციაზე აგზავნიან განაცხადს, სისტემურად იღებს უარს ყველგან. ეს მაჩვენებელი გაცილებით მაღალია, ვიდრე დამოუკიდებელი, არაალგორითმული გადაწყვეტილებების შემთხვევაში იქნებოდა.

რა უნდა შეიცვალოს?

  • პოზიციების მიხედვით ანალიზი: რეგულატორებმა და აუდიტორებმა უნდა შეაფასონ დისკრიმინაციული გავლენა კონკრეტულ პოზიციებზე და არა მხოლოდ ზოგად სტატისტიკაზე დაყრდნობით.
  • ბაზრის მონიტორინგი: აუცილებელია დასაქმების მიწოდების ჯაჭვში არსებული საერთო დამოკიდებულებების კონტროლი, რათა თავიდან ავიცილოთ „ალგორითმული მონოკულტურის“ მიერ გამოწვეული კოლექტიური შეცდომები.
  • კვლევის ხელმისაწვდომობა: კანონმდებლებმა უნდა უზრუნველყონ დამოუკიდებელი მკვლევრებისთვის მონაცემებზე წვდომა, რათა შესაძლებელი გახდეს ამ სისტემების გამჭვირვალობის უზრუნველყოფა.

დღეს არსებული რეგულაციები, მათ შორის ნიუ-იორკის ადგილობრივი კანონი, ჯერ კიდევ ვერ ფარავს იმ მასშტაბის პრობლემებს, რასაც ეს კვლევა დოკუმენტურად ადასტურებს. გლობალურ დონეზე, დასაქმების სისტემები უკვე განიხილება როგორც მაღალი რისკის მქონე AI-ინსტრუმენტები, რაც დამატებითი საკანონმდებლო ბაზის აუცილებლობაზე მიუთითებს.