ინტერნეტ სივრცეში სიძულვილის ენის გავრცელება გლობალურ პრობლემად რჩება. გაეროს გენერალური მდივნის, ანტონიო გუტერეშის გაფრთხილებით, სოციალური პლატფორმები ხშირად თავადვე უწყობენ ხელს ამ საფრთხის მასშტაბების ზრდას.

გაეროს მონაცემებით, სიძულვილის ენა არ შემოიფარგლება მხოლოდ სიტყვებით. ის მოიცავს გამოსახულებებს, კარიკატურებს, ჟესტებს და ნებისმიერ კომუნიკაციას, რომელიც მიმართულია ჯგუფების ან ინდივიდების დისკრიმინაციისკენ რასის, რელიგიის, გენდერის ან სექსუალური ორიენტაციის ნიშნით.

2023 წლის საერთაშორისო კვლევის მიხედვით, ინტერნეტ მომხმარებელთა ორ მესამედზე მეტს ონლაინ სიძულვილის ენასთან შეხება ჰქონია. გამოკითხულთა 33% მიიჩნევს, რომ ყველაზე ხშირად ამის სამიზნეები ლგბტქი+ ადამიანები არიან, რასაც მოჰყვებიან ეთნიკური უმცირესობები და ქალები.

ტექნოლოგიური კომპანიები სიტუაციის გაკონტროლებას ხელოვნური ინტელექტის (AI) დახმარებით ცდილობენ. თუმცა, მიდგომები განსხვავებულია. Meta-მ 2025 წლის ბოლოსთვის სიძულვილის შემცველი პოსტების წაშლის მაჩვენებელი შეამცირა, რადგან აქცენტი პროაქტიული აღმოჩენიდან მომხმარებელთა მიერ საჩივრების შეტანაზე გადაიტანა. ამავე პერიოდში, TikTok-ი აცხადებს, რომ მსგავსი კონტენტის 96,3%-ს მომხმარებლის შეტყობინებამდე, ავტომატურად შლის.

ინტერაქტიული გრაფიკა

პენსილვანიის უნივერსიტეტის 2025 წლის კვლევამ შვიდი წამყვანი AI მოდელი შეისწავლა, მათ შორის OpenAI-ს, Google-ისა და Mistral-ის სისტემები. შედეგებმა აჩვენა, რომ მოდელებს შორის არსებობს მნიშვნელოვანი შეუსაბამობა: ის, რაც ერთი სისტემისთვის მიუღებელია, მეორისთვის შესაძლოა ნორმის ფარგლებში იყოს.

კვლევის ავტორები აღნიშნავენ, რომ მსგავსი დისბალანსი ძირს უთხრის მოდერაციის პროცესის ლეგიტიმურობას. მაგალითად, Mistral-ის მოდერაციის სისტემა ხშირად უკიდურესად მკაცრია, ხოლო OpenAI-ს სისტემა ზოგიერთ კატეგორიაში გაცილებით დაბალ ქულებს ანიჭებს კონტენტს.

ლონდონის ქუინ მერის უნივერსიტეტის ასოცირებული პროფესორის, არკაიც ზუბიაგას თქმით, AI-ის მთავარი სისუსტე „ფარული“ სიძულვილია. სისტემებს უჭირთ კონტექსტის გააზრება, როდესაც პოზიტიური ფორმულირება დამამცირებელ კონტექსტს მალავს.

ასევე, პრობლემურია „რეკულტივირებული ენის“ საკითხი. ხშირად ისტორიულად შეურაცხმყოფელი სიტყვები თავად იმ ჯგუფების მიერ გამოიყენება, რომელთა წინააღმდეგაც ის ადრე იყო მიმართული. ხელოვნური ინტელექტი ხშირად ვერ განასხვავებს მეგობრულ კომუნიკაციას სიძულვილის ენისგან და არასწორად ბლოკავს კონტენტს.