კანადის კონფიდენციალურობის კომისარმა ფილიპ დიუფრენმა xAI-ის ხელოვნური ინტელექტის მოდელი Grok კანადის ფედერალური კანონმდებლობის დარღვევაში დაადანაშაულა. საქმე ეხება პლატფორმის მიერ გამოსახულების გენერატორის გაშვებას, რომელიც მომხმარებლებს საშუალებას აძლევდა, სხვისი თანხმობის გარეშე შეექმნათ სექსუალური შინაარსის დიფფეიკები.

იანვარში დაწყებული გამოძიების შედეგად დადგინდა, რომ xAI-მ ინსტრუმენტი სათანადო უსაფრთხოების ბარიერების გარეშე გაუშვა. მიუხედავად იმისა, რომ კომპანიამ მოგვიანებით შეცვალა პარამეტრები და დაბლოკა რეალური ადამიანების გამოსახულებების რედაქტირება გამომწვევი შინაარსით, ზიანი უკვე მიყენებული იყო.

სამართლებრივი ჩარჩო და შეზღუდვები

კომისარი დიუფრენი აღნიშნავს, რომ xAI-მ პირობა დადო, მომავალში რეგულარულად განახორციელოს მონიტორინგი სექსუალური დიფფეიკების აღმოსაფხვრელად და არ დაელოდოს მხოლოდ ინციდენტების შესახებ შეტყობინებებს. თუმცა, დიუფრენს არ გააჩნია უფლებამოსილება, დააკისროს კომპანიას ფულადი ჯარიმები ან აიძულოს პოლიტიკის ცვლილება.

კანადის მთავრობა ამჟამად განიხილავს ციფრული უსაფრთხოების ახალ კანონპროექტს, რომელიც 16 წლამდე ასაკის მოზარდებისთვის სოციალური ქსელების შეზღუდვას ითვალისწინებს. კანონი ასევე გულისხმობს სპეციალური მარეგულირებლის შექმნას, რომელიც ხელოვნური ინტელექტის ჩატბოტების უსაფრთხოების სტანდარტებს გააკონტროლებს.

გლობალური მასშტაბის სკანდალი

xAI-ის წინააღმდეგ მიმდინარეობს საგამოძიებო მოქმედებები მსოფლიოს სხვადასხვა ქვეყანაში:

  • დიდი ბრიტანეთი: მარეგულირებელი Ofcom იკვლევს პლატფორმის პასუხისმგებლობას, ხოლო პარლამენტარი ჯეს ასატო სასამართლოში უჩივის კომპანიას საკუთარი დიფფეიკ-გამოსახულებების გავრცელების გამო.
  • ევროკავშირი: ევროკომისიამ პლატფორმაზე გამჟღავნებული ექსპლიციტური კონტენტი „შემაძრწუნებლად“ შეაფასა და მოკვლევა დაიწყო.
  • ნიდერლანდები: ადგილობრივმა სასამართლომ xAI-ს აუკრძალა შიშველი გამოსახულებების გენერირების ფუნქციის გააქტიურება.
  • აშშ: კალიფორნიაში სამი მოზარდის სახელით შეტანილია კოლექტიური სარჩელი, სადაც ნათქვამია, რომ xAI-მ ექსპლიციტური შინაარსი „Grok-ის დნმ-ის ნაწილად აქცია“.

ინდონეზიამ და მალაიზიამ იანვარში სრულად დაბლოკეს Grok-ის წვდომა ქვეყნის ტერიტორიაზე სწორედ სექსუალური ხასიათის ხელოვნური კონტენტის გავრცელების გამო.