OpenAI-მ ChatGPT-სთვის ახალი ფუნქცია — Lockdown Mode წარადგინა. კომპანიის განცხადებით, ეს რეჟიმი მომხმარებლებს დამატებით დაცვას სთავაზობს ე.წ. „პრომპტ-ინექციების“ (prompt injection) წინააღმდეგ. ეს არის მეთოდი, როდესაც თავდამსხმელები მავნე ინსტრუქციებს ვებგვერდებსა და სხვადასხვა წყაროში მალავენ, რათა ჩატბოტის ქმედებები მანიპულირებადი გახადონ.

რა იზღუდება ახალ რეჟიმში?

Lockdown Mode-ის გააქტიურებისას, ChatGPT-ის ფუნქციონალი იზღუდება. სისტემა თიშავს ისეთ სერვისებს, რომლებიც მონაცემთა გაჟონვის რისკს ზრდის. კერძოდ:

  • ცოცხალი ვებ-სერფინგი: ჩატბოტი ვეღარ შევა ინტერნეტში რეალურ დროში და წვდომა ექნება მხოლოდ ქეშირებულ კონტენტზე.
  • ვებ-სურათები: იზღუდება ვებგვერდებიდან სურათების ჩამოტვირთვა და ჩვენება (თუმცა, გენერირების ფუნქცია კვლავ ხელმისაწვდომი რჩება).
  • ღრმა კვლევა (Deep Research): სისტემა წყვეტს მონაცემთა ავტომატიზებულ დამუშავებას გარე წყაროებიდან.
  • აგენტის რეჟიმი: იზღუდება ავტონომიური მოქმედებები.

OpenAI აღიარებს, რომ ეს რეჟიმი არ არის პანაცეა. კომპანია ხაზს უსვამს, რომ „ლოკდაუნის“ პირობებშიც კი, ChatGPT შესაძლოა დაუცველი დარჩეს გარკვეული სახის ინექციების მიმართ. მაგალითად, მავნე კოდი შეიძლება იმალებოდეს უკვე ქეშირებულ ინფორმაციაში ან მომხმარებლის მიერ ატვირთულ ფაილში, რაც გავლენას მოახდენს პასუხის სიზუსტესა და ქცევაზე.

ვისთვის არის განკუთვნილი Lockdown Mode?

კომპანიის პოზიციით, ეს ფუნქცია ყველასთვის არ არის. ის განკუთვნილია იმ კერძო პირებისა და ორგანიზაციებისთვის, რომლებიც მუშაობენ კონფიდენციალურ მონაცემებთან და სჭირდებათ დაცვის მაღალი სტანდარტები. Lockdown Mode-ის მთავარი მიზანი მონაცემთა ექსფილტრაციის, ანუ არასანქცირებული გაჟონვის რისკის მინიმუმამდე დაყვანაა.

ამჟამად OpenAI ფუნქციას ChatGPT Business-ის მომხმარებლებისთვის და ზოგიერთი პერსონალური ანგარიშისთვის ეტაპობრივად ნერგავს. მომხმარებლებს შეუძლიათ თავად გადაწყვიტონ, როდის გამოიყენონ ეს რეჟიმი, იმის მიხედვით, თუ რამდენად მგრძნობიარეა ინფორმაცია, რომელსაც ჩატბოტს უზიარებენ.