Liquid AI-მა ახალი ფუნდამენტური მოდელი, LFM2.5-8B-A1B წარადგინა. ეს მოდელი სპეციალურად შექმნილია იმისთვის, რომ რთული დავალებები და ავტომატიზებული პროცესები პირად კომპიუტერებზე, ინტერნეტთან კავშირის გარეშე შეასრულოს.

ტექნიკური გაუმჯობესებები

ახალი მოდელი წინამორბედის, LFM2-8B-A1B-ის ბაზაზეა შექმნილი, თუმცა მასში მნიშვნელოვანი ცვლილებებია შეტანილი. მთავარი სიახლე ტრენინგის მოცულობაა: მოდელი 12-ის ნაცვლად, 38 ტრილიონ ტოკენზე გაიწვრთნა.

კონტექსტური ფანჯარა 32,768-დან 128,000 ტოკენამდე გაიზარდა. ეს იმას ნიშნავს, რომ მოდელს გაცილებით დიდი დოკუმენტების დამუშავება და მათზე დაყრდნობით დასკვნების გამოტანა შეუძლია. გარდა ამისა, ლექსიკური მარაგი გაორმაგდა, რაც არალათინური დამწერლობის მქონე ენების, მათ შორის არაბულის, ტაილანდურისა და არაბულის დამუშავებას უფრო ეფექტურს ხდის.

ლოგიკური ჯაჭვი და სიზუსტე

LFM2.5-8B-A1B ეფუძნება reasoning-only არქიტექტურას. ეს ნიშნავს, რომ საბოლოო პასუხის გაცემამდე მოდელი აყალიბებს აზროვნების ჯაჭვს. კომპანიამ სპეციალური გაძლიერებული დასწავლის (RL) მეთოდი გამოიყენა, რათა შეემცირებინა „ჰალუცინაციები“ და შეეზღუდა მოდელის მიერ განმეორებად ციკლებში ჩავარდნის ალბათობა.

სისწრაფე და ხელმისაწვდომობა

ერთ-ერთი ყველაზე შთამბეჭდავი მაჩვენებელი მოდელის მუშაობის სიჩქარეა. Apple-ის M5 Max ჩიპზე მოდელი წამში 253 ტოკენს გენერირებს, ხოლო Ryzen AI Max+ 395-ზე — 146 ტოკენს. მოდელი მოიხმარს 6 GB-ზე ნაკლებ ოპერატიულ მეხსიერებას, რაც მას ხელმისაწვდომს ხდის საშუალო დონის ლეპტოპებისთვის.

Liquid AI-მა ასევე განაახლა თავისი დემო პროექტი LocalCowork. ის საშუალებას აძლევს მომხმარებელს, მართოს 67 სხვადასხვა ინსტრუმენტი 13 სერვერის მეშვეობით ისე, რომ არცერთი მონაცემი არ ტოვებს მოწყობილობას. ეს აძლიერებს კონფიდენციალურობას და მონაცემთა უსაფრთხოებას.

გამოყენების შესაძლებლობები

  • ადგილობრივი აგენტური სისტემები: პირადი ასისტენტები, რომლებიც მუშაობენ ოფლაინ რეჟიმში.
  • დოკუმენტების ანალიზი: დიდი მოცულობის ტექსტების სწრაფი დამუშავება 128K კონტექსტის წყალობით.
  • პროგრამული უზრუნველყოფის ინტეგრაცია: მოდელი სრულად თავსებადია llama.cpp-თან და vLLM-თან.

მოდელი უკვე ხელმისაწვდომია Hugging Face-ზე და კომპანიის საკუთარ პლატფორმაზე, სადაც მომხმარებლებს შეუძლიათ მისი ადგილობრივად გაშვება ან დამატებითი წვრთნა საკუთარი საჭიროებებისთვის.