ხელოვნური ინტელექტის სფეროში მზარდმა მოთხოვნამ ახალი ტიპის ინფრასტრუქტურული კომპანიები წარმოშვა. თუ აქამდე ყურადღების ცენტრში მოდელების წვრთნა (training) იყო, დღეს მთავარი ბრძოლა ინფერენსის (inference) — ანუ მოდელის მიერ პასუხების გენერირების პროცესის — დაჩქარებაზე მიდის. სწორედ ამ ნიშაში პოზიციონირებს ახალი სტარტაპი General Compute.

ინვესტიცია და სტრატეგიული ხედვა

კომპანიამ $15 მილიონიანი სათესლე (seed) რაუნდი დახურა, რითაც მისი შეფასება $60 მილიონამდე გაიზარდა. ინვესტიციას ლიდერობდა FUSE VC, მონაწილეობა კი მიიღეს Carya Venture Partners-მა და Village Global Ventures-მა. ეს თანხა კომპანიას საშუალებას მისცემს, დანერგოს ახალი თაობის ჩიპები, რომლებიც სპეციალურად AI-ს მიერ პასუხების გენერირებისთვისაა შექმნილი.

რატომ SambaNova-ს ჩიპები?

General Compute-ის დამფუძნებლებმა, ფინ პუკლოვსკიმ და ჯეისონ გუდსონმა, ტრადიციული GPU-ების ნაცვლად არჩევანი SambaNova-ს პროდუქციაზე შეაჩერეს. მიუხედავად იმისა, რომ ბაზარზე დომინირებენ ისეთი მოთამაშეები, როგორიცაა Groq და Cerebras, SambaNova-ს ახალი არქიტექტურა მეტ მოქნილობასა და მეხსიერებას გვთავაზობს.

  • სიჩქარე: General Compute-ის მონაცემებით, SambaNova-ს ჩიპები წამში 600-700 ტოკენს გენერირებს, მაშინ როცა სტანდარტული GPU-ები დაახლოებით 250 ტოკენით შემოიფარგლება.
  • ინფრასტრუქტურა: ჩიპები იყენებენ ჰაერით გაგრილების სისტემას და ნაკლებ ენერგიას მოიხმარენ, რაც მათ არსებულ მონაცემთა ცენტრებში მარტივად ინსტალაციის საშუალებას აძლევს.

ახალი შესაძლებლობები მონაცემთა ცენტრებისთვის

General Compute აქტიურად მუშაობს ე.წ. კოლოკაციის გარიგებებზე. კომპანია გეგმავს აპარატურის განთავსებას არა მხოლოდ ტრადიციულ ცენტრებში, არამედ იმ ლოკაციებზეც, სადაც ადრე კრიპტომაინინგი ხდებოდა. ეს ინფრასტრუქტურის ეფექტური გადაპროფილების საინტერესო მაგალითია, განსაკუთრებით მაშინ, როდესაც ბიტკოინის მოპოვების ხარჯები ხშირად მის საბაზრო ფასს აღემატება.

"აგენტებს შორის კომუნიკაცია, როდესაც ისინი ჩვენს მაგივრად კითხულობენ ინფორმაციას ან მონაცემთა ბაზებს უკავშირდებიან, უკიდურესად მაღალ სიჩქარეს მოითხოვს," — აცხადებს General Compute-ის დამფუძნებელი ფინ პუკლოვსკი.

კომპანიამ უკვე შეუკვეთა $300 მილიონის ღირებულების SN50 ჩიპები და აცხადებს, რომ ისინი პირველი „ნეოკლაუდ" პროვაიდერი იქნებიან, ვინც ამ ტექნოლოგიას მასშტაბურად დანერგავს.