חברת סטארטאפ פורצת דרך בתחום המודלים הלשוניים הגדולים
על פי דיווח של MIT Technology Review, חברת הסטארטאפ Subquadratic מציעה פתרון חדשני לשיפור היעילות והחיסכון במודלים לשוניים גדולים. המודל החדש שלהם, SubQ, עשוי לשנות את הדרך בה עסקים קטנים ובינוניים משתמשים ב-AI.
מהו המודל החדש של Subquadratic?
חברת הסטארטאפ האמריקאית Subquadratic, הממוקמת במיאמי, יצאה בחודש שעבר מהצללים והכריזה על פתרון לטיפול בבעיה מתמטית אשר עיכבה את פיתוחם של מודלים לשוניים גדולים (LLMs) במשך כמעט עשור. המודל החדש, הנקרא SubQ, מבוסס על גישה חדשנית המבטיחה להיות מהירה יותר, זולה יותר, ולדרוש פחות אנרגיה ממודלים קיימים. החברה טוענת כי המודל שלה יכול לעבד עד פי 12 יותר טקסט מאשר רוב המודלים בשוק, מה שמאפשר לו לבצע משימות כבדות נתונים כמו ניתוח מאות מסמכים או בסיסי קוד שלמים.
יתרונות המודל החדש
Subquadratic מציינת כי SubQ לא רק מהיר וחסכוני יותר, אלא שהוא גם מתמודד בהצלחה עם ביצועים של מודלים מובילים אחרים, כמו אלה של Google DeepMind ו-OpenAI, במשימות מפתח כמו קידוד. החברה קיימה הערכה עצמאית באמצעות חברת Appen, שאישרה את טענותיה לגבי מהירות המודל וביצועיו. לדברי Appen, SubQ היה מהיר פי 56 ממודלים קודמים ויכול להתמודד עם בעיות קידוד תחרותיות בהצלחה רבה.
איך המודל עובד?
ההבדל המרכזי במודל של Subquadratic הוא השימוש ב'ספארס אטנשן' (Sparse Attention) במקום ב'דנס אטנשן' (Dense Attention), שהוא התהליך המרכזי במודלים מבוססי טרנספורמר. גישה זו מצמצמת את מספר החישובים הדרושים על ידי בחירת קשרים חשובים בלבד בין מילים בטקסט. לפי החברה, גישה זו מאפשרת למודל לבצע חישובים באופן חכם ויעיל יותר, מבלי להתפשר על הדיוק והביצועים.
מבחני ביצועים ותוצאות
Appen בחנה את SubQ במבחנים שונים, כולל מבחן מהירות ומבחן LiveCodeBench, בו המודל השיג תוצאה של 89.7% - תוצאה מרשימה בתחום הקידוד. החברה גם טוענת שהמודל שלה חסכוני ביותר, עם עלויות פעולה נמוכות בהרבה ממודלים אחרים כמו Anthropic's LLM Opus 4.6.
חששות וספקות
למרות התוצאות המרשימות, יש עדיין סקפטיות בקרב חלק מהמשתמשים והחוקרים. אחת הסיבות לספקנות היא ש-Subquadratic השתמשה במשקלים ממודל סיני פתוח בשם Qwen כדי להפעיל את SubQ, במקום לאמן את המודל מאפס. בנוסף, המודל עדיין אינו זמין לשימוש רחב, מה שמקשה על בדיקתו על ידי קהל רחב יותר.
השלכות לעסקים קטנים ובינוניים בישראל
אצל לקוחות שלנו, מודלים לשוניים גדולים יכולים להיות כלי עזר משמעותי בתהליכי אוטומציה, ניתוח נתונים והפקת תובנות. המודל החדש של Subquadratic מציע אפשרויות חדשות לעסקים קטנים ובינוניים המעוניינים לשפר את היעילות והחיסכון שלהם בשימוש ב-AI. עם זאת, מומלץ לחכות להמשך הפיתוח והנגישות של המודל לפני קבלת החלטות משמעותיות בתחום.
המאמר הזה מבוסס על דיווח של MIT Technology Review.
מבוסס על MIT Technology Review: https://www.technologyreview.com/2026/06/19/1139313/a-startup-claims-it-broke-through-a-bottleneck-thats-holding-back-llms/