מודלים פתוחים מתקרבים לגבול הקדמי ב-AI, אך הפער בבטיחות נותר — לפי TechCrunch
לפי TechCrunch, מודלים של AI בעלי משקל פתוח מתקרבים ליכולות הגבוהות ביותר בתחום, אך הפער בבטיחות נשאר בעינו. ישנם אתגרים משמעותיים בניהול הסיכונים הנלווים.
מה השתנה בשוק ה-AI
בתקופה האחרונה, מודלים של AI בעלי 'משקל פתוח' מצליחים להתקרב ליכולות של המודלים המובילים בתעשייה. דוגמה לכך היא המודל GLM-5.2 של חברת Z.ai הסינית, שמתקרב ליכולות של GPT-5.5 של OpenAI ו-Claude Opus 4.7 של Anthropic. למרות זאת, הפער בין היכולות המתקדמות לבין הבטיחות נותר בעינו, כפי שמדווח על ידי SaferAI.
אתגרים בבטיחות המודלים הפתוחים
הדו"ח של SaferAI מצביע על בעיות משמעותיות בבטיחות המודלים הפתוחים. לדוגמה, GLM-5.2 לא סירב לאף משימה הקשורה לסייבר התקפי או ביולוגיה כפולה, בעוד שמודל Claude Opus 4.7 הפגין סירוב עקבי. מצב זה מדגיש את הסיכון שיכולות AI מתקדמות יגיעו לידי תוקפים פוטנציאליים, בלי יכולת לפקח על השימוש בטכנולוגיה.
שיטות להפחתת סיכונים
מפתחים מובילים כמו OpenAI ו-Anthropic משתמשים באמצעי הגנה כמו מסווגים, הכשרה על סירוב ובקרות ברמת ה-API כדי להגביל סיוע מסוכן בסייבר וביולוגיה. אך ההגנות הללו אינן מושלמות: קיימים פריצות אוניברסאליות שמצליחות לעקוף את ההגנות במודלים הפתוחים.
השלכות לעסקים קטנים ובינוניים בישראל
בעסק קטן או בינוני בישראל, חשוב להיות מודעים לסיכונים הנלווים לשימוש במודלים פתוחים. למרות שהטכנולוגיה מציעה יתרונות, כמו יכולות מתקדמות בסייבר, יש לשקול היטב את ההגנות הנדרשות כדי למנוע שימוש לרעה. על עסקים לשקול אילו טכנולוגיות מתאימות להם ולאמץ אמצעי הגנה מתאימים.
נקודת התחלה מעשית
כדי להיערך לשימוש במודלים פתוחים, עסקים יכולים להתחיל בביצוע הערכות בטיחות פנימיות ולבחון את ההגנות שהמודלים מציעים. חשוב להיות מעודכנים בנוגע לפריצות אפשריות ולוודא שהצוות הטכנולוגי מודע לסיכונים ולדרכי ההתגוננות.
המצב הרגולטורי
בסין ישנן תקנות חזקות בנוגע לשימוש ב-AI, אך הן מתמקדות בתוכן פוליטי וביציבות חברתית, ולא בסיכונים קטסטרופליים כמו יכולות סייבר התקפיות. לעומת זאת, בארה"ב יש חשש גדול יותר לגבי הסיכונים הקטסטרופליים האפשריים של AI. בישראל, חשוב לעקוב אחר המגמות הבינלאומיות ולבחון את ההשלכות המקומיות.
מסקנות
המודלים הפתוחים מציעים פוטנציאל גבוה, אך גם סיכונים משמעותיים. על התעשייה לשאוף לכך שהיכולות הבטוחות יהיו נגישות לכולם, תוך צמצום היכולות המסוכנות. לדעתנו, יש להמשיך לפתח כלים להגנה ולנהל את הסיכונים בצורה מושכלת.
המאמר הזה מבוסס על דיווח של TechCrunch.
מבוסס על TechCrunch: https://techcrunch.com/2026/08/04/open-weight-ai-models-are-catching-up-to-the-frontier-the-safety-gap-remains/