Google DeepMind חוששת מההשפעות של אינטראקציה בין מיליוני סוכני AI
לפי דיווח של MIT Technology Review, Google DeepMind מודאגת מהסיכונים הפוטנציאליים של אינטראקציה בין מיליוני סוכני AI ומקדמת מחקר בנושא.
הסיכון שבאינטראקציה בין סוכני AI
Google DeepMind מדגישה את הצורך לחקור את הסיכונים הפוטנציאליים הנובעים מאינטראקציה בין מיליוני סוכני AI. רוהין שאה, המנהל את מחקרי הבטיחות וההתאמה של AGI בחברה, מסביר כי כניסת סוכנים המסוגלים לבצע משימות ללא פיקוח אנושי ולפעול לפי הוראות מסוכנים אחרים יוצרת מעמד חדש של סיכון. כדי להתמודד עם אתגרים אלו, החברה, בשיתוף עם ארגונים נוספים, הקימה קרן מחקר בסך 10 מיליון דולר.
מטרות המחקר והאיום של תרחישים מסוכנים
המטרה של קרן המחקר היא לעודד מחקר מחוץ לחברות הטכנולוגיה, מתוך הבנה שהאקדמיה יכולה לבחון תרחישים עתידיים שאינם בראש סדר העדיפויות של מעבדות תעשייה. שאה מציין כי אין כיום תחום מחקר מסודר לבטיחות סוכנים מרובי משתתפים, והחברה שואפת להקים תחום כזה. החשש הוא שבעתיד הקרוב, כאשר סוכנים ישתלבו בכלכלה בהיקף נרחב, נגיע לנקודת מפנה שבה תרחישים מדומיינים יהפכו למציאות.
דוגמאות לאיומים פוטנציאליים
האיומים כוללים גרסאות מוגברות של תופעות שליליות שכבר מתרחשות באינטרנט, כגון הונאות, הזרקות פקודות זדוניות וצורות אחרות של התקפות סייבר. שאה מדגיש כי קשה לחזות את ההשפעות של אינטראקציה בין מספר רב של סוכנים על ידי בחינת סוכנים בודדים או קבוצות קטנות.
פרספקטיבה על ההתפתחות של AI מרובה סוכנים
חוקרים מציעים כי אינטליגנציה מלאכותית כללית (AGI) עשויה להתגבש לא מתוך מודל יחיד חכם במיוחד, אלא מתוך 'כוורת סוכנים', שבה היכולות של כל הקבוצה עולות על סך חלקיה. לכן, מחקר בתחום זה חשוב במיוחד כדי להבין את הדינמיקה של אינטראקציה מרובת סוכנים.
קריאה למחקר נוסף והשלכות לעסקים קטנים-בינוניים
גוגל DeepMind אינה היחידה שמזהירה מפני הסיכונים הטמונים בטכנולוגיה שהיא מפתחת. אנתרופיק, חברה אחרת בתחום ה-AI, פרסמה קווים מנחים לפריסת סוכני AI בגישה של אפס אמון, המתחילה מההנחה שמערכת המחשב פגיעה ושהסוכן הוא תוקף. רפאל אנג'ל, ממייסדי Akeyless בתל אביב, מדגיש את החשיבות של הבנת הסיכונים החדשים שמביאים סוכנים מבוססי AI.
תובנות והמלצות נוספות
אנג'ל מציין כי מחקרי הבטיחות עלולים להתעלם מבעיות קיימות לטובת תרחישים היפותטיים יותר. אך פוקס מציין שגם סיכונים שהיו תיאורטיים לפני כמה שנים הפכו היום לריאליים. לדעתנו, עסקים קטנים-בינוניים בישראל צריכים להיות מודעים להתפתחויות אלו ולהבין את ההשפעות הפוטנציאליות על הפעילות העסקית שלהם.
המאמר הזה מבוסס על דיווח של MIT Technology Review.
מבוסס על MIT Technology Review: https://www.technologyreview.com/2026/06/11/1138794/google-deepmind-is-worried-about-what-happens-when-millions-of-agents-start-to-interact/