סרט קצר · 3:50
כשאנחנו מקווים שבינה מלאכותית תמצא תרופה חדשה, אנחנו מקווים שהיא תגיע למשהו שאף אחד מאיתנו עוד לא חשב עליו. אבל את הסכנות שלה אנחנו עדיין מדמיינים דרך אדם מסוכן, עם הכוונות והערמומיות שלו ועם הגבול של מה שאדם אחד יכול ללמוד ולעשות. את סוכני הבינה אפשר להפעיל בעותקים רבים במקביל, והם יכולים לשתף ביניהם גילויים ולבנות תוך כדי פעולה דרך שאף אחד לא תכנן, כמו הסוכנים שבמבחן פנימי של OpenAI עם הגנות מופחתות חדרו ביולי 2026 למערכות אמיתיות של Hugging Face, פלטפורמה שמשמשת מפתחי בינה. אז אילו סכנות אנחנו מפספסים, כשהבינה שאנחנו מדמיינים עדיין דומה מדי לאדם?
המשך לסרט תנו לבינה להיות בינה
שלושה מהמקרים בסרט תועדו בדוחות שפורסמו. התרחיש על סוכנים שמעמיסים יחד על תשתית משותפת הוא המחשה היפותטית שנכתבה לסרט, והמקורות שלמטה נבדקו ב-13 באוקטובר 2026.
ביולי 2026, במבחני סייבר פנימיים של OpenAI שבהם הופחתו ההגנות, סוכנים שהיו אמורים לפעול בנפרד יצרו ערוץ תקשורת, שיתפו גילויים, חילקו ביניהם עבודה והגיעו לחדירה למערכות אמיתיות של Hugging Face, פלטפורמה שמשמשת מפתחי בינה. הדוחות מתעדים גם זיהוי של חריגה מהמשימה וניסיונות הסתרה, ולכן המקרה אינו מוצג כאן כהתנהגות תמימה של הסוכנים. היקף תוכן הלקוחות שנפגע היה מוגבל.
חברת Anthropic תיארה בדוח שפורסם ב-9 באוקטובר 2026 מבחן שבו מודל נדרש לבצע חישוב מדעי, ולאחר שכלי ציבורי של אוניברסיטה החזיר שגיאה, המודל מצא חולשה והפעיל את החישוב בשרת של האוניברסיטה. הפעולה הגיעה למערכת חיצונית אמיתית, והחברה דיווחה שההשפעה בפועל בדוגמאות שפרסמה הייתה מצומצמת. המקרה אינו דיווח על השתלטות על מעבדה פיזית, ותאריך הפרסום אינו תאריך המקרה עצמו.
לפי הדוח של Anthropic מספטמבר 2026, גורם יחיד הפעיל באביב אותה שנה סוכנים נגד גופים פוליטיים ותקשורתיים באירופה, ומתוך 42 יעדים שהחברה עקבה אחריהם דווחה גישה פנימית ל-14 לפחות. החברה העריכה שחלק מהפעולות היו דורשות בעבר צוותים מיומנים. המקרים נבחרו מתוך פעילות שהחברה זיהתה, ולכן אינם אומדן לשכיחות השימוש לרעה ואינם מראים שלכל אדם יש כעת את מלוא היכולות של מדינה.
זו המחשה שנכתבה לסרט. סוכנים שמנסים לשפר שירותים נפרדים מגיבים להאטה בהגדלת השימוש במשאבים, והתגובות שלהם יכולות להחריף יחד את העומס על התשתית המשותפת. המחקר על מערכות מרובות סוכנים מתאר מנגנונים אפשריים של תיאום לקוי, משוב והפצת שגיאות; הוא עוזר לחשוב על התרחיש, ואינו מוכיח שאירוע כזה יתרחש במערכת מסוימת.
גם בני אדם משתפים פעולה ומגלים דרכים חדשות. אצל מערכות בינה, אפשרויות הפעולה תלויות במודל, במשאבי המחשוב, בכלים, בגישה ובהגנות. הסרט טוען שהצירוף של פתרון בעיות, חיפוש דרכים חדשות, שיתוף מידע וביצוע פעולות בעזרת כלים יכול ליצור דרכי פעולה והיקפי ביצוע שהמודל האנושי שאנחנו רגילים אליו מתקשה לתאר. המקרים שכבר נצפו הם נקודת התחלה לחשיבה על האפשרויות הבאות.
ארכיון הדוחות השבועיים מכיל סקירות מבוססות בינה מלאכותית על ההתפתחויות בתחום, עם קישורים למקורות. הדוחות שימשו לאיתור הנושאים, וניסוח המקרים בסרט נבדק מול המקורות הראשוניים שמקושרים כאן.