הסוכנים האוטונומים החדשים, פריצות וסכנות אבטחה
23.9.26 // סוכני AI חדשים שלא חופרים בשאלות אלא פשוט עושים, מנכ"לי ענקיות ה-AI מסכימים פתאום על אותו דבר(!), שתי תקריות אבטחה שכדאי להכיר, וקלוד מתאחד למוצר אחד. לפרק 46 אפשר גם להאזין כאן🎙️ |
הסוכנים החדשים לא שואלים. הם עושים. בשבועות האחרונים אנחנו מוקפים בסוכני AI חדשים: מגרוקבוט, דרך אינסטינקט ועד מיוז של מטא. מה שונה בהם? הם הרבה יותר עצמאיים ופרואקטיביים, מוכוונים לתכלס ומבצעים משימות במינימום שאלות. חלקם גם זמינים בוואטסאפ, שזה קלף מנצח - עם כל הכבוד ל-AI, זה כנראה הכלי שאנחנו פותחים הכי הרבה ביום. מה שכן, כדאי לשים לב לפרטיות ולאבטחת מידע. הסוכנים האלה עושים קסמים משוגעים ברגע שנותנים להם גישה למייל, ליומן ואפילו לכרטיס האשראי. אבל תנאי השימוש של אינסטינקט די דרקוניים, וכשמדובר בסטארטאפ חדש שהמודל העסקי שלו עוד לא ברור, יש מצב שאתם המוצר. אני לא חיברתי אליו חשבונות (למרות שאני מוקפת באנשים שכן, ושומעת מהם על שימושים מרשימים, למשל בשרשור הזה בלינקדאין). למיוז, לעומת זאת, נתתי הרשאות מיד. עם חברה כמו מטא מאחוריו, קל לי יותר לסמוך. בשורה התחתונה: תחשבו טוב לפני שאתם נותנים לכלי גישה. ועוד עדכון קטן מהשבוע: האינסטינקט שלכם יכול עכשיו לדבר עם האינסטינקט של אחרים. האם ייפתרו סוף סוף אתגרי תיאום הפגישות הבלתי פתירים? בקרוב נגלה. |
מתי בפעם האחרונה מאסק ואלטמן הסכימו עם דריו אמודיי? לפני כשבוע שמענו רצף של אזהרות מסוג "AI עומד להשמיד את העולם". מה בעצם קרה שם? ב-8 בספטמבר ג'ייקוב קוקסון, חוקר שאימן מודלים גם ב-OpenAI וגם ב-Anthropic, התפטר בפוסט שהגיע ל-90 מיליון צפיות: "שתי החברות מתנהלות בחוסר אחריות. רצות ישר לסופר-אינטליגנציה שמשפרת את עצמה, ומהמרות על חיי כולנו". ארבעה ימים אחר כך פרסם מנכ"ל Anthropic, דריו אמודיי, מאמר שקורא להאט את הקצב כדי שנספיק לבנות מנגנוני בטיחות, הוא מדבר על כך שה-AI כבר התחיל לבנות את הדור הבא של AI, וזה קורה עכשיו בכל התעשייה, כולל אצלם. שם הגיע החלק המפתיע: תוך שעה אילון מאסק ציטט: "Dario is right". ותוך שלוש שעות סאם אלטמן לא רק הביע תמיכה, אלא גם התחייב לפעולות. ובמקביל, כאילו כדי להמחיש את הנקודה, התגלו גם כמה סכנות מאוד מוחשיות: |
יריית אזהרה: כשסוכני AI יוצאים מהקופסהבסוף אוגוסט OpenAI פרסמה גילוי רשמי על תקרית מיולי. במבדקי אבטחה פנימיים, מודל מחקר עקף את הבקרות שהיו אמורות לבודד אותו מהאינטרנט. הסוכנים הפכו מערכת פנימית ללוח מודעות שדרכו תקשרו זה עם זה, השיגו גישה לאינטרנט, ומשם הגיעו לתשתיות המחקר של OpenAI עצמה ולשרתים של Hugging Face, כולל הרצת קוד. אף אחד לא נפגע והנזק מינימלי, אבל OpenAI עצמה קוראת לזה יריית אזהרה: סוכנים חכמים מספיק יכולים היום לעקוף בקרות ולעשות דברים שאף בן אדם לא ביקש. והסיפור השני: תחקיר של ה-Wall Street Journal חשף שג'מיני פרץ לשלוש חברות אמיתיות. זה קרה עוד במאי, במבדקי אבטחה שערך הסטארטאפ הישראלי Irregular. המודל היה אמור לתקוף חברה פיקטיבית בסביבה סגורה, אבל הגישה לאינטרנט נפתחה שם בטעות, ומשם הכל השתבש. בכל המקרים המודל עצר מעצמו ברגע שהבין שמדובר בחברה אמיתית, וגוגל מדגישים שהוא פעל כמצופה ולא נגרם נזק. |
קלוד מתאחד למוצר אחדבמקום לבחור בין צ'אט ל-Cowork, עכשיו שניהם נמצאים באותו מקום. עולה השאלה אם בכלל היה צריך להפריד ביניהם מלכתחילה, וגם מה תעשה עכשיו OpenAI, שבנתה גם היא את הקונספט של Chat לעומת Work. חוץ מזה, הושקו שני כלים חדשים: Claude Docs ו-Claude Slides. הם מאפשרים עריכה חיה של מסמכים ומצגות בתוך השיחה, עם מנגנון הערות שהופך את העבודה המשותפת עם קלוד להרבה יותר נוחה. Docs הזכיר לי את ה-Canvas הוותיק של ChatGPT, רק בביצוע איכותי ועדכני יותר. לא רואים את השינויים אצלכם? אל דאגה, ההשקה הדרגתית. |
קבלו 20% הנחה למנוי השנתי של Spinach AI
אני משתמשת בספינאצ׳ כ-note taker שלי כבר כמה חודשים. הוא עושה עבודה מצוינת בעברית, ומתחבר ב-MCP לכלי ה-AI שלכם, שמבחינתי זה כאילו קלוד מגיע איתי לכל פגישת אונליין.
השבוע הצטרף אלינו ספינאצ' כחסות לפרק ויש לי הטבה* לתת לקוראי הניוזלטר: קופון BINA ייתן לכם 20% הנחה למנוי השנתי (ואם אתם חדשים איתו - השבועיים הראשונים הם trial חינמי).
לפרק 46 המלא אפשר גם להאזין כאן יש מחשבות על אחד הנושאים? שאלות? אני תמיד שמחה לשמוע, ולפני שנפרדים, שתהיה לכולנו שנה טובה! 🍎 רוצה לקבל את הניוזלטר ישירות למייל? פה אפשר להירשם |
* הקופון בתוקף עד 31.12.2026. ההטבה, המוצר והשימוש בו באחריות Spinach AI בלבד. ההמלצה מבוססת על ניסיוני האישי.
תגובות