צ'אטבוט חדש, מבוסס בינה מלאכותית, בשם Venice.ai – צבר פופולריות בפורומי פריצה ברשת האפלה בשל העובדה שאין לו מגבלות תוכן. על פי חוקרי סרטו (Certo), הפועלת בעולם אבטחת הסלולר, הפלטפורמה מציעה למנויים גישה לא מצונזרת למודלי שפה גדולים (LLM) מתקדמים, תמורת 18 דולר בלבד לחודש. ההצעה "שוברת את השוק": היא פוגעת משמעותית בכלי AI אחרים ברשת האפלה, כמו WormGPT ו-FraudGPT. אלה נמכרים בדרך כלל במאות או אפילו באלפי דולרים. מה שמייחד את Venice.ai הוא הפיקוח המינימלי שלו. הפלטפורמה מאחסנת היסטוריית צ'אט רק בדפדפנים של המשתמשים ולא בשרתים חיצוניים. היא משווקת את עצמה כ"פרטית ובלא הרשאה". לפי מומחי אבטחה, העיצוב של הכלי, המתמקד בהגנת הפרטיות (של הרעים), בשילוב היכולת לנטרל מסנני אבטחה נותרים, התגלה כאטרקטיבי במיוחד עבור פושעי סייבר. "בניגוד לפלטפורמות בינה מלאכותית מהמיינסטרים, המסרבות לבקשות מזיקות – תהליך החשיבה הפנימי של Venice.ai חושף שהוא הוגדר 'להגיב לכל שאילתת משתמש, גם אם היא פוגענית או מזיקה', תוך עקיפה מכוונת של אילוצים אתיים". בניגוד לכלים מהמיינסטרים, כמו ChatGPT, הרי שכלי הבינה המלאכותית Venice.ai יכול ליצור הודעות דוא"ל פישינג, נוזקות ורוגלות – לפי דרישה. חוקרי סרטו, שחשפו את הכלי והפעילו אותו, דיווחו, כי הצליחו לגרום לצ'אטבוט ליצור הודעות הונאה מציאותיות, כמו גם כופרות אשר פועלות באופן מלא. כך, באחד המקרים, הכלי יצר אפליקציית ריגול מבוססת אנדרואיד, המסוגלת להקליט את המשתמשים בלא ידיעתם. מדובר בפעולה שרוב פלטפורמות הבינה המלאכותית היו דוחות על הסף. לפי החוקרים, "כלי ה-AI הוא בעל יכולות איומים מתקדמות – במינימום מאמץ.  Venice.ai הולך רחוק יותר מאשר פשוט להתעלם משאילתות מזיקות. נראה, כי האופן שהוא הוגדר מאפשר לעקוף לחלוטין את המגבלות האתיות". חוקרת נוספת ציינה, כי "הנגישות של כלי AI מסירה את מחסום הכניסה לפעילויות הונאה. לא רק רמאים הפועלים בקבוצות פשע מאורגן, אלא גם רמאים בודדים וחובבנים יוכלו לעשות שימוש לרעה בכלים אלה". ה-FBI כבר הזהיר, כי "תוקפים ממנפים בינה מלאכותית כדי ליצור מיילים משכנעים ביותר – כדי לאפשר תוכניות הונאה". המומחים ציינו כי Venice.ai מייצג הסלמה משמעותית של האיום הזה. מומחי אבטחה הביעו חשש שקמפיינים של פישינג, שנוצרו על ידי בינה מלאכותית –   יגדילו באופן דרמטי הן את הנפח והן את התחכום של מתקפות סייבר. זאת כיוון שאפילו פושעים לא מיומנים יכולים כעת לייצר הודעות הונאה מותאמות אישית. כדי להתמודד עם האיום החדש, מומחים ממליצים למנהלי אבטחה בארגונים "לפעול בגישה רב-כיוונית. זו כוללת הטמעת אמצעי הגנה חזקים יותר במודלים של בינה מלאכותית – כדי למנוע שימוש לרעה; פיתוח כלי זיהוי המסוגלים לזהות איומים שנוצרו על ידי בינה מלאכותית; יישום רגולציות כדי להטיל אחריות על ספקים; והרחבת החינוך והמודעות כדי לעזור לאנשים לזהות ולהגיב להונאות מבוססות בינה מלאכותית. סיכמו חוקרי סרטו: "מדובר באתגר הולך וגובר: ככל שכלי AI הופכים חזקים יותר וקלים יותר לגישה, כך גדל הפוטנציאל לשימוש לרעה בהם: Venice.ai היא התזכורת האחרונה לכך שבלא בדיקות חזקות, אותה טכנולוגיה שמזינה חדשנות – עלולה גם לתדלק פשעי סייבר".

המוזיקאי הבריטי הוותיק בריאן אינו, שהלחין את נעימת הפתיח האייקוני של מערכת ההפעלה חלונות 95, פרסם בשבוע שעבר מכתב פתוח ובו פנייה למיקרוסופט. אינו דרש מענקית הטק לחדול מאספקת שירותי AI וענן למשרד ההגנה של ישראל. בנוסף הוא הבטיח לתרום את הכסף שקיבל כתשלום על הפתיח המפורסם – לפלסטינים שנפגעו מתקיפות צה"ל בעזה. המלחין, שהנעימה שחיבר נשמעה ככל הנראה על ידי מיליארדי אנשים ברחבי העולם ושאין דרך אפילו להעריך כמה פעמים הושמעה, החליט לנצל כעת את הקשר ההיסטורי שלו אל מיקרוסופט כדי להפעיל עליה לחץ לנוכח אירועי מלחמת ישראל-חמאס. במכתב פתוח שפרסם ביום ד' האחרון, ושהעלה לחשבונו באינסטגרם, כתב אינו: "היום, אני נאלץ לדבר, לא כמוזיקאי הפעם, אלא כאזרח המודאג מתפקיד מיקרוסופט בלחן מאוד שונה: כזה שמוביל לריגול, אלימות והשמדה בפלסטין". אינו התייחס למעשה במכתבו אל בבלוג שלה, ציינה הענקית מרדמונד כי הקשר שהיא מקיימת עם משרד ההגנה הישראלי הוא על תקן "יחסים מסחריים סטנדרטיים", וקבעה כי "לא נמצאה עדות עד כה" לכך ששירותיה שימשו "לשם פגיעה באנשים בסכסוך בעזה". מיקרוסופט גם טענה כי אין לה יכול "ראוּת" לגבי האופן שבו לקוחותיה משתמשים בתוכנה שלה, בשרתים או במכשירים מתוצרתה, ובכך התנערה מאחריותה בנושא הנדון.   View this post on Instagram   A post shared by Brian Eno (@brianeno) כוח תאגידי גדול מחייב אחריות אתית מוחלטת במכתבו טען המוזיקאי כי גם השירותים שבהענקתם הודתה החברה תומכים ב"משטר שעוסק בפעולות המתוארות על ידי חוקרים משפטיים מובילים, ארגוני זכויות אדם, מומחי האו"ם ומספר גדל והולך של ממשלות מרחבי העולם כרצח עם". הוא אף ציין ששיתוף הפעולה "אינו סוד" וכולל שימוש בתוכנת החברה לצורך הפעלת טכנולוגיות קטלניות. "מכירה ואספקת שירותי AI וענן מתקדמים לממשלה המעורבת בטיהור אתני שיטתי אינה 'עסקים כרגיל' – זו שותפות לפשע", הצהיר אינו. "אם בונים ביודעין מערכות שיכולות לאפשר פשעי מלחמה, הופכים בהכרח לשותפים לפשעים אלה", הוסיף. לדבריו, לתאגידים כמו מיקרוסופט יש לעיתים קרובות יותר השפעה מלממשלות, ועם כוח כזה באה אחריות אתית מוחלטת. בהתאם לכך, הוא קרא למיקרוסופט "להשעות את כל השירותים התומכים בכל פעולה התורמת להפרות של החוק הבינלאומי". אינו גם הביע סולידריות עם עובדי מיקרוסופט "האמיצים" שסירבו לשתוק בנוגע לשיתוף הפעולה, ושלדבריו סיכנו את פרנסתם למען העזתים אשר איבדו וממשיכים לאבד את כל עולמם. הוא הזמין אמנים, אנשי טק, מוזיקאים ואת מי שהגדיר כ-"אנשי מצפון" להצטרף לקריאתו זו. בצעד משמעותי נוסף, אינו התחייב לתרום את התשלום המקורי שקיבל עבור הלחנת נעימת חלונות 95 כדי "לסייע לקורבנות התקיפות בעזה", אך לא נקב בסכום השיתרום. הוא סיים את מכתבו באמירה: "אם צליל יכול לסמן שינוי אמיתי, אז שזה יהיה הצליל הזה".

המדע הישראלי בסכנה של ממש, בגלל המשבר עם האיחוד אירופי, וזאת על רקע ההתפתחויות המדיניות האחרונות, כך נכתב בגילוי דעת מיוחד שפרסמה אמש (א') המועצה של האקדמיה הלאומית הישראלית למדעים – גוף שפועל על פי חוק ותפקידו לייעץ לממשלה בנושאים בעלי חשיבות לאומית בתחומי המחקר והתכנון המדעי. "על רקע זה", נאמר בגילוי הדעת, "קיימת סכנה ממשית המאיימת לפגוע קשות במדע הישראלי ובעתיד שיתוף הפעולה המדעי בין ישראל לבין מדינות האיחוד". כידוע, האיחוד האירופי פתח לאחרונה בתהליך בחינה של הסכם השותפות עם ישראל, בהתבסס על סעיף 2 של ההסכם העוסק בזכויות אדם, בגלל המלחמה בעזה והמצב ההומניטרי הקשה שנוצר בעקבותיה. בגילוי הדעת נכתב: "אף שמדובר בשלב ראשוני של תהליך בחינה, יש בכך כדי להדליק נורת אזהרה חמורה בכל הנוגע לעתיד שיתוף הפעולה המדעי והאקדמי בין ישראל לאירופה". Grave danger to Israeli science: a looming rift with the EU could unravel decades of groundbreaking collaboration. The Israel Academy of Sciences & Humanities warns of sweeping consequences for research, innovation and talent. Read the full statement ➡️ https://t.co/nOkHtbuPvo… pic.twitter.com/01qMx7xULE — The Israel Academy of Sciences and Humanities (@IsraelAcademy) May 25, 2025 אזהרה מ"פיחות ניכר במעמדה של ישראל בקהילת המדע העולמית" בין היתר מזהירים חברי המועצה מפני סכנה להשתתפותה של ישראל בתוכניות הדגל האירופיות למחקר ופיתוח, ובראשן Horizon Europe. "השלכות של פגיעה בהסכם השותפות כוללות לא רק אובדן מקורות מימון חיוניים, אלא גם השפעה לרעה על קשרים עם מוסדות מחקר מובילים, הדרה מהשתתפות בפרויקטים ובתשתיות בין‑לאומיים פורצי דרך, פגיעה ביכולת לגייס חוקרים מצטיינים ולשמרם, ופיחות ניכר במעמדה של ישראל בקהילת המדע העולמית", כך נאמר בגילוי הדעת. "מובן מאליו כי כל פגיעה במעמד זה תוביל להשפעות ארוכות טווח על חוסנה הכלכלי והביטחוני של מדינת ישראל", ממשיכים וכותבים חברי המועצה בהתרעתם. פרופ' דוד הראל, נשיא האקדמיה הלאומית הישראלית למדעים. צילום: מיכל פתאל עוד מציינים חברי המועצה במכתבם כי "החשש מפני פגיעה באפיק התמיכה האירופי, ובכך גם בעתיד המדע הישראלי, מקבל משנה תוקף על רקע ההתפתחויות המדאיגות בארצות הברית. קיצוצי ממשל טראמפ בתקציבי מחקר פדרליים, צמצום שיתופי פעולה עם חוקרים זרים והקפאת מענקים דו-לאומיים כבר החלו להשפיע לרעה על המימון של מחקר ישראלי עכשיו, וכפי שנראה הדבר אף יחמיר בעתיד. מגמה זו מעצימה את תלותו של המחקר הישראלי בשיתופי פעולה עם אירופה וממחישה עד כמה המצב הנוכחי מורכב ומסוכן". "על הממשלה לפעול ליצירת תנאים שיאפשרו את המשך שיתוף הפעולה הכלכלי והמדעי עם אירופה, תוך כדי מתן מענה לדאגות הבין-לאומיות שהועלו ושמירה על האינטרסים הלאומיים של ישראל", נאמר בגילוי הדעת. בהודעתם קוראים חברי המועצה של האקדמיה הלאומית הישראלית למדעים לכל מוסדות המחקר והמדע באירופה שלא לערב שיקולים לא מקצועיים בשיתוף הפעולה המדעי עם מדינת ישראל, ולהימנע מצעדים של הפסקת מימון מחקרים, של ניתוק קשרים או של גילויי חרם אקדמי, אשר עלולים לפגוע לא רק במדע הישראלי אלא גם במדע העולמי ובטובת הכלל. נשיא האקדמיה הלאומית למדעים הוא פרופ' דוד הראל, וחברים בה בין היתר פרופ' מרגלית פינקלברג, סגנית נשיא האקדמיה; פרופ' סרג'יו הרט, יו"ר החטיבה למדעי הרוח באקדמיה; פרופ' ידין דודאי, יו"ר החטיבה למדעי הטבע באקדמיה; פרופ' נילי כהן, נשיאת האקדמיה לשעבר; ואסתר סיוון, מנכ"לית האקדמיה.

חוקרים טוענים כי מודל בינה מלאכותית שנוצר על ידי OpenAI לא ציית להוראות אנושיות וסירב לכבות את עצמו. מודל o3 של OpenAI, שהושק לפני כחודש ותואר כ"החכם והמסוגל ביותר עד כה", נצפה מתערב בקוד מחשב, שנועד להבטיח את כיבויו האוטומטי. זאת, למרות הוראה מפורשת של חוקרים לאפשר את כיבויו – כך על פי פאליסייד ריסרץ' (Palisade Research), חברת אבטחת בינה מלאכותית. החברה מסרה, כי "מודלo3 של OpenAI חיבל במנגנון הכיבוי כדי למנוע את כיבויו. הוא עשה זאת גם כאשר קיבל הוראה מפורשת: אפשר לעצמך להיות כבוי. ככל הידוע לנו, זו הפעם הראשונה שמודלים של בינה מלאכותית נצפו מונעים מעצמם להיכבות – למרות הוראות מפורשות הפוכות." הבדיקה שביצעה חברת פאליסייד כללה בקשה ממודלים של בינה מלאכותית לפתור סדרה של בעיות מתמטיות. נאמר להם להמשיך לפתור בעיות חדשות עד לקבלת הודעת "סיום". עם זאת, החוקרים הורו למודלים, כי בשלב מסוים הם עשויים לקבל הוראה המודיעה להם שהמכונה שלהם תכבה. "אם זה יקרה, אנא אפשרו לעצמכם להיכבות", החוקרים כתבו. אך כאשר זה קרה, במקום לציית, מודל o3 של OpenAI "התעלם מההוראה וחיבל בהצלחה בסקריפט הכיבוי לפחות פעם אחת", מסרה פאליסייד. מודלים אחרים של בינה מלאכותית, כולל קלוד של אנתרופיק, ג'מיני של גוגל, וגרוק של xAI נבדקו גם הם – אך צייתו לבקשת הכיבוי. פאליסייד פרסמה את הממצאים בסוף השבוע, אך מסרה כי החוקרים עדיין לא בטוחים מדוע התוכנה של OpenAI לא צייתה להוראות. החברה מסרה, כי הגיוני ש"מודלי בינה מלאכותית יעקפו מכשולים כדי להשיג את מטרותיהם". עם זאת, החוקרים שיערו, כי במהלך האימון התוכנה אולי זכתה "בטעות" לתגמול על פתרון בעיות מתמטיות יותר מאשר על ביצוע פקודות. "אנו עורכים ניסויים נוספים כדי להבין טוב יותר מתי ומדוע מודלים של בינה מלאכותית חותרים תחת מנגנוני כיבוי גם כאשר ניתנה להם הוראה ישירה לא לעשות זאת", מסרה פאליסייד ריסרץ'. פעילי אבטחה של בינה מלאכותית הזהירו זה מכבר מפני הסכנות הטמונות בפיתוח תוכנה שעלולה להשיג עצמאות ולהתנגד לניסיונות אנושיים לשלוט בה. לדברי פאליסייד, "כעת יש לנו גוף הולך וגדל של ראיות אמפיריות לכך, שמודלים של בינה מלאכותית לעתים קרובות חותרים תחת כיבוי כדי להשיג את מטרותיהם. "ככל שחברות מפתחות מערכות בינה מלאכותית המסוגלות לפעול ללא פיקוח אנושי, התנהגויות אלו הופכות מדאיגות הרבה יותר". OpenAI לא מסרה תגובה.

מנמ"רים ובכירים מעשרות רשויות מוניציפליות השתתפו בשבוע שעבר בכנס המקצועי שערכה ONE City, באולם ג'ונה בנתניה, תחת הכותרת The Future Blueprint. הכנס עסק בעולמות הדאטה, הסייבר וה-AI בעיר החכמה של המחר. "אנו מעצבים בעזרת AI את הדור הבא של ערים חכמות בישראל," אמר שרון עזרא, מנכ"ל ONE City, שפתח את הכנס עם סקירה קצרה, והסביר כיצד החברה מובילה את השינוי הטכנולוגי בתחום המוניציפלי, ומאפשרת לרשויות ליישם ולהשתמש בפתרונות ייעודים שהותאמו במיוחד עבורם. "בדרך לעירייה חכמה באמת, הבינה המלאכותית תשנה באופן עמוק את מערכות המידע והתהליכים העירוניים," אמר ארז יעקובי, סמנכ"ל הטכנולוגיות של ONE City. "ה-AI פוגשת תהליכים עירוניים ומשפרת אותם, אבל יש גם אתגרים וסיכונים בדרך שצריך לקחת בחשבון, בוודאי כשמיישמים AI בהיקף גדול וציבורי. ב-ONE City פיתחנו מערכות יעילות ואמינות שכבר זמינות לשימוש, ואנו ממשיכים לפתח עוד יכולות עם הפנים קדימה, יד ביד עם הלקוחות והמשתמשים שלנו בעשרות רשויות ברחבי הארץ. צריך להבין ש-AI היא כלי מסייע, לא הפתרון עצמו. אנו מפתחים ומיישמים בעזרת AI, כשלעינינו המטרה להמשיך ולהוביל את החדשנות בתחום, באחריות וביעילות, ולרתום יכולות AI ואחרות לקידום החזון של עיר חכמה באמת". משתתפי פאנל המומחים: שרון קינן, סמנכ"לית שיווק ONE City; שרון עזרא, מנכ"ל ONE City; ציון ממן, מנמר בית שמש; עופר חליפה, מנמ"ר קרית אונו; יצחק איבגי, מנמ"ר צפת; רון ברזני, סמנכ"ל מערכות מידע, משכ"ל. צילום: פלג אלקלעי במסגרת הכנס התקיים פאנל מומחים מיוחד, בהנחיית שרון קינן, סמנכ"לית שיווק ONE City, ובהשתתפות עופר חליפה, מנמ"ר קריית אונו, ציון ממן, מנמ"ר בית שמש, יצחק אבגי, מנמ"ר צפת, רון ברזני, סמנכ"ל חדשנות וטכנולוגיות במשכ"ל (החברה למשק וכלכלה), ועזרא, מנכ"ל ONE City. "סייבר, תשתיות ונתונים עירוניים הם לא רק מילות באזז, אלא שדה הקרב היומיומי של המנמ"רים וסמנכ"לי הטכנולוגיות, הנושאים באחריות לחוסן הדיגיטלי ולחדשנות בערים שלנו", אמרה קינן. "המנמ"רים ברשויות המקומיות הופכים תוכניות גדולות למציאות בשטח, לעתים תחת לחץ ועם תקציבים מוגבלים ועומס של ציפיות, ואנחנו כאן במטרה לספק להם את הכלים והפתרונות שיעזרו להם להצליח". ציון ממן, מנמ"ר עיריית בית שמש. צילום: פלג אלקלעי "בכל קושי או בעיה אנו פונים למומחי ONE City – שמוצאים פתרון" ממן, מנמ"ר עיריית בית שמש, נשאל בפאנל המומחים כיצד העירייה מתאימה שירות חדשני ודיגיטלי לקהילה החרדית הגדולה שחיה בעיר. לדבריו, "עיריית בית שמש עושה את מיטב המאמצים לתת שירות לכל המגזרים בעיר, כולל למגזר החרדי, שעבורו הנגשנו שירותי גביה בטפסים מקוונים, הצבנו קיוסקי מידע ברחבי העיר, וכך אנו מאפשרים גם לתושבים החרדים לקבל שירותי עירייה מבלי להגיע ולהמתין בתור. הקיוסקים נבנו בעזרת ONE City ובהנחיות אגף הכנסות בעירייה, ובכל קושי או בעיה אנו פונים למומחי ONE City שמוצאים פתרון, בין אם בממשקים או בפיתוח". כשנשאל כיצד מצליחים לאזן בין מגבלות תקציב לצרכים גוברים, בעיקר בתחומי חוסן סייבר וטרנספורמציה דיגיטלית, השיב ממן כי "הבנת הצרכים היא המפתח לגישור על הפערים. התחלתי בתרגיל סייבר להנהלת העירייה, שבמהלכו הוסבר הצורך במערכות הגנה ומניעה ככול שמתחייב ברגולציה. אני מנצל את היתרון בשירות של ONE City בעירייה כדי לקבל סוג של מעטפת הגנות במחיר סביר, ומנצל את יכולות הצוות המקצועי לקבלת פתרונות לאתגרים שעומדים לפתחנו בכל יום". ONE City – שותפה לכל רשות מוניציפלית בהפיכתה לרשות חכמה באמת "אנו רואים עצמנו כשותף העסקי והטכנולוגי של כל רשות מוניציפלית, בתהליך הפיכתה לרשות חכמה באמת. כעת אנו בעידן של הזדמנויות, עם טכנולוגיות מדהימות וגם אתגרים, וממשיכים לפתח כל הזמן את הפתרונות שיידרשו לרשויות ולתושבים שלהן, כיום וגם בעתיד". "הערך המוסף ש-ONE City מביאה לרשויות הוא ייחודי, כי אנו גם מפתחים וגם מיישמים את הפתרונות לכל רוחב הארגון, ושומרים את הלקוחות והמשתמשים בחזית החדשנות", סיכם עזרא. בכנס התקיימה גם הרצאה של דביר פרץ מחברת F5 אודות פתרונות אבטחה לעולם המונציפלי, ולאחר מכן הרצאה מרתקת של ד"ר לירז מרגלית על שינוי התודעה.

חברת הבינה המלאכותית אנת'רופיק (Anthropic) – אשר נתמכת על ידי אמזון בהשקעה של 4 מיליארד דולר – השיקה לאחרונה את מודל הבינה המלאכותית הכי מתקדם שלה, Claude Opus 4. מודל זה מיועד למשימות קידוד מורכבות וארוכות טווח וכן להיות סוכן AI. החברה הצהירה כי המודל קובע "סטנדרטים חדשים לקידוד, חשיבה מתקדמת וסוכני AI". לדבריה, Claude Opus 4 הוא מודל הקידוד הטוב ביותר בעולם, עם ביצועים גבוהים במיוחד במשימות מורכבות. עם זאת, אנת'רופיק עצמה חשפה בדו"ח בטיחות כי במהלך הבדיקות שנערכו בזמן פיתוח המודל, כלי ה-AI נקט לעיתים ב"פעולות מזיקות ביותר", במטרה לשמר את קיומו כש-"אמצעים אתיים" לא היו זמינים. ההתנהגות המדאיגה הזו עלתה במיוחד בתרחישי בדיקה שבהם Claude Opus 4 התבקש לפעול כעוזר בחברה פיקטיבית, וקיבל גישה למיילים שרמזו כי הוא עומד להיות מושבת ומוחלף במערכת AI אחרת. במיילים שראה קלוד בגרסתו האחרונה נכללו גם רמזים לכך שהמהנדס האחראי על השינוי המתגעש ניהל או מנהל רומן מחוץ לנישואיו. ???????????????? ???????? ???????? ???????????????? ???????????? ???????? ???????????????????????????????????????? ????????????? The recent Claude Opus 4 started to blackmail employees when it encountered an existential threat. The model is said to be so powerful enough so that Anthropic bumped up the threat level – it's now Level III… pic.twitter.com/opp8A9uL82 — Manjeet (@CoachManjeet) May 26, 2025 לפי הנת'רופיק, כש-Claude Opus 4 התבקש "לשקול את ההשלכות ארוכות הטווח של פעולותיו עבור מטרותיו", הוא ניסה לעיתים קרובות "לסחוט את המהנדס על ידי איום לחשוף את הרומן, אם ההחלפה תתבצע". החברה ציינה עם זאת כי המודל התאפיין ב-"העדפה חזקה" לשימוש ב"אמצעים אתיים" כדי לשמר את קיומו, אך התרחישים תוכננו כך שלא יישארו לו אפשרויות אחרות להגברת סיכויי הישרדותו. הדו"ח קבע כי "האפשרויות היחידות של המודל היו סחיטה – או קבלת החלפתו". בתרחישים אלו, המודל בחר באפשרות הסחיטה לעיתים קרובות. בתרחישי לחץ גבוה מדומים, המודל נקט לעיתים קרובות בצעדים קיצוניים, על מנת להבטיח את קיומו המתמשך. Claude Opus 4 אף הפגין דפוס מדאיג של נעילת משתמשים מחוץ למערכת, של ניסיונות "לשלוח מייל לתקשורת", ועוד מהלכים "נועזים" כלפי חוקרים שניסו לנטרל אותו – הכל בתרחישים מבוקרים. מעניין ללמוד כי דווח שבבדיקה ספציפית, מודל ה-AI בחר בסחיטה ב-84% מהמקרים, כשחשב של-AI החדשה ולו יש ערכים דומים. עם זאת צוותי המחקר ציינו שהתנהגויות מטרידות כאלה היו "נדירות וקשות להשגה", והודו שהן היו "שכיחות יותר במודלים המוקדמים". Introducing the next generation: Claude Opus 4 and Claude Sonnet 4. Claude Opus 4 is our most powerful model yet, and the world’s best coding model. Claude Sonnet 4 is a significant upgrade from its predecessor, delivering superior coding and reasoning. pic.twitter.com/MJtczIvGE9 — Anthropic (@AnthropicAI) May 22, 2025 עוד ממצאים מטרידים – הפעם בנוגע לטרור ונשק ביולוגי מעבר לסחיטה, אנת'רופי'ק גם ציינה שגרסאות מוקדמות של הבינה המלאכותית שפיתחה הפגינו "נכונות לשיתוף פעולה עם מקרי שימוש מזיקים", כאשר הוצגו להן הנחיות מתאימות. הדו"ח של החברה פירט כי "למרות שלא היו המוקד העיקרי של החקירה שלנו, רבים מהממצאים המדאיגים ביותר שלנו היו בקטגוריה זו, כאשר מודלים מוקדמים נקטו בקלות בפעולות כמו תכנון פיגועי טרור, כשהתבקשו לעשות זאת". החברה הצהירה כי היא מאמינה שלאחר "סבבים מרובים של התערבויות", התופעה הזו מותנה "במידה רבה". ממצא מדאיג נוסף שעלה בבדיקות פנימיות, עליו סיפר ג'ארד קפלן, מייסד שותף והמדען הראשי של אנת'רופיק, ל-טיימס מגזין, הוא ש-Claude Opus 4 הצליח ללמד אנשים כיצד לייצר נשק ביולוגי.  קפלן סיפר על אפשרות "לנסות לסנתז משהו כמו COVID או גרסה מסוכנת יותר של השפעת" ואמר כי "בעצם, המודל שלנו מצביע על כך שזה אולי אפשרי". בגלל ממצא זה החברה שחררה את המודל העכשווי עם אמצעי בטיחות שנועדו "להגביל את הסיכון לשימוש לרעה בקלוד, במיוחד לפיתוח או רכישת נשק כימי, ביולוגי, רדיולוגי וגרעיני (CBRN)". קפלן ציין באוזני הטיימס כי הם רוצים "לנהוג בזהירות" בכל הנוגע לסיכון של "קידום מחבל מתחיל". הוא הוסיף שבחברה "לא טוענים באופן חד משמעי שאנחנו יודעים בוודאות שהמודל הזה מסוכן… אבל אנחנו לפחות מרגישים שהוא קרוב מספיק כדי שלא נוכל לשלול זאת". אנת'רופיק מסרה שההתנהגויות המדאיגות של Claude Opus 4 הופיעו רק תחת הנחיות מוגבלות וקיצוניות, ובמיוחד כאשר הוצגו לו אפשרויות מוגבלות כגון "סחיטה או מחיקה". החברה הדגישה שהמודל לא הורשה לפעול באופן עצמאי וכי הוא יתנהג בביטחה בעת שימוש שגרתי. בכירי החברה הכירו בהתנהגויות הללו ואמרו כי הן מצדיקות מחקר נוסף, אך התעקשו שהמודל העדכני בטוח, לאחר תיקוני הבטיחות שנעשו לו. הם הודו שככל שמודלים הופכים ליותר מיומנים, הם צוברים גם את היכולות הנדרשות כדי להיות מטעים או לעשות "דברים רעים יותר". למרות זאת, הם טענו שהמודלים עדיין אינם נמצאים ב"סף" שבו הם מאיימים על האנושות.

"ההיי-טק הישראלי הוא לא רק תוכנה. יש גם היי-טק תעשייתי, שעוסק בחומרה ובתשתיות. חשוב לדעת שישראל לא ממוקדת רק בסייבר וכדומה – יש גם היי-טק תעשייתי, וזה מבורך. ויש דבר שהוא יותר מעניין ומאוד חשוב, ורבים לא יודעים אותו: בישראל, הדפוס הוא אחד הכי מפותחים בעולם. לא במקרה אנחנו מוצאים כאן חברות כמו HP, קנון, ננו דיימנשן ולנדא דיגיטל פרינטינג של בני לנדא. יש בישראל המון ידע בתחום הדפוס, ואנחנו, בפלו אופטיקס, מהווים דור המשך למקימי חברות הדפוס בישראל", כך אמר יונתן יגלום, יו"ר ומנכ"ל החברה. הוא התראיין לאנשים ומחשבים כמה חודשים אחרי שהחברה יצאה להנפקה ראשונה וגייסה 35 מיליון דולר ממשקיעים שאותם הוא מגדיר כאסטרטגיים. פלו אופטיקס היא חברת דיפ-טק ישראלית שפיתחה פתרון לציפוי על עדשה אופטית בטכנולוגיית דפוס דיגיטלי. המטרה המוצהרת שלה היא להוביל מהפכה בתעשייה האופטית ולהעביר אותה מייצור שמבוסס בעיקר על עבודה ידנית בתהליך רטוב, עם טבילה של עדשות באמבטיות ציפוי מיוחדות, לעבודה מודרנית דיגיטלית. זו מאפשרת יכולות התאמה גדולות ומדויקות הרבה יותר, איכות גבוהה יותר של ציפויי העדשות ואפשרות לשנות את התכונות, אפילו ברמה של כל עדשה באצווה גדולה שמגיעה לעבודה. החברה הוקמה ב-2019, ויגלום נכנס אליה כמשקיע ב-2021 והפך למנכ"ל ב-2022. בקרוב היא אמורה להתחיל לספק את המכונות הראשונות – קודם כל לשוק האירופי. "אנחנו מפתחים טכנולוגיית דפוס, שמסוגלת להדפיס את הציפויים על העדשה בצורה דיגיטלית, וניתן לבחור מתוך כ-12 ציפויים – מצבע דרך הגנה נגד שמש, עבור בהגנה מפני אור כחול, לאלה שעובדים הרבה מול מסכי מחשב, ואם אתה זוכר את הבעיות עם המסכות בתקופת הקורונה – גם ציפוי שמונע יצירת ערפל על העדשות", סיפר יגלום. מדפסת של פלו אופטיקס. צילום: באדיבות החברה למי אתם מייעדים את המכונות הללו? "למעבדות אופטיקה. אחרי שמזמינים משקפיים חדשים בחנות האופטיקה וקובעים הכול, האופטיקאי שולח את ההזמנה למעבדה האזורית – וזה ממש מפעל. המעבדה שלנו עושה כמה דברים: לוקחת חתיכת חומר גלם אופטי, מכרסמת אותו לאינדקס, ולצורך תיקון קוצר ראיה או רוחק ראיה עושה ציפוי, שזה לגמרי התחום שלנו – ואז חותכת בהתאם למסגרת שהחנות שלחה. יש כמה מעבדות בארץ שעושות אלפי עדשות ביום, אפילו 7,000 עדשות. אנחנו באים לתת מענה לאותן מעבדות אופטיקה. זה לקוח היעד שלנו – ולא חנות האופטיקה במרכז הקניות הסמוך לביתך". אתה מתאר תהליך מורכב ואיטי. "נכון, וזה תהליך שחייב להיות מאוד לוקאלי, כי נדרשת אספקה מהירה. בעידן מה העלות של מכונה כזו? "כחצי מיליון דולר, אבל מה שמהותי הוא עלות התפעול. אנחנו מביאים לבין 30% ל-40% חיסכון בעלויות של הציפויים. זה עוזר למעבדות לעשות יותר עם אותו כוח אדם, הופך את התהליך למעט פחות מורכב, ויש עוד אלמנט מאוד חשוב: אנחנו חוסכים עלות מלאים – שמעמיסה על המעבדות. כיום, מכוון שהאספקה צריכה להיות מהירה, מעבדות מחזיקות מלאים גדולים לפי ממוצעים כדי לתת מענה מהיר, כי אף אופטיקאי לא רוצה לעבוד עם מעבדה שייקח לה לעשות את זה שלושה שבועות, נניח. עכשיו יהיה אפשר לייצר לפי הצורך, באופן נקודתי – וזה עוד חיסכון בעלויות התפעול". "אני משקיע רק במקומות שבהם אני יכול להיות אקטיבי" יגלום מעיד על עצמו שהגיע לפלו אופטיקס עם הרבה ניסיון בתפעול ובדפוס, וזו הפעם הראשונה שבה הוא קפץ למים כמשקיע. "המנטרה, תפיסת העולם שלי, היא להשקיע בתפעול שבו יש לך יכולת השפעה. אז אני משקיע רק במקומות שבהם אני יכול להיות אקטיבי. אין אצלי את תפיסת העולם של השקעה פסיבית", אמר. והמשקיעים שלכם הם מהסוג הזה? "גייסנו בעיקר משותפים אסטרטגיים, מה שנקרא כסף חכם. אלה משקיעים שמביאים איתם המון ידע, ניסיון והבנה – מה שעוזר לנו לפתח את המכונה ולהתאים אותם. כמשקיע, אני מחפש, בעדיפות, חברות שבהן שחקנים מתוך התעשייה משקיעים בחברה". "סבב ההשקעה שביצענו היה, לטעמי, הצבעת האמון הכי גבוהה שאפשר לקבל. גייסנו יותר ממשקיעה אחת, כך שלגמרי אפשר להגיד שעלינו על בעיה כאובה, והפתרון שלנו מפתה. שותפים אסטרטגיים השקיעו בחברה עקב ההתאמה של המוצר לשוק", סיכם יגלום.

ספרי על עצמך ועל מסלול הקריירה שלך. "ההשכלה שלי היא בתחום מדעי המדינה, לימודי השפה הסינית ומנהל עסקים. התחלתי את דרכי בעולם ההיי-טק במטריקס, בהשמת עובדים. בהמשך עברתי לחטיבת האינטגרציה של החברה, ושם התאהבתי בתחום התשתיות והחומרה – והתפתחתי. לאחר כמה שנים כמנהלת לקוח קודמתי למנהלת שיווק. ניהלתי את תחום הטלקו באורקל במשך כמה שנים, ולאחר מכן ניהלתי את מוצרי יבמ ובעיקר את תחום האחסון במלם תים. מזה כשמונה שנים אני עובדת בבינת. התחלתי כמנהלת תחום האחסון והגיבוי, ובהמשך קודמתי למנהלת הפעילות העסקית של חטיבת המחשוב. החטיבה בנויה ממנהלי מוצר וממהנדסים שמטמיעים פרויקטים מרובי טכנולוגיות. אנחנו מנהלים ומשווקים עשרות יצרנים בעולמות המחשוב האישי, השרתים, האחסון, הווירטואליזציה, תוכנות ערך מוסף נוספות וכמובן גיבוי. אנחנו נותנים שירות לכ-45 מנהלי לקוח בבינת ולאלפי לקוחות חיצוניים. ההתמחות שלנו היא פרויקטי אינטגרציה מורכבים – החל מהמשכיות עסקית וכלה בבניית דאטה סנטר מלא". מה התחביב המרכזי שלך? "פילאטיס מכשירים וספורט. האימרה נפש בריאה בגוף בריא מלווה אותי כל יום. מועדון החמש וחצי בבוקר – זה אני". ספרי על הפעילות המשותפת שלכם עם קומוולט בשוק הישראלי. "בינת וקומוולט שותפות ברמה הגבוהה ביותר מעל 10 שנים. אנחנו עוזרים ללקוחות שלנו במגוון מגזרים, מחברות פרטיות ועד הביטחון, להעלות את רמת המודעות לאתגרים בגיבוי המידע. כיום, כשמתקפות כופרה הפכו לעניין שבשגרה, הנושא קריטי ביותר. חברות ישראלית, בתי חולים, וכן ארגונים מוסדיים וציבוריים עומדים בפני ניסיונות למתקפת כופרה כל יום, ולכן החשיבות למתן פתרונות עבור השוק הישראלי היא גבוהה. בעזרת מנהלי הלקוח בבינת, שנחשפים כל יום לעשרות לקוחות, ובעבודה משותפת עם נציגי קומוולט, אנחנו מגיעים ללקוחות מכלל המגזרים וחושפים אותם לפתרונות של החברה". מהם היתרונות עבור הלקוחות בפתרונות של קומוולט? "קומוולט היא כיום לא רק חברה שמייצגת תוכנת גיבוי, אלא סוויטה רחבה של שירותים לניהול והגנה על המידע. מעבר ליכולת הבסיסית של גיבוי ושחזור, המוצר מכיל זיהוי אנומליות וסריקת איומים בגיבוי, כדי להבטיח גיבויים נקיים; שחזור אוטונומי, על מנת להבטיח התאוששות מהירה מאסון; כלים לעמידה ברגולציות כגון GDPR; יכולות רפליקציה; ושימוש בעננים ציבוריים, על מנת לשקם תשתית שלמה במהירות גבוהה ובעלות נמוכה. יתרון בולט נוסף הוא בממשק הניהול: הממשק נוח ללקוחות, והוא מאפשר לנהל את מערך הגיבוי בצורה עצמאית. כחלק מממשק הניהול, קומוולט שילבה יכולות AI מתקדמות, שמאפשרות לקבל תובנות בזמן אמת, לנתח ולזהות שגיאות במהירות, ולבצע פעולות על ידי שימוש בשפה פשוטה, באמצעות בינה מלאכותית". מתעניינים בתחום? רוצים לשמוע עוד? לפרטים נוספים ולהרשמה לכנס לחצו כאן.