"כשלמדתי משפטים, ביקרתי באחד מאולמות בית המשפט. ראיתי איך עבודת הקלדנות לא עובדת כמו בסרטים: בכל פעם שמישהו התפרץ לדברי האחר, הדיון עוכב והואט. השופט מצא עצמו בחלק מהדיון עסוק בבקרת איכות לקלדנית. אז הבנתי שבעולם 'דיבור לטקסט' (Speech-to-text), לתמלול – של דיונים, ראיונות ושיחות במוקדי שירות לקוחות – יש ערך. התמלול, בשילוב AI, מהווה תשתית המאפשרת לחלץ יותר תובנות וערכים עסקיים", כך אמר אשר קנינו, מנכ"ל Sumit-AI. Sumit-AI – חברת הזנק לתחום הבינה המלאכתית – הוקמה ב-2021, על ידי קנינו, המנכ"ל, בר לוי, סמנכ"ל התפעול והמוצרים, שלומי פרץ, סמנכ"ל הטכנולוגיות, ודן עובדיה, סמנכ"ל המו"פ. Sumit-AI פועלת בעולם המרת דיבור-לטקסט עם יכולת דיוק מהגבוהות שיש, הבנה מעמיקה בבלשנות עברית ותמלול מבוסס AI. החברה פיתחה מערכת מתקדמת לזיהוי דיבור, המותאמת לשפה העברית, כולל פונטיקה ייחודית, גרסאות של הגיות וניבים, ומיקוד בהבנה מבוססת הקשר (קונטקסט). החברה ממוקמת בהרצליה ובירוחם ומונה עשרות עובדים. בין מאות לקוחותיה נמנים משרדי ממשלה וארגונים מהמגזר הציבורי, עשרות רשויות מקומיות ופירמות עורכי דין. מאז אוגוסט השנה, נספרו (NessPRO), קבוצת מוצרי התוכנה של נס, מייצגת את Sumit-AI בישראל. תוצר תוכן ברמת דיוק גבוהה הרבה יותר – בעברית טבעית "התמלול, ציין קנינו, "מהווה תשתית ארגונית, וככזה, הוא נכון לכל שפה. יש הרבה מנועי תמלול בעולם, אבל בעברית זה לא עובד מספיק טוב". "התחלנו להציע ב-2021 שירותי תמלול מסורתיים – הקלטה וכתוביות", סיפר קנינו. "למדנו את השוק והטכנולוגיות שנלוות לו, ועמדנו על הרגליים כלכלית – כבר מההתחלה. השקנו את המוצר בסוף 2024, לאחר שלוש שנות לימוד ומחקר מעמיקים". "אז, הוסיף, "באה לעולם הבינה המלאכותית היוצרת (GenAI) ושינתה הכל: השילוב של תמלול עם מודלי שפה גדולים (LLMs), הביא לתוצאות מדויקות יותר. כך – אנו לא מתחרים בענקיות הטק עם המודלים שלהן, אלא מתממשקים אליהם ומסייעים להביא תוצר תוכן ברמת דיוק גבוהה הרבה יותר, בעברית טבעית. בסופו של יום, הכל הוא פונקציה של דאטה ומיקוד. ענקיות הטק לא משקיעות בעברית, כמו שהן לא משקיעות בוולשית, למשל. התשתית שבנינו הקפיצה אותנו עוד מדרגה". שת"פים עם זום ונספרו "זום (Zoom) פיתחו בעצמם מנועי תמלול בשפות רבות ולפני כמה חודשים ערכו עימנו שיתוף פעולה", סיפר קנינו. "מעבר לגאווה הישראלית, זו עדות להצלחה שלנו: הם בחרו בנו להעמקת ההתבססות שלהם בתמלול בשפה העברית. זו הפעם הראשונה שמפתחת פלטפורמת התקשורת הפופולרית נכנסת למהלך שכזה עם סטארט-אפ ישראלי. כך, אנשי מקצוע, ארגונים ממשלתיים, גופים מסחריים, סטודנטים ובעלי עסקים דוברי עברית – יקבלו גישה מיידית לתמלולים ולסיכומי פגישות מתקדמים בעברית. זה משפר את הנגישות של עוד קהלים לפלטפורמה". "ההחלטה להשקיע בתשתית AI בשפה העברית הוכיחה את עצמה וההשפעה על המשתמשים תורגש, החל מתלמידים וסטודנטים בבתי-ספר ובאקדמיה דרך מוסדות ממשלתיים ובאינספור עסקים, גדולים וקטנים", אמר קנינו. "הפתרון שלנו מתמודד בהצלחה רבה עם מורכבות השפה העברית ומאפשר תמלול פגישות ושיחות מוקלטות ובזמן אמת, מהן ניתן ליצור סיכומים מעולים ולנתח תקשורת בדיוק ובקלות. משתתפי פגישות וירטואליות שונות מקבלים תמלולים מדויקים של דיונים, כולל זיהוי דוברים ויכולות חיפוש חכמות. סיכומי הפגישות מספקים סקירה תמציתית של נקודות מפתח, החלטות ופריטי פעולה להמשך. אנו יכולים לסייע גם למחנכים ואוניברסיטאות, לסטודנטים עם מוגבלויות, לתמוך בלמידה מרחוק וגם לעזור לאנשי מכירות להתנהל יעיל יותר". "במסגרת שיתוף הפעולה עם נספרו", אמר קנינו, "אנו מסייעים במכירה ובהטמעות המוצר שלנו בארגונים גדולים, ומעניקים סביב הפתרון, שירותי תמיכה והטמעה של המוצר". "הטכנולוגיה לא רק חוסכת זמן ומאמץ, אלא גם משפרת את הבהירות והאפקטיביות של התקשורת", סיכם קנינו. "אנחנו ממשיכים לפעול בשני צירים: האחד התשתיתי, נערוך שיתופי פעולה עם חברות נוספות בדומה לזום, כי אנחנו מציעים להן ערך מוסף משמעותי. השני, פיתוח עוד מוצרים. ב-2026 נכפיל להערכתי את היקף הפעילות שלנו, עם מיקוד במוצר שלנו לעולם הארגוני – MUST, כדי להעצים את החברות בעולם עם תמלול חכם ומדויק".

אודו שניידר מודאג. אודו שניידר הוא חוקר אבטחה, איש חברת האבטחה הגלובלית טרנד מיקרו, וההתמחות הספציפית שלו היא AI והשימושים (הנלוזים) שעושים בבינה מלאכותית פושעי סייבר כדי להונות, לרמות ולהפיל אנשים תמימים בפח. ישבתי איתו לשיחה בסניף החברה באירלנד, שם התקיימה בשבוע שעבר תחרות ההאקרים PWN2OWN, שטרנד מיקרו מארגנת כבר שנים רבות ושהיא אירחה אותי בה. לצערי, שניידר איננו איש בשורות. למעשה, התחזיות שלו די מפחידות. איך האקרים משתמשים בבינה מלאכותית, מעבר להגדלת קנה המידה של ההתקפות? מה היקף האיומים שמבוססים על בינה מלאכותית? שניידר: "מבחינה צרכנית, מדובר בשני דברים – קודם כל, שימוש במודלי שפה גדולים כדי לייצר כל סוג של תוכן לקמפיינים פליליים, בין אם אלה מיילים לפישינג, תרמיות התחזות לתמיכה טכנית, הודעות SMS ואתרי פישינג שלמים. המודלים מחקים את הדרך שבה אנחנו כותבים, ולכן הם טובים בזה בכל שפה. שנית, האפקט הוא בעיקר, כמו שאמרת, הגדלת קנה המידה של ההתקפות: אפשר לייצר תוכן פעם אחת ולהפוך אותו לתוכן בשפה מקומית, בלי מתרגם אנושי – מה שמאפשר לפושעים להתרחב לשווקים ולשפות אחרות בקלות". רגע, אבל האם זה גם מחליף את הצורך בהבנת התרבות והניואנסים של מדינת היעד? "לחברות לגיטימיות חשוב שהמסר יהיה מותאם תרבותית. לפושעים זה פחות קריטי. הם שולחים המון הודעות, ובעזרת בינה מלאכותית אפשר ליצור מסר שמרגיש אותנטי ולמקד את המתקפה לפי גיל וסגנון, בלי שצריך כותב אנושי. מספר קטן של קורבנות שייפלו בפח הוא מספיק". אז ה-AI עוזרת לשפר את האמינות של המתקפות? כלומר, לגרום לקורבן להאמין שמדובר בבן אדם אמיתי? "מודלי שפה מאפשרים גם למי שאין לו כישורי כתיבה להתאים טון, סלנג, גיל ואישיות (של הדמות – נ"ל). זה מייצר מסרים משכנעים יותר. בעבר, היית צריך בשביל זה כותב טוב. עכשיו אתה מקבל איכות גבוהה בלי ידע מיוחד – ובקלות אפשר לשכפל את זה לקבוצות שונות". דיפ פייק בווידיאו הוא כבר דבר של מה בכך. צילום: ShutterStock מה לגבי דיפ פייקים בווידיאו ובקול? עד כמה זה מסוכן בפועל? "לא ניתן לסמוך על שום דבר שמועבר אלקטרונית. דיפ פייק קולי הוא כבר סטנדרט בטכנולוגיות של מרכזי תמיכה ודיפ פייק של וידיאו הוא דבר שכבר אפשר ליצור מקומית על מחשב נייד עם מודלים קטנים – ומספיקה תמונה אחת! לצורך העניין, קשה בשיחת זום להבחין האם מדובר באיכות נמוכה בגלל בעיות חיבור, מצלמה חלשה או זיוף אמיתי". מה אפשר לעשות כדי להתגונן? "יש לשקול מנגנוני אימות אנושיים: מילות ביטחון סודיות בתוך המשפחה ודרכי אימות חיצוניות במצבים קריטיים. אבל זה לא פתרון מושלם. סיסמאות נכתבות במקומות וניתנות לגניבה. קשה ליישם את זה בקנה מידה ארגוני בלי לפגוע בשימושיות". איך אתה רואה את הפיכת ה-AI לנשק בידי מדינות לאום ושחקנים בעלי משאבים? "הדאגה הגדולה שלי היא קבלת החלטות אוטונומית, כגון החלטות רפואיות ושימוש בנשק אוטונומי. אם מערכת מקבלת החלטות שגויות ומאחורי החלטה כזו אין מי שאחראי, נוצרת בעיה אתית ומעשית. דיוק של 99% נשמע אולי טוב, אבל בקנה מידה גדול, המשמעות של זה היא נזק והרס". ומה לגבי מתקפות על מערכות הבינה המלאכותית עצמן? "יש מחקר עדכני שמראה שאפילו כמות קטנה של 'מסמכים מזוהמים', בערך כמה מאות, יכולה להטות מודל גדול. אם אתה מצליח 'לזהם' את המאגרים שהמודל סורק, אתה יכול להטות תשובות ולגרום למודל לקבל את הטיעון שלך כנכון". איזו כמות של מסמכים דרושה כדי "להרעיל" מודל? "המחקר מצביע על כך שכ-250 מסמכים ממוקדים יכולים להספיק להשפעה משמעותית, בלי קשר לגודל המודל או לערכת האימון". "אל תסמכו על היכולת לזהות דיפ פייק", אומר שניידר. "המושג 'הזייה' מטעה. זה לא באג, אלא אופן הפעולה של המודל. הוא יוצר תשובות משכנעות, גם אם לא נכונות, ולכן איכות לשונית כבר לא מעידה על אמיתות". מה המשמעות של זה לציבור ולחינוך? "ישנה שחיקה בכישורי חשיבה ביקורתית. אנשים מסתמכים על מודלים במקום לחקור בעצמם, ולא תמיד יודעים להעריך איכות מקור". לסיכום, לדעתך, מה נדרש עכשיו? "לא לסמוך אוטומטית על תוכן אלקטרוני, לשלב תהליכי אימות אנושיים, להבין שמודלים יפיקו תשובות משכנעות גם אם הן שגויות ולא להניח שאיכות כתיבה משקפת אמת".    

שותפות חדשה בעולם הסייבר: IT Factory, זרוע ההפצה של בזק בינלאומי, מודיעה על שיתוף פעולה עם אקרוניס (Acronis), אחת מהחברות המובילות בעולם בתחום הגנת הסייבר, הגיבוי והתאוששות ממשברים. במסגרת שיתוף הפעולה, IT Factory תציע לשוק העסקי, בדגש על סגמנט ה-SMB (ארגונים קטנים ובינוניים), את סל הפתרונות והשירותים המתקדמים של אקרוניס השווייצרית, בהתאמה אישית לפי הצורך […]

"על ארצות הברית להתמודד באופן מוגבר עם הניסיון של סין ליצור מכל הגלובוס 'מדינת מעקב', ובמקום זאת עליה 'לדחוף' ערמת טכנולוגיה אמריקנית, כזו שתהיה נקייה ותוטמע ברחבי העולם", כך אמר שון קיירנקרוס, מנהל הסייבר הלאומי של ארצות הברית (ONCD), בכנס שנערך בסוף השבוע בוושינגטון. "חשוב שנשלח את המסר הזה ונתקשר לא רק עם שותפינו הנוכחיים, אלא גם עם שותפים פוטנציאליים שמחפשים סיוע ופתוחים לעזור בהקשר זה". "נתמקד באיום הסיני", ציין קיירנקרוס. "עד כה, ארצות הברית לא עשתה עבודה נהדרת בשליחת המסר הזה, במיוחד לסין. דפוס ההתנהגות של סין במרחב הסייבר לא מקובל על אמריקה. הפעילות הזו נועדה להזיק לנו. סין 'יושבת' על מערכות התשתית הקריטיות שלנו ומאיימת להשליך אותנו לתוך כאוס". "המאבק בסייבר מול סין", אמר ראש ה-ONCD, "מכניס את ארצות הברית לדילמות אסטרטגיות, שמשפיעות על קבלת ההחלטות במדינה. הפעילות מול בייג'ינג מתרחבת. המצב הזה דורש אתחול מחדש, איפוס – כדי שתהיה יציבות אסטרטגית בתחום". אסטרטגיית אבטחת סייבר לא מפורשת – במכוון לפי קיירנקרוס, "אסטרטגיית אבטחת הסייבר הלאומית של ארצות הברית תחת הנשיא דונלד טראמפ לא תהיה מפורשת כמו אצל קודמיו, וזהו מהלך מכוון. היא גם לא תתפרס על פני מסמך באורך של 100 עמודים. יהיו לנו פעולות המשך שיתמכו באסטרטגיה". ראש ה-ONCD החדש ציין כי העדיפות הראשונה שלו בתפקיד "תהיה לבסס ולחזק אותו כפי שהקונגרס והממשלה חשבו עליו כשהקימו אותו, כך שהוא יוכל למלא את תפקידו באופן אפקטיבי יותר". בשבוע שעבר קרא קיירנקרוס לקונגרס לחדש את "חוק שיתוף המידע לאבטחת הסייבר" מ-2015 לעוד עשור. תוקפו של החוק פג מוקדם יותר החודש – מה שעורר חששות בקרב מומחי אבטחת סייבר וגופים מהמגזר הפרטי, שטענו כי ההגנות המשפטיות של החוק חיוניות לצורך שיתוף נתונים אודות איומי סייבר. "צאר הסייבר" הקונגרס הקים את ה-ONCD ב-2020, רגע לפני שהנשיא לשעבר, ג'ו ביידן, נכנס לתפקידו. התפקיד, שכונה "צאר הסייבר", נועד לתאם את מדיניות אבטחת המידע והגנת הסייבר של הממשל בוושינגטון. יש לו חלק מרכזי בתיאום תגובת הממשל לפריצות גדולות בסייבר ולאיומים במרחב. מנהל הסייבר הלאומי מהווה יועצו הראשי של הנשיא לענייני אבטחת סייבר. קיירנקרוס היה בעבר מנכ"ל מילניום צ'אלנג' קורפוריישן – סוכנות סיוע חוץ שעובדת עם מדינות מתפתחות על צמיחה כלכלית וצמצום העוני. הוא היה גם סגן עוזר לנשיא, בממשל טראמפ הראשון, ויועץ בכיר לרמטכ"ל האמריקני. קיירנקרוס לא מילא תפקידים מרכזיים הקשורים לסייבר, אולם יש ברזומה שלו כמה תפקידים טכנולוגיים. מינויו לתפקיד אושר באוגוסט האחרון.

מאת הילל יוסף   "כחלק מתהליך המעבר לענן הממשלתי נימבוס והגברת השימוש בשירותי SaaS,  משרדי ממשלה רבים רוצים לשמוע על פתרונות אינטגרציה. אנו בשלבים שונים של הטמעת כלים של וורקאטו (Workato) בעשרה פרויקטים, בשבעה משרדי ממשלה – בהם מערך הדיגיטל הלאומי, המשרד להגנת הסביבה, משרדי החקלאות, העבודה והרווחה ומשרד ראש הממשלה", אמר בנצי ברנדס, סמנכ"ל חטיבת המוצרים באלעד מערכות. "להערכתי, ב-2026 נכפיל את היקף המשרדים שבהם תוטמע פלטפורמת האינטגרציה המובילה". "רוב הארגונים כיום", ציין, "כולל ארגוני ממשלה ומהמגזר הציבורי, פועלים באופן היברידי, ויש להם מערכות בעננים וגם און פרם, ב'קרקע'. בשל העבודה באופן משולב, עלה וגדל הצורך בפלטפורמת אינטגרציה, אשר משלבת בין מוצרי הענן שברובד 5 בענן הממשלתי נימבוס, ובין מערכות IT ישנות, שעל הקרקע". לדברי ברנדס, "משרדי הממשלה מבינים את היתרונות של וורקטו כפלטפורמת אינטגרציה Low Code מובילה, המאפשרת להטמיע תהליכי אוטומציה ואינטגרציה במהירות". לדבריו, "מאז שהכנסנו את וורקאטו לרובד 5 בנימבוס, ארגונים בוחרים בו כפתרון אינטגרציה בשל היתרונות הגלומים בו, כמו מהירות עלייה לאוויר, חיסכון במשאבי פיתוח, גמישות וקלות התפעול, אבטחת מידע והגנת סייבר, ניהול סביבות עבודה וניהול של כמה צוותי פיתוח – במקביל". ברנדס אמר, כי "חטיבת המוצרים היא הזרוע המשלימה של אלעד מערכות. במסגרתה החברה מייצגת ומטמיעה כלים ושירותים של חברות IT בינלאומיות, מובילות בתחומן". לדבריו, "אלעד פוגשת ארגוני ממשל ומגזר ציבורי ברבדים 3 ו-5 בנימבוס. ברובד 3 – על ידי חטיבת ה-CRM, Data, Digital בחברה, וברובד 5 – על ידי חטיבת המוצרים". ב-2020 אלעד מערכות רכשה את חברת סרוויסווייז (ServiceWise), שהקימו וניהלו במשותף ברנדס ועינת צור שיין. זו הפיצה את וורקאטו מ-2018 וכך, כיום אלעד היא השותף הגדול והמשמעותי של וורקאטו בישראל, ולה עשרות לקוחות ארגוניים מכלל מגזרי התעשייה. המערכת של וורקאטו, ציין ברנדס, "היא פלטפורמת אינטגרציה כ-שירות (iPaaS – Integration Platform as a Service) עננית, אשר מאפשרת, במודל של low-code, לחבר בין יישומים, שירותים, נתונים ותהליכים שונים, הנמצאים בענן או בסביבות מקומיות. ככזו, היא מספקת מעטפת אינטגרציה רחבה – להבדיל ממוצרים אחרים. לצד אינטגרציה, היא מעניקה גם יכולות של ניהול API להנגשה וניהול של API, כולל פורטל למפתחים, יכולות מתקדמות של גזירת ושליפת נתונים ETL/ELT, העברת נתונים במודל של Pipeline ועוד. כך, הפלטפורמה מאפשרת סנכרון בין מערכות, ייעול תהליכים ושיתופי פעולה חוצי ארגונים, ניהול אמת ארגונית אחת, אשר חוצה באופן רוחבי את כל מחלקות ויחידות הארגון. היא עושה זאת תוך צמצום משמעותי בעלויות ובהשקעה בפיתוח". ב-2024 בחר וורקאטו בחרה באלעד למכור רישוי בממשלה באופן בלעדי, ומאז הכניסה לרובד 5 השלימה החברה את התקנת המוצר במסגרת האזור הישראלי של AWS. "הדבר מעיד על הבעת אמון של החברה העולמית באלעד, השותפה שלה בישראל ובעיקר של הלקוחות המקומיים". הדור הבא של וורקאטו, סיים ברנדס, "הוא פלטפורמת אינטגרציה מבוססת בינה מלאכותית, המשלבת בין אוטומציה חכמה לבינה מלאכותית יישומית בצורה שמאפשרת לארגונים לבנות תהליכי אינטגרציה אוטונומיים ולא רק אוטומטיים. כך, נעשה שימוש בסוכנים שמבינים הקשר, מקבלים החלטות, לומדים מהנתונים הקיימים במערכות, כדי לבצע פעולות עצמאיות במערכות הקצה". ב-9 בנובמבר תערוך אלעד מערכות כנס למשרדי הממשלה בקריית ענבים.    

בהצהרה ישירה ומדאיגה של ענקית הבינה המלאכותית על קנה המידה של מעורבות הבינה מלאכותית בבעיות בריאות הנפש, פרסמה אתמול (ב') OpenAI בפוסט, כי יותר ממיליון משתמשי ChatGPT שולחים מדי שבוע הודעות הכוללות "אינדיקטורים מפורשים על תכנון או כוונה אובדנית פוטנציאלית". בנוסף להערכותיה לגבי מחשבות אובדניות ואינטראקציות קשורות, OpenAI מסרה גם, שכ-0.07 מהמשתמשים הפעילים בשבוע נתון – כ-560,000 מתוך 800 מיליון המשתמשים השבועיים המוערכים שלה – מראים "סימנים אפשריים למקרי חירום של בריאות הנפש בהקשרים של פסיכוזה או מאניה". בימים אלה החברה עומדת בפני בדיקה מורחבת בעקבות תביעה מתוקשרת מצד משפחתו של נער מתבגר שמת בהתאבדות לאחר מעורבות עמוקה עם ChatGPT. בנוסף, נציבות הסחר הפדרלית פתחה בחודש שעבר בחקירה מקיפה נגד חברות היוצרות צ'אטבוטים מבוססי בינה מלאכותית, כולל OpenAI, כדי לגלות כיצד הן מודדות השפעות שליליות על ילדים ובני נוער. OpenAI טענה בפוסט שלה, כי עדכון GPT-5 האחרון שלה הפחית את מספר ההתנהגויות הלא רצויות בהקשר למוצר שלה ושיפר את בטיחות המשתמשים לפי מודל הערכה שכלל יותר מ-1,000 שיחות על פגיעה עצמית והתאבדות. "ההערכות האוטומטיות החדשות שלנו מדרגות את מודל GPT 5 החדש בתאימות של 91% להתנהגויות הרצויות שלנו, בהשוואה ל-77% במודל GPT 5 הקודם", נכתב בפוסט של החברה. OpenAI הצהירה, כי GPT-5 הרחיב את הגישה לקווי חירום והוסיפה תזכורות למשתמשים לקחת הפסקות במהלך מפגשים ארוכים. כדי לשפר את המודל, החברה מסרה כי גייסה 170 קלינאים מרשת הרופאים הגלובלית שלה של מומחי בריאות כדי לסייע במחקר שלה בחודשים האחרונים, שכלל דירוג בטיחות תגובות המודל שלה וסיוע בכתיבת תשובות הצ'אטבוט לשאלות הקשורות לבריאות הנפש. "כחלק מעבודה זו, פסיכיאטרים ופסיכולוגים סקרו יותר מ-1,800 מודלים של תגובות הקשורות למצבים חמורים של בריאות הנפש והשוו תגובות ממודל הצ'אט החדש GPT 5 למודלים קודמים", מסרה OpenAI. הגדרת החברה ל"רצוי" כללה קביעה האם קבוצת מומחים שלה הגיעה לאותה מסקנה לגבי מה תהיה תגובה מתאימה במצבים מסוימים. חוקרי בינה מלאכותית ותומכי בריאות הציבור חששו זה מכבר מנטייתם של צ'אטבוטים לאשר החלטות או מחשבות שווא של משתמשים ללא קשר לשאלה האם הן עלולות להיות מזיקות, נושא המכונה חנפנות. מומחי בריאות הנפש הביעו גם דאגה מאנשים המשתמשים בצ'אטבוטים של בינה מלאכותית לתמיכה פסיכולוגית והזהירו, כי הדבר עלול לפגוע במשתמשים פגיעים. בפוסט שלה, OpenAI משתמשת בשפה שמרחיקה את החברה מכל קשר סיבתי פוטנציאלי בין המוצר שלה לבין משברי בריאות הנפש שחווים המשתמשים שלה, ומציינת: "תסמינים של בריאות הנפש ומצוקה רגשית נוכחים באופן אוניברסלי בחברות אנושיות, ובסיס משתמשים הולך וגדל פירושו שחלק משיחות ChatGPT כוללות מצבים אלה". מנכ"ל OpenAI, סם אלטמן, טען מוקדם יותר החודש בפוסט ב-X, כי החברה התקדמה בטיפול בבעיות בריאות הנפש, והודיע ​​כי OpenAI תקל את ההגבלות וכי בקרוב תתחיל לאפשר למבוגרים ליצור תוכן ארוטי. "הפכנו את ChatGPT למגביל למדי כדי לוודא שאנחנו נזהרים בנושאי בריאות הנפש. אנו מבינים שזה הפך אותו לפחות שימושי/מהנה עבור משתמשים רבים שלא סבלו מבעיות בריאות הנפש, אך בהתחשב בחומרת הבעיה רצינו לעשות זאת נכון", פרסם אלטמן. "כעת, לאחר שהצלחנו למתן את בעיות בריאות הנפש החמורות ויש לנו כלים חדשים, נוכל להקל בבטחה את ההגבלות ברוב המקרים".

ההאקרים לא בזבזו זמן: שבוע לאחר שיצא לשוק, נחשפה פירצת אבטחה בדפדפן ChatGPT Atlas של OpenAI. את הפירצה מצאו חוקרי LayerX Security הישראלית. לפיהם, הפירצה שנתגלתה מאפשרת לתוקפים להעביר הוראות לזיכרון של ChatGPT ולהריץ קוד זדוני מרחוק. הם ציינו כי "חולשת האבטחה משפיעה על משתמשי ChatGPT בכל דפדפן – אך רלוונטית במיוחד ל-אטלס, הדפדפן הסוכני. באמצעות הפירצה התוקפים עלולים להדביק ארגונים ופרטים בנוזקה, להעניק לעצמם הרשאות גישה ואז לחדור למערכות הקורבן". LayerX found the first vuln in ChatGPT Atlas: a CSRF lets attackers plant hidden instructions in ChatGPT’s memory that persist across sessions. In our tests Atlas blocked ~5.8% of phish vs Chrome 47% / Edge 53%—~90% more exposure. Details ???? https://t.co/DGlINFNMVo pic.twitter.com/ajk4XLUODs — LayerX Security (@LayerxSecurity) October 28, 2025 לפי חוקרי LayerX, "כיום לאטלס אין הגנות משמעותיות נגד פישינג, מה שאומר שמשתמשי דפדפן זה חשופים עד כ-90% יותר להתקפות פישינג מאשר משתמשי דפדפנים מסורתיים כמו כרום או Edge". במסגרת החשיפה החוקרים ערכו 103 התקפות דמה, מתוכן, אטלס התיר ל-97 מהן לעבור. לפי החוקרים הישראלים, "זהו שיעור כישלון גבוה ביותר, של 94.2%". החולשה דווחה ל-OpenAI. אור אשד, מייסד ומנכ"ל, ודוד ויסברוד, מייסד וסמנכ"ל הטכנולוגיות, של LayerX Security. צילום: לימור בן רומנו הפריצה: כך היא מתבצעת וכיצד ניתן להתגונן בהיבט הטכני, הפריצה נעשית בכמה שלבים, שהראשון שבהם הוא לחיצה של הקורבן על קישור לאתר מזויף. האתר של התוקפים משתמש בבקשה מזויפת בין-אתרים (Cross-Site Request Forgery, CSRF) במטרה לקבל אישורי גישה של קורבן המתקפה ל-ChatGPT ולהעביר הוראות מזיקות לזיכרון של ה-AI. לאחר מכן, כשהמשתמש ינסה להשתמש ב-ChatGPT למטרותיו, הזיכרונות המושתלים ייקראו ויוכלו להריץ קוד מרוחק שיאפשר לתוקף להשתלט על חשבון המשתמש, על הדפדפן שלו, על קוד שהוא כותב ועל מערכות שיש לו גישה אליהן. לדברי אור אשד, מייסד שותף ומנכ"ל LayerX, "מנגנון הזיכרון של ChatGPT נועד לשמור פרטים על משתמשים כדי להכיר אותם ולשפר את התקשורת העתידית איתם. אלא שהוא יוצר פתח חדש שלא הכרנו עד כה למתקפות: הוא הופך את כלי ה-AI הלגיטימיים לשותפים פעילים בפריצה למערכות, בהעברת הוראות ובהשתלטות על חשבונות. כל זה עלול להתממש אם המשתמש הקורבן לוחץ על קישור זדוני. לכן ההמלצה היא, כמו תמיד, לנקוט משנה זהירות בכניסה לקישורים ובכל מקרה של ספק – להימנע מכך".

"בינה מלאכותית עלולה לסמן את סופה של תעשיית אבטחת הסייבר: התוכנה בה יש באגים, ונקודות התורפה, שעליהן מסתמכים הפושעים – יאותרו מהר מתמיד", כך אמרה ג'ן איסטרלי, לשעבר ראשת הסוכנות לאבטחת סייבר ותשתיות, CISA. איסטרלי דיברה בסוף השבוע בכנס המשתמשים של AuditBoard בסן דייגו. לדבריה, "נוף האיומים מעולם לא הפסיק להתפתח. ריבוי הנתונים, הפלטפורמות והמכשירים פירושו שהרחבנו את משטח התקיפה עבור שחקני איום בסייבר, כמו סין, רוסיה, איראן וצפון קוריאה, וגם עבור כנופיות של פושעי סייבר". לפי איסטרלי, "אם פשעי סייבר היו מדינה – היא הייתה השלישית בגודלה בעולם, אחרי ארה"ב וסין". ICYMI: Last month, the first episode of the #THREATCON1 podcast went live! Jen Easterly shares her perspective on the future of cybersecurity and digital trust. Don’t miss insights from one of the most influential voices in cybersecurity. Tune in now: https://t.co/4P2VzIA2Tf pic.twitter.com/bCI3xpKAE2 — VulnCheck (@VulnCheckAI) October 20, 2025 "אין לנו בעיית אבטחת סייבר. יש לנו בעיה באיכות התוכנה" "בסופו של דבר, כל אירועי הסייבר הם תוצאה של תוכנה גרועה, רצופה בפגיעויות", אמרה ראשת CISA לשעבר. "אין לנו בעיית אבטחת סייבר. יש לנו בעיה באיכות התוכנה. הסיבה העיקרית לכך הייתה כי ספקיות התוכנה העניקו עדיפות למהירות ההגעה לשוק והפחתת העלויות – על פני אבטחת מידע". "AI מעניקה לתוקפים יכולת גבוהה יותר, ועוזרת להם ליצור נוזקות חמקניות יותר ודיוג מותאם אישית", ציינה. "היא גם מסייעת לזהות ולחשוף פגיעויות ובאגים מהר יותר. ל-CISA יש תוכנית פעולה לתחום, ואני מאמינה שאם נעשה זאת נכון, נוכל להטות את הכף לטובת המגינים". בסופו של דבר, אמרה, "אם נצליח לבנות, לפרוס ולשלוט בטכנולוגיות החזקות להפליא הללו בצורה מאובטחת – אני מאמינה שזה יוביל לסוף אבטחת הסייבר. כוונתי היא שפרצת אבטחה תהיה אירוע חריג, ולא חלק מהעלות של עשיית עסקים". "חשוב להסיר את עננת המסתורין האופפת את ההאקרים", הוסיפה איסטרלי. "צריך להפסיק לתת להם שמות מפרגנים וזוהרים כמו 'דב מהודר' ו'עכביש מפוזר'. שמות כגון 'מטרד רזה' או 'סמור חלש' – מתאימים הרבה יותר. חשוב באותה מידה להיות ברורים לגבי ההיקף האמיתי של היכולות שלהם. ביטוי כמו 'איום מתמשך מתקדם', מטשטש את העובדה שתוקפים מנצלים באופן גורף את אותן קטגוריות של פגיעויות, שפגעו ופוגעות בתעשייה במשך שנים. התוקפים בסין אינם נסמכים על נשק סייבר אקזוטי – אלא פשוט על פגמים בנתבים ובהתקני רשת אחרים. הם נערכים להכין את הקרקע למתקפה בהיקף מלא, במקרה מלחמה נגד טאיוואן". "בנוסף", הוסיפה ואמרה, "יש הסחת דעת והיעדר תשומת הלב לקורבנות. ההתמקדות האמיתית צריכה להיות בעובדה שהגורמים הנפוצים למתקפות, שנחשפו לפני 20 שנה – כגון סקריפטים חוצי אתרים, קידוד לא בטוח בזיכרון, הזרקת SQL – נותרו חלק בלתי נפרד מהתוכנה שנשלחה. זו לא בדיוק חדשנות שומטת לסתות". איסטרלי עמדה בראש CISA בתקופת הנשיא ג'ו ביידן. היא התפטרה כשדונלד טראמפ חזר לבית הלבן. בהיותה קצינה בכירה בצבא בעבר, היא קיבלה מינוי בווסט פוינט, ותוכננה לעמוד בראש קתדרה במחלקה למדעי החברה של האקדמיה הצבאית של ארה"ב. אלא שמנויה בוטל ביולי השנה בעקבות ביקורת מצד פעילי ימין. "המינוי שלי בוטל – והיה לקורבן של זעם שנוצר כלאחר יד, שהטביע את עבודת האמת השקטה ואת הדופק היציב של היושרה", כתבה ברשת החברתית לינקדאין עם הביטול. "בינה מלאכותית טובה בהרבה במעקב וזיהוי פגמים בקוד. כך אפשר יהיה להתמודד עם 'הר' של בעיות טכניות, שיצר במהלך השנים בלגן רעוע של תשתיות פגומות ומוטלאות מדי", הוסיפה. "יש לוודא שבראש סדר העדיפויות לשנה הבאה", סיכמה איסטרלי, "יעמוד נושא הפחתת סיכוני התוכנה. המפתח להצלחת המאבק הוא לדרוש יותר מספקי התוכנה. שם זה המקום שבו הסיכון נכנס, ושם יש לנו את הכוח והיכולת להפחית את הסיכון בצורה מאוד מהותית". פלי הנמר השתתף בהכנת