עמותת אלו"ט, ארגון Code for Israel וחברת אקמאי השלימו את פיתוחה של מערכת בינה מלאכותית שנועדה לסייע לצוותים חינוכיים וטיפוליים להבין טוב יותר את צורכיהם של ילדים אוטיסטים. המערכת תאפשר לצוותים לקבל הסברים אפשריים להתנהגויות מורכבות והמלצות להתמודדות, בהתבסס על ידע מקצועי ועל ההיסטוריה הטיפולית של כל ילד. המערכת, שנקראת ALUTeach, הוצגה בעבר במסגרת שיתוף הפעולה בין הארגונים. כעת הושלם שלב הפיתוח שבוצע באמצעות מתנדבים מתעשיית ההייטק, והפתרון הועבר לידי אלו"ט להמשך פיתוח והתאמות לקראת הטמעתו בגני תקשורת, במעונות ובמרכזי הטיפול של העמותה. הפרויקט החל בעקבות יוזמה שהגישה אלו"ט לקול קורא של Code for Israel, ארגון הרותם אנשי מקצוע מתעשיית ההייטק לפיתוח פתרונות טכנולוגיים לאתגרים חברתיים. לאחר תהליך אפיון משותף הצטרפה אקמאי לפרויקט והעמידה לטובתו צוות עובדים מתנדבים, שכלל מנהלת פרויקט, מנהל מוצר ומפתחי תוכנה. איך המערכת פועלת? המערכת מיועדת לסייע במצבים שבהם הצוות המטפל מתקשה להבין התנהגות של ילד או לזהות את הגורמים לה. המטפלת תוכל לתאר את האירוע, והמערכת תנתח את המידע ותציע הסברים אפשריים והמלצות לפעולה. הניתוח יתבסס על שילוב של שלושה מקורות מידע: הפרוטוקולים המקצועיים של אלו"ט, המידע האישי על הילד מתוך דוחות ואבחונים, והידע המצטבר מדיווחים שוטפים של אנשי הצוות. ההמלצות שיוצגו למטפלת לא יחליפו את שיקול דעתה המקצועי, והיא תבחר כיצד לפעול בהתאם למצב ולצורכי הילד. כך, למשל, כאשר ילד מגיב בצעקות ובהכאה על שולחן בעקבות בכי של ילד אחר, המטפלת תוכל לתאר את האירוע במערכת. זו תבחן את המידע הקיים על רגישויותיו של הילד ותציע הסברים אפשריים, לצד דרכי התמודדות כגון שינוי מקום הישיבה, שימוש באוזניות להפחתת רעש או מתן אמצעי תקשורת חלופי. המערכת תאפשר גם לתעד את ההתערבות הטיפולית ואת מידת הצלחתה. המידע יישמר בתיק האישי של הילד ויוכל לסייע לאנשי צוות נוספים המטפלים בו, במטרה ליצור רצף טיפולי ולשפר את שיתוף המידע. המידע יישמר בענן הפרטי של אלו"ט המערכת מבוססת על מודל שפה גדול ומתוכננת לפעול בסביבה מאובטחת, כחלק ממערכת ניהול התיקים הדיגיטלית של העמותה. לצד מנגנון ההמלצות הטיפוליות, היא כוללת גם ממשק שיחה לקבלת מידע מקצועי כללי ומרחב דיגיטלי לשיתוף ידע בין אנשי הצוות. לפי העמותה, המערכת תפעל על גבי הענן הפרטי שלה כדי להגן על המידע הרפואי והטיפולי. עם השלמת עבודת המתנדבים הועבר הפיתוח לאלו"ט, שתמשיך להתאימו לשימוש במסגרות הטיפול השונות. דדי עטאס, מנכ"ל אלו"ט, אמר: "עבור עמותה מטפלת כמונו הבחירה לגייס את עולמות הטכנולוגיה לטובת הטיפול אינה מובנת מאליה". לדבריו, העמותה רואה בשילוב הטכנולוגיה חלק ממחויבותה לשיפור היכולות המקצועיות והשירות שהיא מעניקה. עידן רול, מנכ"ל Code for Israel ולשעבר חבר כנסת וסגן שר החוץ, אמר: "הבינה המלאכותית מעניקה לאנשי החינוך והטיפול 'עיניים נוספות' ויכולת ניתוח שמאפשרות להתאים את הטיפול והלמידה בדיוק נמרץ לפרופיל האישי של כל ילד". לדבריו, מדובר בצעד ראשון בשינוי רחב יותר של מערכת החינוך. הארגון הוקם על ידי משקיעת ההון סיכון והיזמת החברתית יסמין לוקץ', ממייסדות מיזם ICON. פעילותו כוללת חיבור בין אנשי הייטק לארגונים חברתיים לצורך פיתוח פתרונות טכנולוגיים.

היחידה להזדהות וליישומים ביומטריים במערך הסייבר הלאומי גיבשה באחרונה אסטרטגיה לאומית להזדהות דיגיטלית, שנועדה לאפשר לציבור לקבל שירותים דיגיטליים שדורשים הזדהות באופן פשוט, נגיש ובטוח. היא גובשה בשיתוף מערך הדיגיטל הלאומי, רשות האוכלוסין וההגירה, אגף התקציבים והחשב הכללי במשרד האוצר, והמפקח על הבנקים. המהלך נועד לצמצם את הצורך בחשבונות הזדהות נפרדים מול כל רשות וגוף ממשלתיים, ובמקביל להפחית את הסיכון להונאות ולגניבת זהות. עם השלמת התהליך תתאפשר הזדהות אחת – הן בשירותים ממשלתיים והן בשירותים של גופים פרטיים, כגון בנקים, חברות ביטוח וגופי בריאות. יישום האסטרטגיה צפוי להתבצע בשלבים: בשלב הראשון תיושם התוכנית בתוך הממשלה, ובהמשך, בכפוף להצלחת המהלך, יורחב השימוש בה לכלל המשק. הוגי התוכנית מדגישים כי חשבונות המשתמשים בגופים הפרטיים יישארו נפרדים, ולממשלה לא תהיה גישה לפעילות המשתמשים בהם. תפקידה של מערכת ההזדהות הלאומית יהיה לאמת את זהות המשתמש בלבד. במקביל, הממשלה מקדמת ארנק דיגיטלי לאומי, שיאפשר לכל תושב להחזיק בטלפון הנייד את התעודות והאישורים הרשמיים שלו במקום אחד ולהציגם בעת הצורך, ללא נשיאת מסמכים פיזיים. הוגי התוכנית אומרים כי זה די דומה לארנק הדיגיטלי שבו אנחנו מחזיקים כיום כרטיסי אשראי. ארנק הזהויות הלאומי יאפשר לשמור בטלפון הנייד תעודות, רישיונות, אישורים ומסמכים רשמיים שהונפקו על ידי המדינה, ולהציג אותם בפני הגורמים שדורשים זאת, ללא צורך בצילום מסמכים או בהצגתם הפיזית בכל פעם מחדש. השימוש בארנק יתאפשר גם בעת קבלת שירות פנים אל פנים. 5.5 מיליון משתמשים במערכת ההזדהות הממשלתית מהנתונים המופיעים בתוכנית עולה כי כיום רשומים כ-5.5 מיליון משתמשים במערכת ההזדהות הממשלתית. למרות זאת, אזרחים עדיין נדרשים להירשם ולהזדהות בנפרד מול גופים רבים. לדברי נעמה בן צבי, ראשת היחידה להזדהות וליישומים ביומטריים במערך הסייבר הלאומי, "הזדהות דיגיטלית אינה עוד רכיב טכנולוגי נקודתי, אלא תשתית אמון לאומית, המהווה תנאי לקיומה של כלכלה דיגיטלית מתקדמת. האסטרטגיה שגיבשנו נועדה לחזק את הייצוג הדיגיטלי של התושב בישראל, להגן עליו מפני איומי סייבר והונאות זהות מתקדמות, ולאפשר מתן שירותים מתקדמים, בטוחים ונגישים בכל מרחבי המשק – תוך שמירה על פרטיות הציבור". טיוטת האסטרטגיה הלאומית להזדהות דיגיטלית פתוחה להתייחסויות הציבור עד 30 בנובמבר. את ההתייחסויות ניתן לשלוח למייל זה.

קבוצת תדיראן הודיעה אתמול (א') על איחוד פעילותה בתחום חוות השרתים והתשתיות הקריטיות תחת זרוע תדיראן DC, ובמקביל על הקמת זרוע תדיראן DC גלובל (Tadiran DC Global), שתתמקד בפיתוח הפעילות בשווקים הבינלאומיים.  במסגרת המהלך מונו דורון קרופמן למנכ"ל פעילות תדיראן DC, שיוביל את הפעילות בישראל, ואיתן אלי למנכ"ל פעילות תדיראן DC גלובל. השניים מילאו בעבר תפקידי ניהול בכירים בשניידר אלקטריק (Schneider Electric), עימה התקשרה תדיראן בהסכם שיתוף פעולה אסטרטגי בתחום חוות השרתים. המהלך נועד לחזק את פעילותה הקיימת של הקבוצה בתחום חוות השרתים, תוך הסתמכות על יכולותיה בתחומי הקירור, החשמל, האנרגיה והשירות. תדיראן DC תרכז את הפעילות בתחום ותפעל להציע ליזמים ולמפעילי חוות שרתים פתרונות לתשתיות קריטיות, שיכללו בין היתר, מערכות חשמל ואל-פסק (UPS), מערכות קירור מתקדמות, לרבות קירור נוזלי, פתרונות אגירת אנרגיה, מערכות בקרה, תכנון הנדסי, אינטגרציה ושירות.  נדבך מרכזי בפעילות הוא שיתוף הפעולה עם שניידר אלקטריק הנחשבת כחברה המובילה בעולם בתחומי ניהול האנרגיה והתשתיות לחוות שרתים. במסגרת הסכם, שנחתם בספטמבר 2025, מונתה חברה בת של תדיראן למפיצה ומשווקת מורשית של מערכות קירור ייעודיות לחוות שרתים. במהלך החודשים הראשונים של 2026 התקשרה תדיראן בהסכמים בהיקף של עשרות מיליוני שקלים לאספקת מערכות לדאטה סנטרים. לצד זאת, הקימה הקבוצה, בשיתוף שניידר אלקטריק ישראל, מערך שירות ייעודי לתחום, הכולל אנשי מקצוע שעברו הכשרות בישראל ובמרכז המצוינות של שניידר אלקטריק באיטליה. איחוד הפעילות והמינויים הנוכחיים נועדו לחזק את המבנה הארגוני והניהולי ולתמוך בהמשך הפיתוח העסקי בתחום. משניידר אלקטריק לצמרת תדיראן: המנכ"לים שיובילו את מהפכת חוות השרתים לתפקיד מנכ"ל תדיראן DC מונה כאמור דורון קרופמן, בעל כ-40 שנות ניסיון בניהול מערכות טכנולוגיות ופרויקטים בתחומי תשתיות המידע, התקשורת והסייבר. קרופמן כיהן במשך שמונה שנים כמנהל פעילות APC מקבוצת שניידר אלקטריק בישראל, ובמסגרת תפקידו הוביל את פיתוח הפעילות העסקית ומערך השותפים בתחום חוות השרתים. בהמשך הוביל את פעילות החדשנות של שניידר אלקטריק בישראל מול חברות טכנולוגיה, סטארט-אפים וקרנות הון סיכון. קודם לכן שירת כ-25 שנים בתפקידי פיקוד וניהול טכנולוגיים בחיל המודיעין, והשתחרר בדרגת סגן אלוף. קרופמן הוא בעל תואר ראשון בכלכלה ולוגיסטיקה ותואר שני במדעי המידע מאוניברסיטת בר-אילן. איתן אלי, שמונה, כאמור, לתפקיד מנכ"ל תדיראן DC גלובל, הוא בעל ניסיון של כשני עשורים בתחום הדאטה סנטרים והתשתיות הקריטיות, מתוכם כ-13 שנים בשניידר אלקטריק. בתפקידו האחרון כיהן כסמנכ"ל פעילות הדאטה סנטר והרציפות האנרגטית של שניידר אלקטריק בישראל, ובמקביל שימש כדירקטור מכירות אזורי, עם אחריות על פעילות מול ספקיות ענן, מפעילי חוות שרתים והמגזר הביטחוני בכ-20 מדינות במרכז ומזרח אירופה. לאורך שנות פעילותו עסק בפיתוח עסקי, בניהול לקוחות אסטרטגיים ובפיתוח שותפויות וערוצי הפצה. אלי הוא בעל תואר ראשון בהנדסת תעשייה וניהול ממכללת שנקר, ובוגר הכשרה ניהולית של INSEAD ותוכנית דירקטורים במסגרת להב באוניברסיטת תל אביב. משה ממרוד, מנכ"ל ובעל השליטה בתדיראן גרופ, מסר: "תחום חוות השרתים משתלב באופן טבעי עם היכולות והניסיון שצברה תדיראן לאורך השנים בתחומי הקירור, החשמל, האנרגיה והשירות. בשנים האחרונות פעלנו לפיתוח הפעילות בתחום, בין היתר באמצעות שיתוף הפעולה עם שניידר אלקטריק, וכבר התקשרנו בהסכמים ראשונים בתחום. איחוד הפעילות תחת תדיראן DC והקמת תדיראן DC גלובל נועדו לחזק את התשתית הארגונית והניהולית ולתמוך בהמשך הפיתוח העסקי. אני מברך את דורון קרופמן ואיתן אלי על הצטרפותם לקבוצה, ובטוח שהניסיון והידע שהם מביאים עימם יתרמו רבות להמשך הפעילות". דורון קרופמן, מנכ"ל תדיראן DC, מסר: "אני שמח ונרגש להצטרף לקבוצת תדיראן ולהוביל את פעילות תדיראן DC. עולם חוות השרתים מציב אתגרים הנדסיים ותפעוליים מורכבים, המחייבים שילוב בין מערכות חשמל, קירור ובקרה, לצד מערך שירות מקצועי ואמין. לתדיראן יש יכולות וניסיון משמעותיים בתחומים אלה, ואני מצפה לעבוד עם הצוותים המקצועיים ועם השותפים שלנו כדי להמשיך לפתח את הפעילות ולהעמיק את המענה ללקוחות בישראל". איתן אלי, מנכ"ל תדיראן DC גלובל, מסר: "אני שמח להצטרף לקבוצת תדיראן ולקחת חלק בפיתוח פעילותה הבינלאומית בתחום חוות השרתים. הניסיון שצברתי לאורך השנים בשווקים שונים לימד אותי עד כמה חשוב להכיר את צורכי הלקוחות, לבנות שותפויות מקצועיות ולהתאים את הפתרונות לצרכים של כל שוק. תדיראן מביאה עמה ניסיון ויכולות מקצועיות רחבות, ואני מצפה לעבוד יחד עם הנהלת הקבוצה והצוותים המקצועיים על פיתוח הזדמנויות עסקיות ושיתופי פעולה בשווקים הבינלאומיים".

במשך שנים התבססה הארכיטקטורה הארגונית על חלוקה ברורה בין עובדים למערכות תוכנה – עובדים נכנסו למערכות באמצעות זהות אישית, ושירותים ממוחשבים פעלו באמצעות חשבונות מערכת. מנהלי מערכות המידע ידעו מי יזם כל פעולה ואיפה נשמר התיעוד שלה.  כניסתם של סוכני הבינה המלאכותית משנה את המודל הזה. בניגוד לצ'טבוט שמחזיר תשובה לשאלה, סוכן AI מסוגל לקבל משימה ולפרק אותה לשלבים. את הכלים והמערכות החיצוניות שבהן ישתמש הוא בוחר בעצמו. הוא מעבד מידע ומקבל החלטות. למשל, סוכן AI שקיבל תיק בקשת אשראי, יכול לאתר את מסמכי ההכנסה הרלוונטיים במערכת ניהול המסמכים ולהצליב אותם עם הנתונים במערכת הליבה. כל סוכן AI הפועל בסביבה ארגונית צריך לקבל זהות דיגיטלית ייחודית. הדרך הקלה היא להפעיל אותו באמצעות ההרשאות של העובד, אבל זו בחירה שפוגעת בדיוק ביכולת להבחין מי ביצע כל פעולה שינוי במודל ההפעלה  מערכות ניהול הזהויות וההרשאות הקיימות נבנו עבור עובדים ועבור שירותי תוכנה בעלי תפקיד מוגדר. סוכן AI פועל במודל מורכב יותר. הוא יכול לקבל משימה מעובד ולפעול מול כמה מערכות במהלך ביצועה.  כאשר הסוכן משתמש בהרשאות של העובד שהפעיל אותו, קשה להבחין בין פעולות שביצע העובד בעצמו לבין פעולות שהסוכן יזם. הענקת חשבון שירות בעל הרשאות רחבות יוצרת סיכון, משום שהסוכן עלול לבצע פעולות החורגות מהסמכות שנועדה לו. אם כמה סוכנים חולקים זהות טכנית אחת, יכולת המעקב אחר פעילותם נפגעת.  כל סוכן AI הפועל בסביבה ארגונית צריך לקבל זהות דיגיטלית ייחודית. הדרך הקלה היא להפעיל אותו באמצעות ההרשאות של העובד, אבל זו בחירה שפוגעת בדיוק ביכולת להבחין מי ביצע כל פעולה. זהות נפרדת מאפשרת גם לשלול מהסוכן גישה בלי לפגוע בהרשאות של העובד.  גם מחזור החיים של הזהות דורש ניהול. הבעלים העסקי מאשר את הקמת הסוכן ומגדיר את מטרותיו, ואילו מנהל האבטחה אחראי לבחינת ההרשאות ולביקורת תקופתית. עם סיום השימוש בסוכן, הגישה שלו למערכות מתבטלת. צריך להגדיר מראש מי אחראי לגבולות הפעולה שלהם. סוכני ה-AI. צילום: עיבוד ממוחשב - ChatGPT. מקור: Shutterstock AI, bixstock, Shuttertock מה רשאי הסוכן לעשות באמצע משימה?  ניהול זהויות הוא חלק אחד ממדיניות ההרשאות. הרשאה שניתנת למשימה מסוימת יכולה לשמש לרצף פעולות שהארגון לא הגדיר מראש.  סוכן AI שמורשה לקרוא נתונים במערכת אשראי ולעדכן פרטי בקשה יכול לגלות במהלך הבדיקה שחסר מסמך הכנסה ולפנות לשירות חיצוני. הנתונים שיחזרו משם עלולים לחייב עדכון בפרטי הבקשה. במצב כזה מתעוררת שאלת גבולות הסמכות שלו. עדכון נתונים במערכת הליבה משפיע על המשך הטיפול בבקשה, ולכן התנאים לביצועו צריכים להיות מוגדרים מראש.  מודל ההרשאות מתחשב בהקשר הפעולה. הארגון בוחן את זהות הסוכן ואת מטרת המשימה. קריאת נתונים ועדכון נתונים נושאים רמות סיכון שונות, וההרשאות שלהן צריכות להיות שונות.  רמת האוטונומיה נקבעת בהתאם לרמת הסיכון. סוכן יכול לקבל הרשאה לאיסוף מסמכים ולבדיקת שלמותם, ולהכין המלצה שתועבר לעובד מוסמך. פעולות בעלות השלכות כספיות או רגולטוריות יישארו כפופות לאישור אנושי. הרשאות הדוקות מדי מבטלות את הסיבה שבגללה מכניסים סוכן לארגון מלכתחילה.  אישור אנושי שבו העובד רק לוחץ על "אשר" בלי לבדוק את הנתונים הוא אישור פורמלי בלבד. כדי שהאישור יהיה אמיתי, העובד צריך לראות את הנתונים שעליהם הסוכן מתבסס ולהחליט בעצמו.  כשהסוכן פועל, מי מפקח עליו?  כאשר סוכן AI מפעיל כמה מערכות ונעזר במודלים שונים, רישום כניסה רגיל מתעד רק את עצם הכניסה של הסוכן. אם סוכן עדכן פרט בבקשת אשראי אחרי פנייה לשירות חיצוני, היומן יציג עדכון אחד בחשבון הסוכן. את הנתון שהוביל אליו הוא לא ישמור. התיעוד צריך להראות מי הפעיל את המשימה ומה הסוכן ביצע בפועל, כדי לשחזר את רצף העבודה במקרה של תקלה.  שכבת הניטור והבקרה מתחברת למערכות הארגון ומספקת תמונה של פעילות הסוכנים. היא מזהה גישה למידע שאינו נדרש לביצוע המשימה ומסמנת חריגות בהרשאות ובשימוש בממשקים. מנגנון נוסף מאפשר לעצור את פעילות הסוכן בזמן אמת ולבטל את הרשאותיו במקרה הצורך.  הגורם הטכנולוגי שמתחזק את הסוכן אחראי לאבטחתו ולאופן הפעלתו. העובדה שפעולה בוצעה באמצעות מערכת אוטונומית אינה משנה את האחריות של הארגון כלפי לקוחותיו.  תיעוד מלא גובה מחיר: הוא מאט את התהליך ומגדיל את עלויות האחסון. אבל אין מה לעשות, זה מחיר ראוי בכל פעולה שמשפיעה על החלטת אשראי, כי בלי שחזור אי אפשר לדעת מה קרה.  הכותב הוא יועץ טכנולוגי לארגונים בעיקר בתחום האשראי החוץ בנקאי ובעברו מנמ"ר

הקצב שבו עולם הבינה המלאכותית מתקדם הוא חסר תקדים. כמעט בכל שבוע מופיעים מודלים, כלים ושיטות עבודה חדשים, וכל אחד מהם מסוגל לבצע במהירות משימות שבעבר דרשו שעות, ימים ולעיתים אפילו צוות שלם. במציאות כזו, השאלה החשובה ביותר כבר אינה אילו כלים צריך ללמד, אלא כיצד מכשירים אנשי מקצוע שימשיכו להיות רלוונטיים גם כשהכלים ישתנו שוב. עד לא מזמן, עיקר הערך המקצועי בתחומים טכנולוגיים רבים נבע מהיכולת לבצע משימות מורכבות באופן עצמאי. היכולת לכתוב קוד, לנתח נתונים, לנסח מסמכים או לפתור בעיות הייתה במרכז העשייה. המיומנויות האלה עדיין חשובות, אך כיום הן כבר אינן מספיקות. מערכות בינה מלאכותית לא רק מבצעות משימות בודדות, אלא מסוגלות לפעול באופן עצמאי לאורך זמן, לתכנן שלבים, לבדוק את עצמן ואף לתקן טעויות. ללמוד להגדיר משימה לכן, מוקד ההכשרה צריך להשתנות. במקום ללמד רק כיצד לבצע משימה, יש ללמד כיצד להגדיר אותה נכון, וגם מתי נכון להאציל אותה למערכת בינה מלאכותית. זו כבר אינה רק מיומנות טכנולוגית, אלא יכולת מקצועית בסיסית שנדרשת כמעט בכל תחום. מיומנות מרכזית שמתחילה להתבהר היא מה שאפשר לכנות "עדשת האימות": היכולת להעריך עד כמה קל לבדוק שהתוצאה שהתקבלה נכונה. משימות שקל לאמת את תוצאותיהן, כמו תיקון באג מוגדר או כתיבת בדיקת תוכנה, מתאימות להאצלה רחבה. לעומת זאת, משימות הדורשות שיקול דעת עיצובי או הבנה של הקשר רחב ראוי להשאיר בידי אנשי מקצוע, או לבצע בשיתוף פעולה הדוק עם הבינה המלאכותית. שינוי נוסף באופן העבודה נובע מכך שכבר איננו פועלים בהכרח מול כלי בודד, אלא מול מערך של סוכנים הפועלים במקביל, כאשר לכל אחד מהם תפקיד מוגדר. סוכן אחד בודק קוד, אחר כותב תיעוד ושלישי סורק את המערכת בחיפוש אחר בעיות אבטחה. המיומנות החדשה היא לא רק לדעת להשתמש בסוכן אחד, אלא לתזמר כמה סוכנים, לחלק ביניהם את העבודה ולחבר את התוצאות לתוצר שלם. זו כבר אינה עבודה של מפעיל כלי, אלא עבודה הדומה יותר לניהול צוות. בעולם האמיתי נדיר למצוא בעיות שמוגדרות בצורה מיטבית מראש. במרבית המקרים הנתונים חלקיים, הדרישות משתנות ובעלי העניין אינם תמיד מסכימים ביניהם. גם כאשר הבינה המלאכותית מסוגלת להציע פתרונות מצוינים, היא אינה מחליטה מהי הבעיה הנכונה שיש לפתור, ואינה נושאת באחריות לתוצאה. לכן, הכשרה איכותית בתחום צריכה לבחון לא רק אם המשתתף הגיע לתוצאה הנכונה, אלא גם כיצד הגיע אליה. האם ידע להגדיר את הבעיה? האם הבין מתי נכון להאציל משימות למערכת ומתי לא? האם הטיל ספק בתוצאה שקיבל, והאם ידע להסביר ולהצדיק את ההחלטות שלו? הצורך במיומנויות האלה בולט במיוחד לנוכח השינויים שמחוללת הבינה המלאכותית בתפקידי העובדים ובמבנה מחלקות ה-IT. ככל שיותר משימות עוברות לביצוע אוטומטי, כך גוברת החשיבות של היכולת לפקח על התהליך ולהעריך את התוצאות. הפער בין אימוץ הבינה המלאכותית ליכולת לפקח עליה גדל חשוב לזכור שהפער בין אימוץ כלי הבינה המלאכותית לבין היכולת לנהל ולפקח עליהם הולך וגדל. ארגונים רבים מאמצים סוכנים אוטונומיים מהר יותר משהם מצליחים לבנות סביבם מדיניות ברורה ומנגנוני בקרה מתאימים. דווקא כאן נדרשים אנשי מקצוע מיומנים יותר, ולא פחות. ישנו רובד נוסף שהופך לחשוב במיוחד בגלל קצב ההתקדמות המהיר של התחום. ככל שהכלים מתחלפים במהירות רבה יותר, כך פוחת הערך של היכרות עמוקה עם כלי מסוים, וגדל הערך של הבנה רחבה של התחום עצמו. אנשי מקצוע צריכים להבין אילו בעיות בסיסיות קיימות בעולמות התוכנה, הנתונים והבינה המלאכותית, אילו משפחות של פתרונות קיימות לכל אחת מהן ומהם היתרונות, החסרונות והפשרות הכרוכים בכל גישה. כאשר מגיע כלי חדש, השאלה החשובה אינה רק "איך משתמשים בו?", אלא "איזו בעיה הוא פותר טוב יותר מקודמיו, ובאילו מצבים נכון להשתמש בו?". מודלים מתחלפים, ממשקים משתנים וכלים נעלמים, אבל עקרונות כמו פירוק בעיות, תכנון מערכות, הערכת חלופות, הבנת אילוצים וקבלת החלטות נשארים רלוונטיים. מי שמבין את היסודות יכול לאמץ טכנולוגיות חדשות במהירות, בעוד שמי שלמד בעיקר כיצד להשתמש בכלי מסוים עלול למצוא את עצמו מתחיל מחדש כמעט בכל גל של חדשנות. הדבר נכון גם כאשר מדובר במערכות אוטונומיות שמסוגלות לבצע משימות מורכבות ללא התערבות רציפה של אדם. השאלה מתי סוכן בינה מלאכותית צריך להעביר את השליטה בחזרה לאדם הופכת לחלק בלתי נפרד מהיכולת לנהל את הטכנולוגיה באופן אחראי. בסופו של דבר, המטרה בהכשרת מומחים בתחום הבינה המלאכותית אינה רק ללמד אנשים להשתמש בכלי שעשוי להפוך ללא רלוונטי בעוד חודש. המטרה היא לפתח אנשי מקצוע שיודעים לחשוב, ללמוד, להטיל ספק, להבין מה נכון להאציל למכונה ומה כדאי להשאיר בידיהם, ולקבל החלטות מושכלות. לכן, הדגש בהכשרה צריך להיות על הקניית עקרונות שיישארו נכונים גם כשהכלים עצמם יתחלפו. בעתיד הקרוב, היתרון התחרותי לא יהיה שייך למי שיודע להשתמש בכלי מסוים, אלא למי שיודע להוביל בעזרתו. הכותב, שחף פורן, מוביל את תחומי הבינה המלאכותית והדאטה בחברת Infinity Labs R&D, העוסקת במחקר, בפיתוח ובהכשרת אנשי מקצוע בתחומי הטכנולוגיה.

MongoDB, מחברות הדאטה בייס הגדולות בעולם, קיימה בשבוע שעבר את אירוע MongoDB.local Tel Aviv באולם טראסק בנמל תל אביב. באירוע השתתפו מאות מפתחים ומפתחות, מנהלי טכנולוגיה, מקבלי החלטות עסקיות ונציגים מסטארט-אפים וארגונים, והוא הוקדש כולו לשאלה אחת: איך לוקחים סוכן AI שעבד טוב בדמו ומטמיעים אותו בעבודת הארגון בצורה יעילה ומבוקרת? "בשנה האחרונה, ה-AI הפכה להרבה יותר ממילת באזזז. אנחנו רואים את זה אצל החברות שאנחנו עובדים איתן, במיוחד הסטארט-אפים והחברות הדיגיטליות. אחד המשתתפים בכנס הזכיר ש-99.9% מהקוד שלו נכתב על ידי סוכנים, וזו מהפכה. כדי לעבוד עם AI, המודל צריך לרוץ על דאטה איכותית. ככל שהדאטה מסודרת ונגישה יותר למודלים, התוצאות יהיו טובות יותר והעלויות – נמוכות יותר", אמרה גבריאלה כהן, סגנית נשיאת אזור ישראל, מדינות צפון אירופה והבנלוקס ב-MongoDB, שפתחה את הכנס. משה רביב, מנהל פתרונות ארכיטקטורה של MongoDB בישראל, מציג את הכלים החדשים. צילום: גיא סידי ומיכאל נווה שלושה כלים חדשים במהלך הכנס MongoDB הציגה, בראשונה בישראל, את שלושת הכלים החדשים, שהשיקה לפני כחודש בניו יורק ושצפויים לסייע לארגונים להכניס סוכני AI לעבודה השוטפת. כדי לעבוד באמת, סוכני בינה מלאכותית צריכים לזכור את הקונטקסט, לשלוף את המידע הנכון מתוך מערכות החברה ולפעול תחת בקרה. בדרך כלל הם מאוד מרשימים בשלב הדמו, אבל כשמגיע הזמן להטמיע אותם בעבודה השוטפת, הרבה מהארגונים נתקעים. הכנס התמקד בדיוק בפער הזה ובכלים החדשים של MongoDB, שייתנו את המענה: Atlas Agent Engine (בשלב Public Preview) – כל פעולה של סוכן נרשמת על שם מי שביצע אותה, אדם או סוכן, לפי כללים שאי אפשר לעקוף. כתוצאה מכך, כשמישהו שואל מה הסוכן עשה ומי אישר, התשובה מגיעה בתוך שניות. הכלי עובד עם כל מודל AI וכל ענן, וארגונים שחייבים לשמור את הנתונים אצלם יכולים להפעיל אותו גם על השרתים של הארגון. MongoDB 9.0 – תפוקה גבוהה עד פי שניים בשרתים גדולים ויכולת לחפש בתוך מידע מוצפן בלי לפתוח את ההצפנה. חשוב במיוחד לבנקים ולגופי בריאות. Atlas Infinite (בשלב Public Preview) – השינוי הגדול ביותר בפלטפורמת הענן של החברה מאז הושקה ב-2016. כעת, היא גדלה אוטומטית כשהעומס קופץ, והלקוח משלם רק על מה שהוא משתמש בו, מבלי לשנות שורת קוד. במהלך הכנס התקיימה הדגמה חיה של Atlas Infinite על הבמה המרכזית, וכן נערכו מושבים על הפעלת סוכנים בפרודקשן, ועל הביצועים והאבטחה של MongoDB 9.0, פאנל בהשתתפות לקוחות בכירים תחת הכותרת "The Mistakes That Made Us Better: How Leaders Turn Setbacks into Success", ושתי סדנאות מעשיות – לבניית זיכרון לסוכני AI ולפיתוח עם כלי הבינה המלאכותית של MongoDB.

Google.org, הזרוע הפילנתרופית של גוגל, העניקה לשירותי בריאות כללית מענק דו-שנתי בסך שני מיליון דולר לפיתוח מערכת בינה מלאכותית שתשפר את הנגישות לשירותי רפואה דיגיטליים. המערכת תלווה מטופלים לאורך התהליך הרפואי ותציע תמיכה מותאמת אישית, תוך התמקדות בקהילות המתמודדות עם חסמים לשוניים וטכנולוגיים. המערכת, שתתבסס על תשתיות הענן של גוגל, תפעל כעוזרת דיגיטלית חכמה. היא תסייע למטופלים להבין את צורכיהם הרפואיים, להתכונן לביקורים אצל רופאים ולנהל טיפולי המשך בשפת האם שלהם. המהלך מצטרף לפיתוחים נוספים של כללית בתחום הבינה המלאכותית הרפואית, ובהם מערכת המסייעת לרופאי משפחה לזהות מטופלים בסיכון. שירות רפואי גם ללא סמארטפון אחד המאפיינים המרכזיים של המערכת הוא האפשרות להשתמש בה באמצעות ממשק קולי, ללא צורך בהפעלת אפליקציה או בהתמצאות בממשקים דיגיטליים מורכבים. השירות מיועד בין היתר למטופלים המתקשים להשתמש בטכנולוגיה, לדוברי שפות שונות ולאוכלוסיות שבהן הגישה לאינטרנט מוגבלת. באמצעות מודלי שפה גדולים וטכנולוגיית Gemini של גוגל, המערכת תציע זיהוי דיבור המותאם לניבים מקומיים ולמאפיינים תרבותיים שונים. היא תסייע בהשלמת תהליכי קליטה, מיון וקביעת תורים, ותאפשר למטופלים לתקשר עם שירותי הבריאות בשפה המדוברת שלהם. הפיתוח יכלול גם ממשק קולי אינטראקטיבי לטלפונים נייחים ולטלפונים ניידים רגילים. כך יוכלו להשתמש בשירות גם מטופלים שאין ברשותם סמארטפון או שמתקשים להסתמך על חיבור לאינטרנט. אבטחת מידע ותוכנית לפריסה ארצית המערכת תתבסס על תשתיות הענן של גוגל, תוך שימוש במנגנוני אבטחת מידע ובגישה המבוססת על עקרונות Zero Trust. לדברי השותפים, המטרה היא להגן על סודיות המידע הרפואי ולאפשר שימוש בטכנולוגיות בינה מלאכותית תוך שמירה על פרטיות המטופלים. לאחר פיילוט ראשוני מתכננת כללית להרחיב את השימוש במערכת לפריסה ארצית. בהמשך מתכוון הארגון לפרסם את ארכיטקטורת הבינה המלאכותית הקולית ואת מסגרות ההתאמה התרבותית כקוד פתוח, במטרה לאפשר לארגוני בריאות ציבוריים ברחבי העולם לאמץ את המודל. פרופ' איתן ורטהיים, מנכ"ל כללית, אמר: "התמיכה של גוגל מאפשרת לנו לרתום את הטכנולוגיה המתקדמת בעולם כדי לוודא שכל מטופל ומטופלת יקבלו את הטיפול הטוב ביותר, בשפה שלהם ובדרך המותאמת להם". לדבריו, המודל שיפותח בישראל מיועד להפוך בהמשך לארכיטקטורת קוד פתוח שתהיה זמינה לארגוני בריאות ברחבי העולם. בועז מעוז, מנכ"ל גוגל קלאוד ישראל, אמר: "ל-AI יש פוטנציאל לפתור כמה מחסמי הגישה המשמעותיים ביותר בתחום הבריאות". לדבריו, באמצעות הטמעת בינה מלאכותית שיחתית ומאובטחת, המותאמת לניבים מקומיים ולערוצי תקשורת שונים, ניתן להרחיב את הנגישות לשירותי בריאות דיגיטליים. פיתוח המערכת מתווסף לתוכנית הרחבה של כללית להטמעת בינה מלאכותית בשירותי הבריאות, הכוללת שימוש בנתונים ובטכנולוגיות ענן לשיפור הטיפול במבוטחים.

גרוק לא עונה – או, יותר נכון, האנשים שמאחוריו: חברת הגנת סייבר ישראלית חשפה באחרונה שמונה חולשות ופגיעויות בעת הרצה של גרוק בוט (Grok Bot), פנתה מספר פעמים ל-xAI, החברה של אילון מאסק שמאחורי גרוק, וכן לקורסור, שמפעילה את תשתית ארגז החול שגרוק משתמש בו – ולא זכתה למענה מאף אחת מהן. החולשות והפגיעויות שהתגלו עלולות לחשוף את המידע הפרטי-אישי של המשתמשים שעבדו מול מודל ה-AI, ולהביא למצב שבו סוכני הבינה המלאכותית בסביבת גרוק יפעלו כסוכנים סוררים, יעשו כרצונם וההאקרים יוכלו להשתלט עליהם מרחוק. חוקרי מרכז התגובה לאירועי סייבר של פרופרו הם שחשפו את הפגיעויות. פרופרו מסייעת לחברות ולארגונים להיחלץ ממתקפות סייבר. היא הוקמה ב-2020 על ידי עמרי שגב מויאל, המנכ"ל, וגיא ברנהרט-מגן, סמנכ"ל הטכנולוגיות. שגב מויאל היה סמנכ"ל טכנולוגיות בקלירסקיי, ומנהל מחקר ושותף-מייסד במינרווה לאבס. לפי פרופרו, "הצלחנו לחשוף שאין הגבלות בתוך המערכת (של גרוק – י"ה). כיוון שמשתמשים עושים בכלי שימוש באופן נפרד, ניתן להעריך בוודאות גבוהה שבסופו של יום הם ייפרצו. חשפנו שברגע שהרעים למיניהם מצליחים לקבל הרשאה להרצה של פקודה אחת במערכת – הם מקבלים יכולת לפנות למערכת מבחוץ ולקבל עליה שליטה, מבלי שבעל המערכת יידע זאת". חוקרי פרופרו ציינו שבארגונים שמריצים את גרוק בוט, כל סוכן שמקבל פקודה, ולו אחת – עלול הריץ פקודות בארגז החול של הארגון מכל מחשב נייד באינטרנט, ולעשות זאת כמה זמן שירצה. כדי להשתלט על הסוכן, ההאקרים צריכים רק כמה פקודות ושורות קוד שמועתקות מהדיסק של המכונה הווירטואלית של הארגון, וסיסמה מקומית, שהיא זהה לסיסמה בכל ארגז חול שהספק אי פעם שלח אותו. "כך", כתבו, "הסודות כבר אינם נסתרים. ההאקרים יודעים לנצל כל עוגייה שהמשתמש ייבא כדי שהסוכן יוכל לפעול, ולהיחשף לכל קובץ טקסט שהוא עבד עליו ולכל אתר שהוא נכנס אליו, כולל ספקיות תשלום וזהות. הטוקן שמאפשר לסוכן להשתמש בשירותים המחוברים של הארגון עובר לתוקפים, וכך התוקף קורא את מה שהמשתמש כתב ונחשף אליו, דרך המחברים (קונקטורים) של הסוכן עצמו: מייל, קבצים ויומן. אישורים ארוכי טווח פותחים כל קובץ שנשמר אי פעם ומאפשרים לתוקף לשתול קבצים חדשים. ומכיוון שכל סוכן בחשבון חולק משתמש לינוקס אחד, מערכת קבצים אחת וסט אחד של אישורים, הוראה שגויה, לסוכן אחד, מדף אינטרנט שהוא קורא או חבילה שהוא מתקין – זה כל החשבון. בסביבת הגרוק של המשתמשים – כל סוכן, כל כניסה, כל קובץ, כל שירות מחובר". "ארגז החול של גרוק בוט – כמו מחשב נייד שמשמש לתקיפה" החוקרים הסבירו כי "המצב הזה נדמה למקרה של גניבת מידע: האקר 'נוחת' על מחשב נייד, מעתיק את העוגיות ואופני ההתחברות השמורים של הדפדפן בשניות – והתוקף משתמש בהם ממקום אחר. ארגז החול של גרוק בוט הוא כמו המחשב הנייד הזה: השלל העתידי של ההאקרים כבר פרוש בטקסט רגיל, נגיש, בלא כל נוזקה, עם טוקנים שהם תמיד בתוקף ולא מסירים אותם וללא ביקורת ורישומי כניסה, כי שום דבר לא נכנס. לכן, אנחנו קוראים לזה rootkit. הבעיה בנויה מחלקי המוצר עצמו". לדברי החוקרים, הם דיווחו על הפגיעויות לצוותי האבטחה של xAI ושל קורסור ב-24 באוגוסט. הם ציינו ש-"אחרי יותר מחודשיים ויותר מ-240 פעמים שהצלחנו לבנות ארגזי חול בעייתיים כאלה, איש לא ענה – והממצאים עדיין תקפים. דבר לא תוקן. יש שמונה פגיעויות, לכל אחת מהן יש ציון של החומרה של הפגיעה (CVSS), עם פירוט של שלבי שחזור, תיקון ובדיקה. יום לאחר הפנייה הראשונה שלנו קיבלנו מקורסור תגובה אוטומטית, שמבקשת מאיתנו להגיש את ההודעה על הטעון תיקון מחדש, דרך הפורטל. ב-1 באוקטובר הודענו ל-xAI שנפרסם את הממצאים בלא תגובה, ואנחנו עושים זאת כעת, יותר מ-75 ימים לאחר הדיווח הראשון". החוקרים ציינו כי "הלקחים והתובנות (מהמקרה – י"ה) אינם ספציפיים לגרוק בוט. הם נכונים לסביבות רבות של סוכני AI". לא התקבלה תגובה לדיווח ממי מהחברות.