בינה מלאכותית בעסק: העובד הכי מוכשר שלכם, או האסון הכי גדול שלכם?

כשמדברים היום על בינה מלאכותית בעסקים, משתמשים בהמון מונחים טכניים מפוצצים. אבל אם נשים רגע את הטכנולוגיה בצד, עבור בעל עסק, שילוב של בינה מלאכותית מקביל בדיוק לגיוס של עובד חדש. זהו עובד סופר-מהיר, לעולם לא ישן, ויכול לעשות אלף משימות במקביל. על הנייר, זה נשמע כמו החלום של כל מנהל.

אבל הנה המלכוד, העובד החדש הזה הוא מאוד נאיבי, אין לו שום היגיון בריא, והוא ייקח כל הוראה פשוטה צעד אחד רחוק מדי. אם תתנו לו את המפתחות לעסק בלי פיקוח, הוא עלול בטעות לחלק את הסחורה שלכם בחינם או להשאיר את הכספת פתוחה. כדי להבין למה זה קורה, ריכזנו דוגמאות חדשות מהחיים שמוכיחות מה קורה כשהטכנולוגיה יוצאת משליטה.

לקוחות שמשתלטים על נציג השירות

תארו לעצמכם שלקוח עצבני ניגש לנציג שלכם ופוקד עליו לעזוב את הנהלים, להתחיל לקלל ולכתוב שיר על כמה שהחברה הזו גרועה. נציג אנושי יקרא למנהל, אבל בוט יעשה בדיוק מה שביקשו ממנו. התופעה הזו מוכרת כהזרקת פקודות או פרומפט אינג'קשן, וזה בדיוק מה שקרה לחברת המשלוחים האירופית DPD. לקוח מתוחכם עקף את ההנחיות של הבוט שלהם, וגרם לו לקלל לקוחות ולהמציא שירים שמשמיצים את החברה. התוצאה הייתה נזק תדמיתי אדיר והשבתה מיידית של המערכת (לכתבה המלאה ב-BBC).

תסמונת הטלפון השבור והמצאת חוקים

חשוב לשאול מה קורה כשסוכן הבינה המלאכותית שלכם מתחיל לתת עצות משפטיות או עסקיות מומצאות, תהליך שנקרא סחף מודלים. עיריית ניו יורק למשל השיקה צ'אטבוט רשמי כדי לעזור לעסקים קטנים להבין את חוקי העיר. במקום לעזור, הבוט התחיל לסבול מהזיות וחילק המלצות לא חוקיות בעליל, כמו להמליץ לבעלי מסעדות שזה חוקי לגנוב טיפים מהעובדים. כשהבוט לא מוגבל למקור אמת אחד, הוא פשוט ממציא חוקים שחושפים אתכם לתביעות קשות (לכתבה ב-The Markup).

לתת למתמחה את מפתחות המנכ"ל

טעות נפוצה נוספת היא להכניס לעסק כלי חכם שתפקידו לסייע בניתוח נתונים, אבל בגלל חוסר פיקוח מעניקים לו גישת מנהל רחבה מדי. חברת אבטחת המידע הישראלית Wiz חשפה כי חוקרי הבינה המלאכותית של מיקרוסופט עשו בדיוק את הטעות הזו של הרשאות יתר. בניסיון לשתף כלי פשוט, הם יצרו בטעות הרשאות רחבות מדי שחשפו לרשת 38 טרה-בייט של מידע פנימי סודי, כולל סיסמאות של החברה הוכחות אבטחה קריטיות (לדוח של חברת Wiz).

קוד זדוני במסווה של כלי עזר

תארו לעצמכם שאתם מבקשים מהבינה המלאכותית עזרה בכתיבת קוד, והיא ממליצה לכם בביטחון מופרז על ספריית תוכנה שבכלל לא קיימת. חוקרים מחברת הסייבר הישראלית Vulcan Cyber חשפו תופעה מטרידה של חבילות קוד מומצאות. האקרים עוקבים אחרי ההמלצות המומצאות האלו, ומייצרים בזריזות וירוסים אמיתיים שנושאים בדיוק את אותו שם מומצא. כשהמתכנת שלכם מעתיק את ההמלצה התמימה מהצ'אט ומוריד אותה, הוא בעצם מכניס סוס טרויאני שגונב את הנתונים שלכם מאחורי הקלעים (לתחקיר האבטחה ב-SecurityWeek).

איך מחזירים את השליטה ומגנים על העסק?

הגישה הלא נכונה היא להגיד שהטכנולוגיה הזו מסוכנת ולכן לא תשתמשו בה, או גרוע מכך, לתת למתכנתים חופש פעולה מוחלט ללא בקרה. הגישה הנכונה היא להתייחס למערכת כפי שהייתם מתייחסים לכל עובד זוטר בארגון, עם גבולות גזרה ברורים. כאן בדיוק נכנסת לתמונה ראייה מערכתית של פיתוח תוכנה מוקפד.

כדי לעשות זאת נכון יש ליישם הפרדת סמכויות מוחלטת, תפיסה שמוכרת כזירו טראסט. המערכת שלכם אמורה לקבל גישה אך ורק למה שהיא חייבת. סוכן שעונה לשאלות גולשים באתר לא צריך בשום אופן גישה למסד הנתונים של הנהלת החשבונות שלכם. בנוסף, חובה ליישם חסימה לוגית. יצירת אוטומציה עסקית בטוחה אומרת שלעולם לא נותנים למערכת חכמה לבצע פעולה קריטית כמו סליקת כספים או שינוי חוזה, מבלי שמערכת הנדסית רגילה או גורם אנושי מוודאים שהפעולה חוקית. לבסוף, ודאו שיש לכם בעלות מלאה על הנכסים וניהול סודות נכון. כל הנתונים והסיסמאות חייבים להיות מאובטחים בחשבונות שאתם מנהלים בלבד, ולא זרוקים בתוך קוד שפתוח לעיני כל.

כדי שהעסק יעבוד בצורה הזו, אתם צריכים מישהו שיושב בצד שלכם של השולחן, סמכות טכנולוגית שרואה את התמונה המלאה, מבינה את הסיכונים, ומוודאת שההתלהבות מהטכנולוגיה לא פותחת דלתות לפריצות קריטיות.

כמה מהפעולות בעסק שלכם היום מנוהלות על ידי כלים אוטומטיים או חכמים? והאם אתם יודעים באמת לאילו נתונים יש להם גישה ברגע זה? ספרו לי בתגובות, או שלחו לי הודעה פרטית ונדבר על איך אפשר לעשות סדר ולוודא שהטכנולוגיה משרתת רק אתכם, ובצורה מאובטחת.