איזה מידע באמת נדרש?
מצמצמים את הקלט למה שהמשימה צריכה. אם אפשר לעבוד בלי שם, מספר זהות או מסמך מלא, המידע הזה נשאר בחוץ.
אבטחת מידע ושימוש אחראי ב-AI
אבטחה מתחילה במחיר של טעות. מגדירים איזה מידע נכנס, מי רשאי לגשת אליו, היכן אדם בודק לפני פעולה, ואיך נבחרים ספק וכלי.
אבטחה מתחילה במחיר של טעות
אותו כלי יכול להתאים למשימה אחת ולהיות מסוכן באחרת. בודקים את המידע, את המשתמש, את הפעולה ואת מה שעלול לקרות אם התוצאה שגויה.
מי צריך לראות ולעשות?
גישה ניתנת לפי תפקיד ומטרה. קריאה, עריכה ושליחה אינן אותה הרשאה, ולא כל משתמש צריך את שלושתן.
איפה התוצאה נבדקת?
תוצר AI יכול להיות חסר או שגוי. נקודת הבקרה נקבעת לפי הסיכון, לפני שהתוצאה נשלחת, נרשמת או מפעילה פעולה.
מה קורה כשהמערכת אינה בטוחה?
מגדירים מתי לעצור, לבקש מידע נוסף, להעביר לאדם או לסמן שהפעולה לא הושלמה.
עבודה עם חומר רגיש
לא מזינים מידע רגיש לכלי ציבורי בלי אישור. לפי הצורך עובדים עם חומר אנונימי, סביבת AI ארגונית, הרשאות מצומצמות או נתוני דוגמה שהוכנו מראש.
בחירת ספק וכלי
בוחנים את סוג המידע, תנאי השימוש, מיקום האחסון, יכולות הניהול והמדיניות הקיימת בארגון. אין כלי אחד שמתאים אוטומטית לכל לקוח ולכל תהליך.
סודיות ושימוש במידע
מידע שמתקבל לצורך פרויקט משמש למטרה שסוכמה. היקף הגישה, אופן העבודה והאחריות נקבעים בהתקשרות ובהתאם למערכות המעורבות.
שמירה ומחיקה
מה נשמר, היכן ולכמה זמן נקבע לפי צורך הפרויקט, מדיניות הלקוח ומגבלות השירותים שבהם משתמשים. כאשר מידע אינו נדרש עוד, פועלים לפי ההסכמות שנקבעו.
אימות תוצרים
בדיקת תשובה אינה פעולה אחת. במסמך אפשר לחזור למקור. בחישוב צריך לבדוק את הנתונים והנוסחה. בפעולה מערכתית צריך לוודא הרשאה, יעד ותוצאה. הבקרה מותאמת לסוג הטעות שעלולה לקרות.
מה העמוד הזה אינו מבטיח
אלה עקרונות עבודה, לא הצהרה על תקן, תאימות רגולטורית או התאמה משפטית. בכל פרויקט מגדירים את הדרישות והבקרות לפי ההקשר ובעלי האחריות בארגון.
חדשות AI
פגישה על תהליך אחד
בשיחה הראשונה מתארים את התהליך, איפה המידע נמצא ומה צריך להשתנות. משם ברור אם מתחילים בהכשרה, באוטומציה או במערכת.