ארבע עצות למערכת החינוך בנוגע לבינה מלאכותית יוצרת

 

הדיונים על מה לעשות במערכת החינוך עם בינה מלאכותית בכלל ובינה מלאכותית יוצרת בפרט מציפים את הרשת ואת השיח המקצועי והפופולרי. בדרך כלל, השיח נוטה להיות או דטרמינסטי, כלומר כזה שמניח גרף התקדמות והשפעה ברור של הטכנולוגיה החדשה, או נלהב, כזה שרואה את היתרונות הגדולים של הכלים הטכנולוגיים החדשים.

בעשר השנים האחרונות אפשר להגדיר את מה שאני עושה כחוקר ביקורתי של טכנולוגיה חינוכית - critical edtech. מה שהעמדה והפעילות הזו איפשרה לי היא לראות את התמונה הרחבה של טכנולוגיות דיגיטליות בחינוך: ברמה  היסטורית, מה קרה עם טכנולוגיות קודמות כשהן פגשו את מערכת החינוך, מה השתנה, במה השתמשו, מה הצליח, מה נכשל ואיך השפיע אם בכלל. ברמה האנליטית, המבט של חוקר ביקורתי של טכנולוגיה חינוכית איפשר לי להתבונן על ההקשרים שמתוכם מפותחים ומשווקים כלים טכנו-חינוכיים, את האופן שבו הם מוצגים ואת הרעיונות התרבותיים, החברתיים, הכלכליים והפוליטיים שקשורים ומוטמעים בהם. השיעורים הללו מאפשרים להתבונן על נקודת הזמן הנוכחית באופן רחב יותר הלוקח בחשבון היבטים שונים, שחקנים שונים והשפעות שונות.

לאור זאת, השאלה מה מערכת החינוך צריכה לעשות מול המתקפה הזו של ההתפתחות של בינה מלאכותית יוצרת היא שאלה קריטית. לרוב כחוקר ביקורתי אני לא מבקש להמליץ על פעולות מעשיות או על שאלות של מדיניות חינוך. דווקא פה אבקש לחרוג ממנהגי ולהציע כמה עצות מעשיות בהקשר הזה:

1. יש להבחין בין כלים ובין פלטפורמות - יש הרבה כלים חינמיים (או במחיר נמוך ברשת) ומורים ספציפיים יכולים לעשות בהם שימוש נקודתי כזה או אחר. יש מורות שיודעות איך לזהות ולמצוא את הכלים הללו ויש כאלה שלא, אבל בסופו של דבר מה שחשוב הוא שהאוטונומיה נמצאת אצל המורה (או אצל בית הספר) ביכולת שלו לשלב בתהליכי הלמידה של תלמידיו כלים שונים ומגוונים. למעשה למערכת החינוך אין את היכולת לפקח על השימוש הזה. כל המורים משתמשים בצורה רחבה מאד בכלי יחסית פרימטיבי בשם Kahoot. אף אחד מעולם לא ביקש אישור ממשרד החינוך על כך ואף אחד לא יכול לפקח על כך.

לעומת זאת, פלטפורמות הן מערכות רחבות יותר שבהן נאספים נתונים רבים על תלמידים, מועבר מידע בין מורים ובין בתי ספר וכו'. פלטפורמות שונות מציעות דרך לנהל את בית הספר בצורה מיטבית. גם פה המערכת די פרוצה וחבל מכיוון שהסכנות של פרטיות, של מעקב, של דליפת מידע, ושל קבלת החלטות אוטומטית העוקפת את הגורם האנושי מודגשות מאד.

אז מה לעשות: ברמה של הכלים ההצעה שלי למשרד החינוך היא לא לעשות כלום. כבר צצים השתלמויות למורים על כלים שונים וזה בסדר גמור, תמיד יהיה פער בין מי שידע להשתמש בכלים ובין מי שלא, תמיד יהיו כלים שנוחות השימוש בהם תקבע את מידת השימוש בהם ואין באמת הוכחה שמי שמשתמש בכלים כאלה הוא באמת מורה יותר טוב. בכל מקרה ייטב למשרד החינוך לא להתערב יתר על המידה מעבר למעקב כללי בבחירות של מורים ובתי ספר. דוקא ברמת הפלטפורמות המצב הרגולטיבי די גרוע.  ושם צריכה להיות מערכת שלומדת את העסק לעומק ומייצרת רגולוציה מוסדרת וברורה.

2. מדינת ישראל מוצגת כמדינה בירוקרטית וכבדה אבל בפועל ברמת הרגולוציה הדיגיטלית שלה היא די מאחור לעומת מדינות אחרות. לעומת התפיסה של מדינות אירופה שבאה לידי ביטוי בGDPR הרי התפיסה של מדינת ישראל היא די מקלה הן ברמת החוקים הקיימים והן ברמת הרגולוציה המוצעת. מערכת החינוך היא סיפור אחר, אבל לא מאד אחר. יש רגולוציה רחבה על נתונים אבל היא לא מאד מעודכנת לעידן הבינה המלאכותית. עכשיו, רגולוציה היא דבר גמיש ומשתנה, היכולות הטכנולוגיות משתנות כל הזמן, המציאות משתנה, היעדים משתנים. למול ההשתנות הזו צריך להיות גוף שידע לא רק לייצר רגולוציה ותקנות חד פעמיות אלא ללמוד כל פעם מחדש את השדה ולעדכן ולשנות. עד שיבוא גוף כזה ההמלצה שלי היא ללכת עם הרגולוציה המחמירה ביותר על נתונים, זכויות הילד, ופרטיות. הסיבה מאד פשוטה: כל עוד התרומה של בינה מלאכותית יוצרת לקבלת ההחלטות במערכת החינוך לא מוכחת (וחשוב להדגיש היא ממש לא מוכחת), הרי שהסיכונים הם רבים מכדי להתעלם מהם. זה לא רק שאלה של איזון, אלא גם שאלה של יכולת לחזור אחורה בזמן: ברגע שנפתח פתח רגולטיבי הרי שהמערכות מסתגלות והיכולת להחזיר הגנה בדיעבד היא  כמעט בלתי אפשרית .
3. אימרו לא לחזיונות השווא. אנשי הטכנולוגיה מציעים לנו את מערכות הבינה המלאכותית כפתרון לקבלת החלטות מדוייקת יותר ברמה המערכתית על בסיס איסוף נתונים ותהליכי פרדיקציה מתוחכמים. לדוגמא: מערכת בינה מלאכותית שיכולה לחזות את הפעילות הבית ספרית העתידית ולסגור בתי ספר כושלים או מערכת בינה מלאכותית שיכולה לחזות את ההצלחה העתידית של תלמיד ולכוון אותו למסלול לימודים מתאים. צריך להגיד בצורה ברורה אלו הן חזיונות שווא. מערכות בינה מלאכותית גרועות בחיזוי חברתי. זה קשור לעובדה שהן מלאות בהטיות מבניות שונות, זה קשור לעובדה שהן משכפלות דפוסים. הידע שנצבר על כך די ברור. אבל גם אם תוכח היעילות והדיוק של כלי כזה או אחר (וצריך לשאול איך מוכיחים דיוק בכלים שהם לא חלק מהכלי עצמו), הרי שאסור שקבלת ההחלטות החינוכית תופקע מהגורם האנושי. במיוחד לאור זאת שכלים של בינה מלאכותית אינם שקופים ומתקשים לייצר הסברתיות. הפיתוי הוא גדול ואנשי הטכנולוגיה יבטיחו לכם הרים וגבעות אבל עדיף בשלב הזה לא להכניס לשימוש כלים כאלה ברמה של קבלת החלטות. ובכלל לקבל את ההבטחות הללו עם גרגר של מלח ועם הרבה חשדנות בריאה.
4. הנקודה האחרונה היא החשובה ביותר ואפשר לקרוא לה "אוריינות דיגיטלית" (אלא שאני מתכוון לאוריינות דיגיטלית במובנים יותר רחבים). במילים אחרות, בית הספר צריך להיות מקום שבו לא רק משתמשים בכלים דיגיטליים אלא גם לומדים אותם ואת החיים לצידם ובתוכם. כבר יותר מדי זמן בתי ספר מתעלמים מהפילים שבחדר: מאיך שעולם הידע שלנו משתנה, מהכוח (המשחית, בעיקר משחית) של רשתות חברתיות, מהקסם האימתני של המסכים ועכשיו מהקלות של היצירה דרך בינה מלאכותית. אלה הם פילים שלא מספיק רק לשאול בתוכם איך התלמידים השתנו, אלא לדבר עם התלמידים על ההיבטים השונים של החיים האלה. לחנך, ולחנך זו לא מילה גסה, לחיים עם ובתוך העולם הדיגיטלי. לדוגמא: לא מספיק שמורה משתמשת עם תלמידיה בצורה מתוחכמת בchat GPT, אלא כדאי שהיא תדבר איתם על המשמעויות השונות של השימוש בChat-GPT, איך באמת זה עובד, מה הוא לא יודע לעשות, איך יודעים שמה שהוא מציג הוא אמת,  שאלות של העתקה וחיקוי, של המקום ליצירה אנושית, ההטיות אפשריות, המחיר הסביבתי העצום בשימוש בבינה מלאכותית יוצרת ועוד ועוד. לא צריך להמציא את הגלגל. משרד החינוך לא צריך לבנות עכשיו מאות מערכי שיעור בנושא, גם המורים לא. אפשר פשוט קודם כל לשוחח, לעורר שאלות, לראות מה אנחנו מבינים ומה לא. למידת "האוריינות הדיגיטלית" (על כלל היבטיה והם רבים) היא הרבה יותר חשובה מאד שימוש בכלי בינה מלאכותית יוצרת זה או אחר והיא צריכה להיות המרכז של העיסוק במערכת החינוך בנושא.