שלטון האלגוריתמים ואלגוריתמים שלטוניים

בעשורים האחרונים התפתח סוג חדש של שלטון – כזה שאינו מתנהל דרך מוסדות פוליטיים בלבד, אלא דרך אלגוריתמים. מערכות חכמות מנתחות, מעריכות, מסווגות ומחליטות – לעיתים במקום בני אדם. הספר Algorithmic Governance and Governance of Algorithms, בעריכת מרטין אברס ומרתה קנטרו גמִיטו, מציע התבוננות רחבה בתופעה זו, ומבחין בין שני מישורים:
האחד הוא “שלטון באמצעות אלגוריתמים” (governance by algorithms) – כלומר שימוש באלגוריתמים כדי לנהל תחומים כמו בריאות, חינוך, ביטחון ורווחה; והשני הוא “שלטון על האלגוריתמים” (governance of algorithms) – הניסיון להטיל עליהם רגולציה, אתיקה ובקרה משפטית.

אלגוריתמים ככוח חברתי

אברס וקנטרו גמִיטו טוענים כי אלגוריתמים אינם רק כלי טכני אלא גם כוח חברתי חדש. הם קובעים מי יקבל הלוואה, מי יזכה במשרה, ומי יסווג כבעל “סיכון גבוה” במערכת ביטחונית או כלכלית. מאחורי המכניזם הקר והאובייקטיבי לכאורה מסתתרים ערכים, הנחות יסוד והטיות אנושיות. כך, למשל, אלגוריתם הלומד מנתונים היסטוריים עלול לשעתק דפוסי אפליה קיימים כלפי מיעוטים או נשים – לא משום שהוא “רע”, אלא משום שהוא לומד מציאות חברתית מוטה.

מכאן עולה שאלת הלגיטימיות: כיצד ניתן לשמר אחריות, שקיפות וצדק בעולם שבו החלטות מתקבלות על ידי “קופסה שחורה” חישובית? בספר נטען כי המשטר הדמוקרטי מבוסס על עקרון ההצדקה הציבורית – על כך שכל החלטה ניתנת להסבר ולערעור. אולם כאשר האלגוריתם הוא זה שמכריע, היכולת להבין את ההיגיון שמאחורי ההחלטה נעלמת. לכן “שלטון האלגוריתמים” מחייב “שלטון על האלגוריתמים” – מערכת של פיקוח, רגולציה ופיתוח עקרונות של שקיפות אלגוריתמית, זכות להסבר ורגישות חברתית.

בין יעילות לצדק

אחד המתח המרכזיים שמציג הספר הוא בין יעילות טכנולוגית לבין צדק חברתי. האלגוריתם מבטיח חיסכון בזמן ובמשאבים, אך המחיר הוא לעיתים אובדן של שיקול דעת אנושי ושל אמפתיה. בספר מובאות דוגמאות ממערכות רווחה ובריאות שבהן ניהול אלגוריתמי שיפר את המהירות אך פגע בדיוק או בהוגנות. השאלה אינה אם להשתמש באלגוריתמים, אלא כיצד – באילו תחומים, באילו גבולות, ובאיזה פיקוח מוסרי וחוקי.

מעבר לדיון המשפטי, הספר נוגע בשאלות פילוסופיות עמוקות: מהו שלטון בעידן שבו כוח ההכרעה עובר למערכות אוטונומיות? האם ניתן לייחס אחריות מוסרית לאלגוריתם? והאם אנו, בני האדם, נותרנו ריבוניים באמת כאשר המרחב הציבורי מתנהל על פי חישוביות מתמדת של סיכונים ויעילות?