ההתפתחות המהירה של כלי הבינה המלאכותית בשנה האחרונה מציירת מציאות מלהיבה ומתקדמת של אינספור אפשרויות חדשות. אך במקביל, הולכים ומתרבים סימני השאלה לגבי ההשלכות הלא ברורות של הכלים החדשים הללו על האנושות.
"סכנות הבינה המלאכותית צריכות להיבחן כמו איומים אחרים על העולם - מגפה עולמית או מלחמה גרעינית", התריעו השבוע בכירים בתעשיית ה-AI, בהם גם סם אלטמן מנכ"ל OpenAI (החברה שמאחורי הצ'טבוט ChatGPT); מנכ"ל DeepMind (זרוע הבינה המלאכותית של גוגל) דמיס האסביס ואחרים.
We’ve released a statement on the risk of extinction from AI.
Signatories include:
- Three Turing Award winners
- Authors of the standard textbooks on AI/DL/RL
- CEOs and Execs from OpenAI, Microsoft, Google, Google DeepMind, Anthropic
- Many morehttps://t.co/mkJWhCRVwB
הקריאה התפרסמה על ידי ארגון ללא מטרת רווח לבטיחות בבינה מלאכותית, וחתומים עליה גם שניים מאבות התחום, שנחשבים למי שפרצו דרך בתעשייה, ג'פרי הינטון ויהושוע בנגיו. הינטון התראיין לפני מספר שבועות לניו יורק טיימס אז הזהיר מפני הסכנות הגלומות ב-AI והצביע על כך שחברות רבות דוהרות קדימה מבלי לעמוד על הנזקים האפשריים לעולם. הוא אף הביע חרטה על כך שהשקיע שנים ארוכות מחייו בעבודה בתחום, ואחרי שנים רבות עזב את המשרה שלו בגוגל.
מכתב זה והצהרות נוספות שפורסמו בחודשים האחרונים, עליהן היו חתומים גם יזמים בולטים כמו מייסד אפל סטיב ווזניאק והפילוסוף ד"ר יובל נוח הררי, מצטרפות לקריאות שמגיעות מהתעשייה עצמה. אפילו אלטמן התריע באוזני חברי הסנאט בארה"ב בשבוע שעבר ש"אם הטכנולוגיה הזו (בינה מלאכותית, ד"א) משתבשת - היא ממש יכולה להשתבש". במפתיע, אלטמן קרא לרגולציה על התחום, ואף הציע לגבש סוכנות ממשלתית, שתהיה אחראית על מתן רישוי לחברות המבקשות לפתח בינה מלאכותית עוצמתית.
באיחוד האירופי לא מחכים לאף אחד
קריאות לרגולציה על התחום מגיעות לא רק מחוקרים ומדענים, אלא גם מהציבור. בסקר שפורסם לאחרונה בבריטניה, קרוב ל-60% מהנשאלים אמרו שהם מעוניינים שהממשלה הבריטית תפקח ותפעיל רגולציה על שימוש בכלי AI במקומות עבודה. בסקר, שענו עליו יותר מאלף איש, 58% נהנשאלים הסכימו שהממשלה צריכה לקבוע סט חוקים סביב מוצרי AI על מנת להגן על מקומות עבודה.
באופן טבעי, באיחוד האירופי מובילים את המהלך וכבר עובדים על שורה של החלטות רגולטוריות חדשות שיוכלו להגביל מאוד את הפיתוח וההפצה של כלי AI. האתגר של האיחוד האירופי ברגע זה הוא שטיוטת ההחלטה, שאורכה 108 עמודים, צריכה את אישורן של כל המדינות החברות באיחוד. ההחלטות יצטרכו לתת מענה למגוון רחב של בעיות שדורשות בכרעה רגולטורית, החל מהיכולת של חברות לפתח כל כלי AI שהן חפצות בו, ועד כמה מקומות עבודה יכולים להטמיע את הכלים האלה לתוך התהליכים היום יומיים שלהם - ובכך להחליף חלק גדול מכוח האדם שמועסק בהם.
מגוון רחב של בעיות דורשות הכרעה רגולטורית, החל מהיכולת של חברות לפתח כל כלי AI ועד כמה מקומות עבודה יכולים להטמיע את הכלים האלה ולהחליף בהם עובדים
חלק מהמדינות האירופאיות לא מחכות להכרעה כלל יבשתית. באפריל, איטליה אסרה זמנית על השימוש ב-ChatGPT מחשש שחברת OpenAI לא עומדת בסטנדרטים של הגנת הפרטיות במדינה. החשש של המחוקק האיטלקי היתה מפני השימוש במידע שמשתמשים מזינים לשירות. בסופו של דבר, אחרי שינוי בהגדרות הפרטיות של OpenAI, המחוקק אפשר שוב את השימוש בשירות. בתגובה מסר אלטמן לאחרונה כי במידה והרגולציה תהיה מחירה מדי, הוא לא רואה כיצד OpenAI תוכל לתפקד באירופה - והיא תצא לחלוטין מהשוק המקומי. באותה נשימה הוא כן הצהיר שלפני שיבצעו צעד כזה, הם יעשו כל מה שביכולתם על מנת לעמוד בדרישות הרגולטוריות החדשות, כשאלה יבואו.
ארה"ב: "הפעם זה מרגיש הרבה יותר דחוף"
בארה"ב מתקדמים בקצב איטי ומדוד יותר בנושא הרגולציה. הבית הלבן פרסם בקשה להערות הציבור על האופן שבו יש לפקח על כלי AI, כשהדגש מבחינתם הוא בכלל על סכנה אפשרית לביטחון הלאומי וכן על שאלות שעוסקות בחינוך. ראש האגף לתקשורת ומידע בארה"ב אמר בהצהרה לתקשורת כי "אנחנו חייבים לנוע מהר מאוד, כי הטכנולוגיות האלה נעות מהר מאוד. אין לנו את החסד שהיה לנו עם טכנולוגיות אחרות - הפעם זה מרגיש הרבה יותר דחוף". למרות ההצהרה, התהליך שהחל רק עכשיו הוא תהליך ארוך מאוד, והמחוקק האמריקאי ידוע כאיטי מאוד, במיוחד בנוגע לנושאים טכנולוגיים.
בישראל צפויים להימנע מחקיקה
בישראל, לעומת זאת, המצב הרגולטורי הוא הרחק מאחור. מדינת ישראל תפעיל "רגולציה רכה" בצורת תקינה וולונטרית ורגולציה עצמית על פיתוח בינה מלאכותית ותימנע מחקיקה מגבילה בנושא - כך עלה מטיוטת מדיניות שפירסמו משרד החדשנות, משרד המדע והטכנולוגיה ומשרד המשפטים. מדובר במהלך מנוגד לחקיקה שמתגבשת באיחוד האירופי, שמכתיבה בדיקות מדוקדקות של כל אלגוריתם כדי לוודא שאינו מסוכן לציבור. הרגולציה המוצעת תתבסס על כלים לניהול סיכונים, תיעשה תוך שימוש בכלי רגולציה "רכים" ותפותח באופן מודולרי תוך שימוש בכלי נסיינות רגולטורית. יתכן ובישראל, כמו במקרים דומים בעבר, מחכים למעבר של החוקים האירופאים לפני שיחליטו האם לאמץ חלק מהם.