"בואו לדבר עם מיה", מזמינה בתמימות הודעה אחת. "דון חואן הוא הצ'טבוט הרומנטי לנשים", קורצת הודעה שנייה. "EVA AI יכולה לעשות כל מה שתרצו. אין לה אתיקה או מוסר והיא יכולה להגיד דברים שאולי אתם לא מוכנים לשמוע", מצהירה הודעה שלישית ומבהירה מעל שום צל של ספק על מה אנחנו מדברים.
שיחות אירוטיות הן ממש לא המצאה חדשה, והצורות שבה מספקים אותן למי שמעוניין בהן הלכה והשתכללה עם השנים. מהפכת הבינה המלאכותית היצרנית - GenerativeAI או GenAI בקיצור - מהווה במובן זה אבולוציה כמעט מובנת מאליה.
כולנו מכירים כבר את הצ'טבוט ChatGPT ואת היכולות שלו להפיק טקסטים קוהרנטיים בשניות ספורות. מאז ששוחרר לאוויר העולם בנובמבר אשתקד נוספו לו שורה ארוכה של מתחרים על תשומת לב הקהל. חלקם להמונים כמו בארד של גוגל, אחרים פונים לנישות וצרכים ספציפיים יותר.
באופן טבעי, חברות הענק שעומדות מאחורי הצ'טבוטים האלו כמו OpenAI, מיקרוסופט וגוגל מגבילות את יכולת הביטוי שלהם כדי לוודא שהם מתאימים לכל המשפחה (אם כי גם כאן היו כמובן אי אילו נפילות). כעת מוצפת הרשת בצ'טבוטים מבוססי מודלי שפה גדולים ו-AI שנועדו לאפשר למשתמשים לנהל שיחות סקס ללא הגבלה, ולשחרר אותם מכבלי המוסר.
פלטפורמת המסרים וההודעות הקבוצתיות דיסקורד (Discord) כוללת קבוצות שמאפשרות לשתף צ'טבוטים שפותחו במיוחד למטרה של ניהול שיחות סקס. כל אחד מהם יכול להיות תפור לצורכי בעל קינק ספציפי או למלא פנטזיות פרטניות
פלטפורמת המסרים וההודעות הקבוצתיות דיסקורד (Discord) כוללת שרתים - הכינוי של הפלפורמה לקבוצות דיון - שמאפשרים לשתף צ'טבוטים שפותחו במיוחד למטרת שיחות סקס. כל אחד מהם יכול להיות תפור לצורכי בעל קינק ספציפי או למלא פנטזיות פרטניות. וכל זה בעיקר הודות לחברה אחת: מטא של מארק צוקרברג.
לפני מספר חודשים שחררה מטא - חברת האם של פייסבוק, ווטסאפ ואינסטגרם - גרסה חדשה של מודל השפה שלה LLaMA, ובניגוד למתחרות שלה בנתה אותו בקוד פתוח. החברה לא תכננה שהמודל יזכה לשימוש מסיבי במיוחד וייעדה אותו בעיקר לחוקרים. היא ודאי לא צפתה את השימושים השונים שהמשתמשים יעשו בו - אך מרגע ששחררה אותו לאוויר העולם נראה שזה היה מאוחר מדי. הקוד הפתוח הורד והופץ ברשת ועכשיו מטא וצוקרברג נאלצים לעמוד מאחורי ההחלטה לפתוח את המודל לשימוש חופשי, אולי חופשי מדי.
לייצר סרטוני סקס מזוייפים בקלילות
צ׳טבוט שמדבר גסויות הוא כמובן לא הדבר היחיד שאפשר לעשות עם מודל שפה בקוד פתוח. ישנם עוד הרבה שימושים שאפשר לעשות עם טכנולוגיה חדשה וחזקה כל כך. השאלה היא מי אחראי לתוצאות. אם הכלים החדשים מאפשרים לכל אחד לייצר אפליקציות חדשות בשניות, האם אנחנו מוכנים להשלכות?
מי יהיה אחראי כשכלים משוכללים בקוד פתוח יאפשרו להפיק בקלילות מסמכים ורשיונות מזויפים? או ליצור ולהפיץ תמונות וסרטים פונוגרפיים של אנשים שמעולם לא הצטלמו אליהם?
כבר עתה מסתובבים ברשת לא מעט כלים מבוססי AI שמאפשרים לא רק ליצור צ'טבוטים לשיחות סקס אלא גם תמונות וסרטונים. אפליקציות של דיפ-פייק (Deepfake) מאפשרות להלביש פרצופים על וידיאו ולייצר סרטוני "פורנו נקמה" (Revenge Porn) בכיכובם של אנשים שאין להם קשר לתוכן המקורי.
לפי דיווחים, כלים כאלו כבר משמשים לייצור פורנוגרפיית ילדים מתמונות שנסרקות ונאספות מרחבי הרשת. מי שתהה מה יקרה כשכלי ה-AI היצרנית החדשים והמשוכללים יגיעו לידיים הלא נכונות איחר את הרכבת. הן נפלו לידיים הללו כבר מזמן.
במטא לא מתייחסים לכל הבעיות האלה. במקום זאת, בחברה מקדמים את רעיון ה-AI בקוד פתוח כמה שישחרר את הטכנולוגיה החדשה מצרכים מסחריים צרים של חברות הטכנולוגיה הגדולות. תומכי הקוד הפתוח מאמינים שרק אם הקוד יגיע להמונים, נוכל לראות את הפוטנציאל האמיתי של הכלים האלה, כשהם לא רק משרתים את שורת הרווח של חברות הטק.
חברות כמו OpenAI וגוגל מתנגדות נחרצות לשימוש בקוד פתוח. מייסד ומנכ"ל OpenAI סם אלטמן אף התייחס לכך בביקורו האחרון בישראל, ואמר כי הכלים הללו תמיד יהיו בשוליים ולא יוכלו להגיע ליכולות של כלים עם קוד סגור.
כבר עתה מסתובבים ברשת לא מעט כלים מבוססי AI שמאפשרים לא רק ליצור צ'טבוטים לשיחות סקס אלא גם תמונות וסרטונים. אפליקציות של דיפ-פייק (Deepfake) מאפשרות להלביש פרצופים על וידיאו ולייצר סרטוני "פורנו נקמה" (Revenge Porn) בכיכובם של אנשים שאין להם קשר לתוכן המקורי
אך במטא מקווים שהקוד הפתוח יסייע לפופולריות של מודל ה-AI של החברה, שנחשב לזול ולקל לתפעול בהשוואה לזה של OpenAI. הפתיחות הזו, מקווים שם,תסייע למטא לעקוף את המתחרים ולשפר את היכולות של המודל. אך שני הצדדים חושבים על האינטרסים שלהם, וספק עד כמה הם באמת לוקחים בחשבון את שלום הציבור.
המחוקקים כבר מחפשים פתרונות
ההתפרצות הגדולה של תחום ה-AI היצרני משכה לזירה גם את גופי הממשל. כעת מנסים בממשל ביידן להבין איך יש לגבש רגולציה לתחום. בין היתר מנסים להבין שם איך אפשר להטיל על חברות שיפתחו מודלי שפה את האחריות לשימושים השונים שנעשים בהם.
מדען הקוגניטיביות גרי מרקוס שהעיד בפני הקונגרס האמריקאי בחודש מאי אמר שכמו שלא היינו רוצים שטכנולוגיה גרעינית תהיה בקוד פתוח, כך צריך לחשוב על AI: "נכון שעכשיו הטכנולוגיה מוגבלת, אבל דברים יכולים להשתנות", אמר.
לטענת קלמנט דלנז׳, ה-CEO של חברת Hugging Face שמפתחת פלטפורמות המיועדות למפתחי AI, אסור לאפשר לחברות הטק הגדולות לפתח לבדן טכנולוגיות שבכוחן לשנות את פני הכלכלה. "אסור לתת להן לעבוד בתוך קופסה שחורה", אמר בעדות בפני הקונגרס. דלנז' ניסה לשכנע את המחוקקים שחברות שמפתחות מודלי AI צריכות לספק כלים שיאפשרו לבדוק את הפיתוח שלהן.
השאלות בדבר השפעות טכנולוגיות ה-AI היצרנית והנגישות הגדולה שלה הודות לשחרור המודלים בקוד פתוח צפויות רק ללכת ולהתרבות. בינתיים הצ'טבוטים הצבעוניים ביותר שנוצרים בהם מתנהלים במחשכים, בפינות האפלות והנסתרות יותר של האינטרנט. אבל ספק שכחברה הגענו לקצה היכולת של השימוש בהם ושל הדמיון האנושי, לטוב ולרע.