פינה מלאכותית

מה שהיה הוא שיהיה, ולא יהיה יותר חדש תחת השמש ?

בין המגמות החמות והמתעצמות של קדמת הטכנולוגיה וההי-טק, והמרחב הצרכני שסביבם, עולה ומתפתחת ומתמקמת יותר ויותר כסיסמה נחשקת, המגמה לפרסונליזציה ותכנים מותאמים אישית. אישית באופן אוטומטי ועל-ידי מחשב כמובן.

האפליקציות במחשב האישי ובטלפון שלנו, וגם המערכות הממוחשבות בארגונים גדולים שאנו לקוחות שלהם, מתאמצות כיום ויותר ויותר מצליחות ללמוד את הבחירות שלנו, לתעד את מה שמסתמן כנטיות והעדפות שלנו, ולשרטט מתוך המידע הזה אודותינו את התכנים והשירותים שכנראה תואמים בצורה יותר טובה למי שאנחנו, לסגנון שלנו, למה שמעניין אותנו, ולצרכים שלנו.

פייסבוק לומד מההתנהגות שלנו בתוכו וברשת בכלל אילו קבוצות ופרסומות ואירועים ואנשים עשויים להיות קרובים למאפיינים שלנו ולהעדפות שלנו, בכדי להציע לנו דווקא אותם. ספוטיפיי רושמת לעצמה ומנתחת את אופי השירים שאנו בוחרים לשמוע בה, כדי להציע לנו רק שירים דומים. אם קנית באיזו חנות מקוונת ספר בישול צמחוני, צפוי שתוך זמן לא רב תחלנה להגיע אליך פרסומות למסעדות צמחוניות, בעיקר באזור מגוריך, כמו גם לחנויות טבע בסביבה. אם בחרת לקרוא באתר חדשות מסוים מאמר בנושא מסוים, יתחילו לקפוץ לך מאמרים בנושאים דומים. אם בחרת ב-VOD כמה סרטי אימה ומתח, ההמלצות לאחר מכן כנראה לא תעסוקנה בקומדיות רומנטיות.

לכאורה, היכולות של הטכנולוגיה בת זמננו להביא התאמה שכזו של התכנים והשירותים ללקוחותיה, מתוך ולאור בחירות והתנהגויות שלהם בעבר, מבטאת רמת שירות גבוהה, וחוסכת ללקוחות זמן והתעסקות סביב תכנים שברוב המקרים צפויים פחות לעניין אותם. לכאורה כל התהליכים של הצעת שירותים ותכנים, מכירתם, וצריכתם, הופכים ליותר יעילים וממוקדים, וכל הצדדים מרוויחים. גם הלקוחות, וגם המציעים והמוכרים.

אך המחיר, הוא, שלאנשים פחות ופחות מזומנת האפשרות לפגוש בקלות תכנים ודברים שעד היום לא היו חלק מהחיים שלהם וממי שהם. פעם כשהיית נכנס לחנות דיסקים, אז חוץ מהאומן או הלהקה שאותם חיפשת, העיניים שלך פגשו על מדפי החנות דיסקים של עוד עשרות אמנים וסגנונות מוזיקליים. בדרך-כלל היה אפשר לבקש שם מהמוכר לשמוע קטעים מדיסקים שונים, ובדרך-כלל היית יוצא מביקור כזה חוץ מאשר עם הדיסקים שחיפשת, גם אם עוד כמה, שעד אז אולי בכלל לא ידעת שקיימים. ולפעמים הדיסקים שחיפשת בכלל לא היו בנמצא, והיית חוזר אך ורק עם דיסקים אחרים, שלא הכרת ולא תכננת כלל שיהיו ויתנגנו אצלך ועבורך, ביום מן הימים. תודות לחנויות ההן ולשיטת הצריכה הבלתי מותאמת אישית ובלתי אוטומטית, התוודעתי פעם למגוון רחב של סגנונות ומבצעים מוזיקליים, והצד הזה של האזנה למוסיקה והנאה ממנה, נהייה עשיר באמת. העובדה שהייתי חייב לפגוש דברים אחרים מאלה שאיתם באתי, שזומנה לי בחנות האפשרות להפגיש את עצמי עם דברים לא מוכרים, שעדיין לא ידעתי שאני יכול לאהוב אותם ולהפיק מהם – העובדה הזו עזרה לי להרחיב את עולמי ואת עצמי, ולהתפתח.

אבל היום, כשנכנסים לספוטיפיי או לחנות דיסקים או מוזיקה מקוונת, העיניים לא יכולות ולא מזומנות לרוץ על פני כל מיני מדפים ואריזות של דברים גם חדשים ולא מוכרים ושונים. אתה מתבקש להקליד את מה שאתה מחפש, ואחרי שמצאת ואולי קנית, בפעם הבאה שתיכנס, כל מקום פנוי במסך יכיל הצעות לדברים דומים לאלה שכבר חיפשת וקנית. אם לא תתאמץ ממש, לא תפגוש שם בהמשך שום דבר שבאמת יכול להיות חדש עבורך, באופן מהותי. תפגוש שם את התכנים המותאמים אוטומטית לך. את מה שכבר פחות או יותר מוכר לך, ושאתה רגיל אליו. את מי שהיית עד לרגע הזה, ולא את מי שאתה יכול להיות החל מהרגע הזה.

בחנות הדיסקים של פעם היית חייב להתלבט התלבטות אמיתית. לבחור בין מדפים ודיסקים שיכולים היו להיות מאוד שונים זה מזה. ואילו בחנות הדיסקים המקוונת, או ברשתות החברתיות, ושאר האפליקציות והמערכות המסחריות שמציעות לך את התכנים המותאמים לך, לדעתן האוטומטית, מתוך העבר שלך איתן – הבחירה שנשארת לך הרבה פחות מהותית ומשמעותית. את הבחירה והסלקציה העקרונית בין סוגי הדברים, הטכנולוגיה כבר עשתה בשבילך. כל מה שלך נשאר, זה להכריע בין הפריטים שמשתייכים לאותו סוג או סגנון של דברים, שאותו הטכנולוגיה כבר זיהתה כמתאים לך. לא באמת הכרעה כזו מכריעה... מה שלא תבחר ותחליט, פריצת דרך או דרך חדשה באופן מהותי לא תצמח לך מזה, אלא רק עוד מהדומה, אולי עם טיפה ניו-אנס כזה או אחר.

אם סיבה והזדמנות לפגוש מגוון רחב של דברים שונים ואפשרויות שונות, הן מרכיב אחד חשוב ביכולת שלנו לצמוח ולהתפתח, מתוך ודרך התנסות ומפגש גם עם החדש והשונה, הרי שמרכיב קריטי שני הוא הצורך וההזדמנות להתלבט, לשקול ולבחור לעצמו את הדבר הבא, ואת עצמנו, בצורה מהותית ומשמעותית. דבר שגם אותו ההתאמה הטכנולוגית אוטומטית של תכנים ושירותים די חוסכת מלקוחותיה.

במילים אחרות, הקידמה הטכנולוגית של הפרסונליזציה והתכנים המותאמים אוטומטית, למעשה ממחזרת כל הזמן את העבר. היא מצמצמת את ההתנסות והבחירה העצמית המשמעותית, ואת החוויה החופשית והעשירה בעולם. משאירה את האופקים מוגבלים, ופועלת על ההתפתחות האישית באופן סוגר ומנוון.

מי שמצוי מעט יותר בעולמות הטכנולוגיה העכשווית מתקדמת, עשוי להכיר מגמה נוספת שצומחת ותופסת תאוצה כיום, עם זיקה מסוימת לזו שכבר הוזכרה: המגמה של בינה מלאכותית מבוססת Machine Learning. מערכות מחשב משוכללות שיודעות לחלץ תובנות או תחזיות או המלצות קדימה, מתוך הרבה מאוד נתונים מן העבר, שהצטברו בבסיסי הנתונים הממוחשבים. למשל, תודות לכך שאפשר לשמור כיום בבסיס נתונים עשרות אלפי תמונות פנים של אנשים שמחים או עצובים, ביחד עם תיוג של כל תמונה לאחת מן האפשרויות "אדם שמח" או "אדם עצוב", ניתן להריץ במחשב תוכנה שיודעת לנתח ולזכור את המאפיינים של כל אלפי הפרצופים שמשמעותם אדם שמח או עצוב. לאחר מכן, על בסיס ה"למידה" של המאפיינים מאלפי המקרים הללו, המחשב יכול לחוות דעה, לגבי תמונת פנים חדשה שמוצגת לו, ולקבוע האם מדובר באדם שמח או עצוב. באופן דומה, ניתוח ועיבוד של עשרות אלפי תמונות פנים של אנשים שהורשעו בעבירות אלימות ויושבים בכלא, ו/או ניתוח של עשרות אלפי נתונים ביוגרפיים של אנשים כאלה, עשוי להניב בהמשך ממערכות הבינה המלאכותית המתפתחות כיום, ניבוי באשר לסיכוי שאדם חדש ספציפי יורשע בגין עבירות אלימות וישב בכלא, לפי תמונת הפנים שלו, ו/או נתונים ביוגרפיים שלו. אם ניקח נניח סטים של נתונים אישיים מסוימים, שכוללים נניח ציוני בגרות לצד פרמטרים משפחתיים וסוציואקונומיים מסוימים, מעשרות אלפי אנשים שהפכו לרופאים, נוכל תאורטית להסיק באמצעות מערכות הבינה המלאכותית, ביחס לאדם מסוים חדש, עד כמה הוא מתאים להיות רופא, על בסיס בחינה של אותם נתונים ופרמטרים אישיים וציונים מהבגרות מקבילים לשלו.

הדברים האלה עדיין לא בדיוק קורים, אבל הם כנראה בדרך. הולכים ומתאפשרים מבחינת הטכנולוגיה, וחברות תוכנה שוקדות ומפתחות אותם, וארגונים ועסקים ומוסדות אקדמיים ומשפטיים נערכים אליהם.

מה יקרה אם נוכל למיין ולקטלג אנשים בצורה אוטומטית יעילה מאוד, על בסיס ייחוס של נתונים שלהם אל מול מאגר גדול מאוד של נתוני אנשים אחרים, שהוכיחו את עצמם להקשר דומה, בעבר? כמו במקרה של התכנים והשירותים המותאמים אוטומטית אישית, נקבל גם כאן כדברים עתידיים רצויים ומאושרים מבחינתנו, רק דברים שתואמים עבורנו את מה שכבר היה לנו ושמחנו בו, בעבר. זה אומר שהאנשים שיוכלו להיות הרופאים שלנו בעתיד, יוכלו להיות רק כאלה שדומים במאפייניהם למי שהיו הרופאים שלנו בעבר. אולי זה אומר שהאומנים של העתיד, (שיתקבלו ללימודי האמנות), יהיו דומים לאומנים של העבר. שהמנהיגים של העתיד יהיו דומים למנהיגים של העבר. ושבבתי הכלא של העתיד יישבו אנשים שדומים לאנשים שיושבים בבתי כלא כיום.

איינשטיין לא היה בעל נתונים אישיים דומים לאלה של המדענים שקדמו לו. האם מערכת בינה מלאכותית מבוססת Machine Learning שממליצה את מי כן או לא לקבל ללימודי פיסיקה, על-סמך נתונים ביוגרפיים של אלפי מדענים מן העבר, הייתה יודעת לתת לו צ'אנס? כנ"ל בטהובן... ועוד רבים גדולים אחרים... כל מי שחריג ומיוחד באופן מיוחד, כזה שאולי טמון בו משהו גדול או חדש מיוחד עבור המין האנושי, עלול ואולי אף צפוי להתפספס על-ידי מערכת ממיינת שמסתמכת על ניתוח ממצע, ולמידה מסכמת, על-פני עשרות אלפי או מיליוני אנשים רגילים.

כמו במקרה של שירותים ותכנים מותאמים אוטומטית אישית – אם ניתן לטכנולוגיה לבחור ולמיין ולקטלג עבורנו, במקומנו, על בסיס ולפי העבר, הרי שנמנע מעצמנו אפשרות ליהנות ממגוון, מחדשנויות חדשות ושונות באמת, מפריצות דרך, ומעתיד חדש ומחדש ואחר.

תכנים ושירותים מותאמים אישית על-בסיס התנהגויות והעדפות הלקוח בעבר, ובינה מלאכותית שמקטלגת וממליצה לגבי העתיד מתוך רבבות המקרים הדומים בעבר – שתיהן למעשה מציבות לפנינו, על דרכנו קדימה את מה שהזינו להם שהיה ובא ממאחורינו. ובכך דואגות למעשה, שמה שהיה הוא שיהיה.

הבינה המלאכותית הזו הולכת ומכניסה אותנו לפינה די בעייתית.