מחקר שנערך לאחרונה על ידי חוקרים מ- אוניברסיטת מזרח אנגליה בבריטניה שפכה אור על הטיה פוליטית פוטנציאלית הטבועה בצ'אט של OpenAI. גילוי זה מדגיש את האתגרים המתמשכים העומדים בפני חברות בינה מלאכותית בשליטה על התנהגות הבוטים שלהן, במיוחד כאשר בוטים אלה הופכים לחלק בלתי נפרד מחייהם של מיליוני משתמשים ברחבי העולם.
במסגרת המחקר, צ'אט עברה סקר על אמונות פוליטיות, תוך התמקדות בתומכי מפלגות ליברליות בארצות הברית, בריטניה וברזיל. התשובות שהתקבלו הושוו לאחר מכן לאלו שהתקבלו ללא כל הנחיה, וחשפו הטיה פוליטית עקבית ובולטת. באופן ספציפי, המחקר הדגיש נטייה משמעותית לכיוון הדמוקרטים בארה"ב, לולה בברזיל ומפלגת הלייבור בבריטניה, ובכך מצביע על הטיה שיטתית בתשובותיו.
ממצאים אלה מהדהדים גוף מחקר הולך וגדל המצביע על כך שלמרות מאמצים מרוכזים להתמודד עם הטיות בשלב התכנון, צ'אטבוטים מבוססי בינה מלאכותית כמו צ'אט סופגים באופן בלתי נמנע הנחות יסוד, אמונות וסטריאוטיפים הקיימים במאגר הנתונים העצום עליו הם מאומנים.
נושא זה הופך רלוונטי במיוחד כאשר צ'אטבוטים משתלבים יותר ויותר בשגרה היומיומית. בעוד ארצות הברית מתכוננת לבחירות לנשיאות 2024, הצ'אטבוטים תופסים תפקידים בחייהם של אנשים מעבר לסיוע פשוט, מסייעים בסיכום מסמכים, מענה לשאלות ואפילו תורמים למשימות כתיבה מקצועיות ואישיות. כאשר פלטפורמות כמו גוגל משתמשות בצ'אטבוטים כדי לטפל ישירות בפניות חיפוש וקמפיינים פוליטיים המשתמשות בהם ליצירת תוכן, ההשפעה הפוטנציאלית על תפיסת הציבור ואפילו על תוצאות הבחירות מעוררת חששות.
בעוד שצ'אט טוענת שאין לה דעות פוליטיות או הטיות כלפי המשתמשים, המחבר הראשי של המחקר, פאביו מוטוקי, טוען אחרת. ההטיות שהתגלו עלולות לפגוע באמון הציבור ולהפעיל השפעה בלתי מכוונת על תהליכים פוליטיים.
תגובות מחברות AI גדולות, כולל Meta, Google ו-OpenAI, עדיין לא התקבלו בנוגע לממצאים אלה. OpenAI הצהירה בעבר שכל הטיות שזוהו בדגמי הבינה המלאכותית שלהם אינן מכוונות ואינן מעידות על תכונה מכוונת.
מחקר זה מדגיש את האתגר המורכב של צמצום הטיות במודלים של בינה מלאכותית, במיוחד בעידן הצ'אטבוטים הגנרטיביים. צ'אטבוטים אלה, כולל Chat, Bard של גוגל ובינג של מיקרוסופט, בנויים על מודלים שפה נרחבים המעבדים בהרחבה נתונים מהאינטרנט. כתוצאה מכך, הם נוטים לשקף את ההטיות והנקודות מבט הרווחות ברשת.
יתר על כן, צ'אטבוטים אלה הפכו למוקדי עניין בדיונים הכוללים פוליטיקה, טכנולוגיה ומדיה חברתית. אפילו צ'אט התמודד עם טענות של הטיה זמן קצר לאחר השקתו, עם האשמות בהעדפת נקודות מבט ליברליות. זה חושף את השיח הרחב יותר על האופן שבו טכנולוגיה ופלטפורמות מדיה חברתית יכולות להשפיע על תוצאות פוליטיות וקיטוב חברתי.
ככל שצ'אטבוטים הופכים להיות מושרשים יותר באינטראקציות מקוונות, התפוקות שלהם עשויות להגביר עוד יותר את הקיטוב הקיים שנצפה בחברה. נוף המידע, שעוצב יותר ויותר על ידי תוכן שנוצר על ידי בוטים, עלול לתרום מבלי משים ללולאת משוב של קיטוב.
המאמצים לטפל בבעיות אלו נמשכים. חוקרים בוחנים באופן פעיל שיטות לאיתור ולמתן הטיות בתגובות צ'טבוט. גישה מוצעת כוללת רובד נוסף המזהה שפה מוטה ומחליף אותה בחלופות ניטרליות. עם זאת, בהתחשב באופי רחב הידיים של האינטרנט והשטיח המורכב של ההטיות שהוא מקיף, השגת ניטרליות מושלמת נותרה מטרה חמקמקה.
לסיכום, המחקר שופך אור על המורכבות של הטיות בינה מלאכותית והשפעתן הפוטנציאלית על השיח הפוליטי וקבלת ההחלטות. המחקר משמש כתזכורת לכך שבעוד שטכנולוגיית AI מציעה אפשרויות מרגשות, היא נושאת גם אחריות משמעותית בניהול השלכות לא מכוונות. ככל שה-AI ממשיך להתפתח, מציאת האיזון בין התקדמות טכנולוגית לשיקולים אתיים יישאר אתגר מכריע.