נראה כי OpenAI, הארגון האם של צ'אט, נמצא על סף הישג אדיר - פתרון חידת "אינטליגנציה עליונה". עם זאת, פריצת דרך פוטנציאלית זו מביאה עמה השלכות עמוקות על עתיד האנושות.
הפיטורים הפתאומיים והמינויים המחודשים לאחר מכן של מייסד ומנכ"ל OpenAI, סם אלטמן, היו נושא לדיון רב בעולם הטכנולוגיה. תובנות טריות על הזרז למהלך זה ממשיכות לצוץ, עם דוח של The Information שייחס את המהומה הפנימית להתקדמות משמעותית בתחום הבינה המלאכותית הגנרטיבית. התפתחות זו עשויה לסלול את הדרך להופעתה של 'אינטליגנציה על' בתוך העשור הזה או אפילו מוקדם יותר.
'אינטליגנציה על', כפי שהמונח מרמז, מתייחסת לאינטליגנציה העולה על היכולות האנושיות. באופן טבעי, יצירת מערכת בינה מלאכותית בעלת אינטליגנציה כזו ללא אמצעי הגנה נאותים מעוררת דאגות רציניות.
המדען הראשי של OpenAI, איליה סוצקבר, המכהן גם בדירקטוריון, הוא שהוביל את היוזמה פורצת הדרך הזו. זה מאפשר לבינה מלאכותית להשתמש בנתונים נקיים יותר שנוצרו על ידי מחשב כדי להתמודד עם בעיות חסרות תקדים. זה מרמז שה-AI אינו מאומן על מספר איטרציות של אותה בעיה, אלא על מידע שאינו קשור ישירות לבעיה שעל הפרק. פתרון בעיות בדרך זו, בדרך כלל מתמטיות או מדעיות, דורש היגיון - תכונה אנושית שאינה קשורה בדרך כלל ל-AI.
צ'אט, מוצר הדגל של OpenAI המופעל על ידי מודל שפה גדול של GPT (LLM), עשוי ליצור את הרושם שהוא משתמש בהיגיון כדי לנסח את תשובותיו בהתחשב באינטליגנציה לכאורה שלו. עם זאת, באינטראקציה מדוקדקת יותר עם צ'אט, מתברר שהוא רק משחזר את מה שלמד מכמויות הנתונים העצומות שהוא עיבד, ומבצע תחזיות מדויקות לרוב לגבי בניית משפטים קוהרנטיים הרלוונטיים לשאילתה שלך. הגיון אינו נכנס לתמונה כאן.
האינפורמציה מציעה כי פריצת הדרך הזו, שאולי אלטמן רמז עליה בכנס שנערך לאחרונה, בהצהרה, "בנימה אישית, רק בשבועיים האחרונים, יצא לי להיות בחדר, כשאנחנו כאילו דוחפים את סוג הצעיף של הבורות אחורה ואת גבול הגילוי קדימה", שלחה גלי הלם דרך OpenAI.
טיפול באיום
בעוד ש-Chat לא מראה כרגע סימנים של אינטליגנציה-על, סביר להניח ש-OpenAI עושה צעדים לשלב חלק מהכוח הזה במוצרי הפרימיום שלה, כגון GPT-4 Turbo ו"סוכנים אינטליגנטיים" עתידיים.
יצירת קשר בין פעולות הדירקטוריון האחרונות, שנתמכו בתחילה על ידי סוצקבר, לבין פריצת הדרך של מודיעין העל עשוי להיראות מופרך. פריצת הדרך המדווחת התרחשה לפני חודשים והובילה את סוצקבר ומדען נוסף של OpenAI, יאן לייק, להקים קבוצת מחקר חדשה של OpenAI בשם 'Superalignment', שתפקידה לתכנן אמצעי הגנה למודיעין-על.
בטוויסט מעניין, החברה החלוצית בפיתוח מודיעין-על בונה בו-זמנית מנגנונים להגן עלינו מפניה, שמזכירים את דוקטור פרנקנשטיין המחמש את תושבי הכפר בלהביור.
מה שנותר מעורפל מהדוח הוא האם החששות הפנימיים סביב ההתקדמות המהירה לעבר מודיעין-על הובילו ישירות לפיטוריו של אלטמן. אולי, בתוכנית הגדולה של הדברים, זה לא רלוונטי.
כפי שזה נראה, אלטמן בדרך לחדש את תפקידו ב-OpenAI, הדירקטוריון עבר מבנה מחדש, והמסע לפתח - ולהתגונן מפני - מודיעין-על נמשך.
עבור אלו המוצאים התפתחויות אלו מבלבלות, יצירת קשר עם צ'אט לקבלת הסבר עשויה להיות מאירת עיניים.