פול כריסטיאנו – חוקר מוביל בתחום בטיחות האינטליגנציה המלאכותית
פול כריסטיאנו הוא דמות מרכזית בקהילת האלטרואיזם אפקטיבי ובמחקר על בטיחות אינטליגנציה מלאכותית. כריסטיאנו סיים לאחרונה דוקטורט במדעי המחשב באוניברסיטת ברקלי וכעת עובד כחוקר בחברת OpenAI, שם הוא מתמקד ביישור ערכים של מערכות AI עם ערכים אנושיים. (עזב לאחרונה את OpenAI).
כריסטיאנו ידוע בחשיבה מעמיקה ומאוזנת על בעיית היישור, ובנכונותו להציע פתרונות טכניים קונקרטיים כמו "הגברה איטרטיבית" ו"דיון" - שיטות לאימון מערכות AI שיתנהגו בצורה בטוחה גם אם הן יהפכו לחכמות הרבה יותר מבני אדם.
כריסטיאנו טוען, בניגוד לאחרים, שהתפתחות ו"המראה" של AI מתקדמת תהיה כנראה הדרגתית יותר – על פני שנים ולא חודשים. כמו כן הוא סבור ששיטות נוכחיות כמו למידה עמוקה יכולות פוטנציאלית להוביל לאינטליגנציה כללית אם יוגדלו, ואין צורך בשיטות חדשות לחלוטין.
כריסטיאנו שם דגש על להפוך את המחקר על בטיחות AI ליותר פרוזאי ומעוגן במציאות. מטרתו היא לפתור את בעיית היישור עבור סוגי ה-AI שאנו יכולים לבנות באופן סביר. תרומתו הנרחבת לתחום חשובה מאוד להבטחת עתיד טוב יותר.
עוד כתבות, כלים ותוכן בעולמות הבינה מלאכותית בלחיצה על הכפתור⇣