פול כריסטיאנו – חוקר מוביל בתחום בטיחות האינטליגנציה המלאכותית
פול כריסטיאנו הוא דמות מרכזית בקהילת האלטרואיזם אפקטיבי ובמחקר על בטיחות אינטליגנציה מלאכותית. כריסטיאנו סיים לאחרונה דוקטורט במדעי המחשב באוניברסיטת ברקלי וכעת עובד כחוקר בחברת OpenAI, שם הוא מתמקד ביישור ערכים של מערכות AI עם ערכים אנושיים. (עזב לאחרונה את OpenAI).
כריסטיאנו ידוע בחשיבה מעמיקה ומאוזנת על בעיית היישור, ובנכונותו להציע פתרונות טכניים קונקרטיים כמו "הגברה איטרטיבית" ו"דיון" - שיטות לאימון מערכות AI שיתנהגו בצורה בטוחה גם אם הן יהפכו לחכמות הרבה יותר מבני אדם.
כריסטיאנו טוען, בניגוד לאחרים, שהתפתחות ו"המראה" של AI מתקדמת תהיה כנראה הדרגתית יותר – על פני שנים ולא חודשים. כמו כן הוא סבור ששיטות נוכחיות כמו למידה עמוקה יכולות פוטנציאלית להוביל לאינטליגנציה כללית אם יוגדלו, ואין צורך בשיטות חדשות לחלוטין.
כריסטיאנו שם דגש על להפוך את המחקר על בטיחות AI ליותר פרוזאי ומעוגן במציאות. מטרתו היא לפתור את בעיית היישור עבור סוגי ה-AI שאנו יכולים לבנות באופן סביר. תרומתו הנרחבת לתחום חשובה מאוד להבטחת עתיד טוב יותר.
AI alignment
I want to see a future where AI systems help humanity thrive. I think this will probably happen, but only because the ML community will probably put in a whole lot of work. If we fail at this work,…
paulfchristiano.com
AI Alignment
Aligning AI systems with human interests.
ai-alignment.com
