סוצקבר מזהיר: הבינה המלאכותית תהפוך לבלתי צפויה ככל שתהיה חכמה יותר
המסרים המרכזיים של מדען הבינה המלאכותית המוביל בעולם איליה סוצקבר.
העידן של מודלים מבוססי טקסט (Pre-Training) מתקרב לסיומו:
המודלים כמו GPT-3 ו-GPT-4 הראו יכולות מרשימות, אך המגבלות שלהם ברורות: חוסר דיוק, "הזיות" ותגובות לא צפויות.
הצעד הבא הוא מעבר למודלים שמבינים איך לפעול ולהסיק מסקנות בצורה עצמאית.
סוכנים חכמים הם הדור הבא של AI:
מדובר במערכות שמסוגלות לחשוב, לקבל החלטות ולבצע משימות.
במקום להסתפק במתן תשובות, סוכנים כאלו יוכלו לפתור בעיות באופן אקטיבי:
לדוגמה: רובוט שיתכנן תוכנית פעולה לניהול משאבים.
מערכת שתעבוד על משימה מורכבת ותשפר את עצמה תוך כדי תנועה.
מידע סינתטי יהפוך לכלי מרכזי:
בעיות באיסוף נתונים מעכבות את פיתוח המודלים.
פתרון אפשרי: יצירת מידע מלאכותי (Synthetic Data) – נתונים שמיוצרים על ידי AI כדי להרחיב את מאגרי המידע ולאמן מערכות חדשות.
היתרון: אימון מערכות בצורה מהירה, מדויקת ומבוקרת, גם כשאין מספיק מידע מהעולם האמיתי.
AI עם יכולות הסקה (Reasoning) הוא המפתח:
המערכות העתידיות ידעו להסיק מסקנות על בסיס כמות קטנה של מידע, בדומה לאופן שבו בני אדם לומדים.
יתרון משמעותי: הפחתת "הזיות" (שגיאות לא הגיוניות) ושיפור היכולת לפתור בעיות מורכבות.
מערכות AI יהפכו לפחות צפויות ככל שהן ישתפרו:
ככל שה-AI יפתח יכולות חשיבה והחלטה עצמאיות, כך הוא יהיה פחות דטרמיניסטי ויותר "יצירתי".
זה הופך את ההתנהגות של המערכות למאתגרת יותר לחיזוי, אך גם פותח אפשרויות חדשות.
סופר-אינטליגנציה היא השלב הבא והמרגש ביותר:
מערכות שיהיו עצמאיות, אחראיות וחכמות יותר מבני אדם בכל תחום.
הן יוכלו:
לפעול אוטונומית לפתרון בעיות.
לשקול החלטות באופן עמוק ורחב יותר.
לשפר את עצמן לאורך זמן.
אמינות ודיוק הם המחסום המרכזי לאימוץ רחב:
כיום, AI עדיין לא מספיק אמין עבור תעשיות רבות.
שיפור יכולות ההסקה העצמאית והיכולת לתקן את עצמו יהפכו את ה-AI לכלי שאפשר לסמוך עליו.
Kylie Robison OpenAI cofounder Ilya Sutskever says the way AI is built is about to change