בן מאן

מה מיוחד?

חלוץ בפיתוח בינה מלאכותית בטוחה ואתית

https://twitter.com/8enmann

https://www.linkedin.com/in/benjamin-mann/

חברות

Anthropic

https://aiconference.com/speakers/ben-mann/

בן מאן: חלוץ בפיתוח בינה מלאכותית בטוחה ואתית

בן מאן הוא דמות מפתח בתחום הבינה המלאכותית, המוכר בעיקר כמייסד-שותף ומוביל הנדסת מוצר בחברת Anthropic. עבודתו ממוקדת בפיתוח מערכות בינה מלאכותית שהן מועילות, בטוחות וישרות.

רקע וניסיון

מאן החל את דרכו המקצועית לאחר לימודי מדעי המחשב באוניברסיטת קולומביה. הוא צבר ניסיון מגוון בתעשיית הטכנולוגיה, כולל:

עבודה כמהנדס תוכנה בכיר בגוגל, שם סייע בבניית שירות הנסיעות השיתופיות Waze Carpool.
חבר בצוות הטכני ב-OpenAI, שם התמקד בתשתיות, יעילות ובטיחות עבור GPT-3.
עבודה בארגוני מחקר כמו Machine Intelligence Research Institute ובסטארטאפים העוסקים בבינה מלאכותית ואוטומציה.

תפקידו ב-Anthropic

כמייסד-שותף ומוביל הנדסת מוצר ב-Anthropic, מאן מילא תפקיד מכריע בפיתוח צ'אטבוט הבינה המלאכותית Claude. Anthropic השקיעה למעלה משנתיים במחקר בטיחות בינה מלאכותית כדי להפוך את Claude למועיל, ישר ובטוח ככל האפשר לפני השקתו הציבורית ביולי 2023.

מטרתו של מאן היא לפתח מערכות בינה מלאכותית שהן:

מועילות לאנושות
בטוחות לשימוש
ישרות ואמינות

לקחים מפיתוח Claude

בהרצאתו בכנס הבינה המלאכותית 2023, מאן שיתף תובנות מרכזיות מתהליך הפיתוח של Claude:

טכניקות ליישור מערכות בינה מלאכותית עם ערכים אנושיים.
שיטות ליצירת פיקוח מדורג על תפוקות המודל.
חשיבות המחקר הקפדני וטכניקות הפריסה האחראיות המתמקדות בהתאמת מערכות בינה מלאכותית לערכים אנושיים.

גישת Anthropic לבטיחות בינה מלאכותית

Anthropic מדגישה את נושא הבטיחות בבינה מלאכותית, במיוחד באמצעות השימוש ב"בינה מלאכותית חוקתית". גישה זו מכוונת להפוך את התגובות של Claude למועילות יותר ופחות מזיקות בהשוואה לצ'אטבוטים אחרים. היא מפחיתה את הסיכוי שהצ'אטבוט ייצר תגובות רעילות, מסוכנות או לא אתיות, מה שהופך את Claude לכלי אטרקטיבי עבור תעשיות רגישות כמו בריאות או משפט.

מאן מקווה שהדגש של Anthropic על בטיחות יוביל ל"מרוץ בטיחות" בין חברות בינה מלאכותית, כאשר כל אחת שואפת לפתח את המודלים הבטוחים ביותר.

סיכום

בן מאן הוא מנהיג טכני מרכזי ב-Anthropic, שם הוא ממלא תפקיד חיוני בפיתוח הצ'אטבוט Claude עם דגש חזק על בטיחות, אתיקה והתאמת בינה מלאכותית לערכים אנושיים. עבודתו מכוונת ליצירת מערכות בינה מלאכותית שהן מועילות, ישרות ובטוחות, ומהווה דוגמה לפיתוח אחראי של בינה מלאכותית בתעשייה.