האם אפשר לשתול זיכרונות שקריים בעזרת AI? מחקר חדש מגלה שכן
חוקרים מ-MIT ומאוניברסיטת קליפורניה באירווין מצאו שבינה מלאכותית מבוססת על מודלים לשוניים גדולים יכולה להגביר באופן משמעותי את יצירתם של זיכרונות שקריים אצל בני אדם. ממצאים אלה מעלים חששות לגבי השימוש בטכנולוגיות AI בהקשרים רגישים כמו ראיונות עדים במשפטים.
איך נערך המחקר?
המחקר כלל ניסוי בשני שלבים עם 200 משתתפים שצפו בסרטון CCTV ללא קול המתעד שוד מזוין, כדי לדמות עדות ראייה לפשע. לאחר מכן, המשתתפים חולקו לארבע קבוצות: קבוצת ביקורת, קבוצה עם שאלון מכוון, קבוצה עם בוט מבוסס תסריט מראש, וקבוצה עם צ'אטבוט גנרטיבי המבוסס על מודל שפה גדול. החוקרים בחנו את היווצרות הזיכרונות השקריים מיד לאחר האינטראקציה ושוב לאחר שבוע.
השפעה על יצירת זיכרונות שקריים
הממצאים היו מובהקים: הצ'אטבוט הגנרטיבי גרם לכמעט פי שלושה יותר זיכרונות שקריים בהשוואה לקבוצת הביקורת, ופי 1.7 יותר מאשר השאלון המבוסס על שאלות מכוונות. 36.8% מהתגובות בתנאי זה היו זיכרונות שקריים שהמשתתפים זכרו בביטחון גבוה גם לאחר שבוע. משמעות הדבר היא ש-AI לא רק מסוגלת לשתול זיכרונות שקריים, אלא גם להטמיע אותם באופן שמוביל לביטחון יתר באמיתותם.
מי פגיע יותר לזיכרונות שקריים?
המחקר זיהה מספר גורמים שמשפיעים על הנטייה לפתח זיכרונות שקריים בעזרת AI. משתמשים שהיו פחות מוכרים עם צ'אטבוטים אך בעלי היכרות רחבה יותר עם טכנולוגיות AI באופן כללי, היו פגיעים יותר לזיכרונות שקריים. גם משתתפים שהביעו עניין רב יותר בחקירות פשעים היו רגישים יותר להיווצרות זיכרונות שקריים. זה מראה שהשפעת ה-AI על הזיכרון תלויה לא רק בטכנולוגיה עצמה, אלא גם בפרופיל הפסיכולוגי והטכנולוגי של המשתמשים.
השלכות אתיות של AI
היכולת של AI לשתול זיכרונות שקריים מציבה אתגרים אתיים משמעותיים, במיוחד בהקשרים משפטיים וטיפוליים שבהם דיוק בזיכרון הוא קריטי. החוקרים מדגישים את הצורך במתן דגש רב יותר על קווים מנחים אתיים ופיתוח מסגרות חוקיות שימנעו את הסיכונים הקשורים לשימוש ב-AI בהקשרים רגישים. ככל שטכנולוגיות אלו ישולבו יותר בחיי היום-יום, חשוב להתמודד עם ההשלכות האתיות של השפעת ה-AI על הזיכרון והקוגניציה האנושית כדי לשמור על אינטרסים אישיים וחברתיים.
הדיון על השימוש בטכנולוגיות מתקדמות ליצירת זיכרונות שקריים רק מתחיל, וההשלכות על החברה הן עצומות. מה דעתכם? האם הייתם סומכים על AI בראיונות חשובים או בטיפולים פסיכולוגיים?
הכתבה נעשה בשילוב של מספר כלי בינה מלאכותית ועריכה של אדם אנושי.www.perplexity.ai