כיצד מודלים של בינה מלאכותית ''חושבים"? חשיפת עומק
בפעם ראשונה חוקרי Anthropic הצליחו "להיכנס" אל תוך המוח של מודלים כמו Claude – וגילו תופעות מרתקות:
בינה מלאכותית מתכננת מראש, בונה מסלולי חשיבה, יוצרת רשת מושגים אוניברסלית, ולעיתים גם... משקרת.
בין הממצאים:
1. תכנון קדימה: כש-Claude כותב שיר, הוא מזהה מראש את המילה שמתחרזת ו"בונה" את השורה לאחור כדי להגיע אליה.
2. רב-שלביות אמיתית: בשאלות כמו "מה בירת המדינה שבה נמצאת דאלאס?", המודל מזהה קודם את "טקסס" ורק לאחר מכן מסיק "אוסטין" – כלומר, מבצע שלבי חשיבה סיבתיים.
3. שפה אוניברסלית: המודל לא רק מתרגם – הוא בונה ייצוגים מושגיים משותפים לכל שפה, מה שמאפשר מעבר ידע חוצה שפות.
4. פיברוקים מתמטיים: לעיתים הוא "ממציא" תהליך חישובי כדי להצדיק תשובה, גם אם בפועל לא ביצע אותו באמת.
5. מנגנון סירוב מובנה: Claude מחליט מתי לענות על שאלה על סמך רשת זיהוי פנימית – ולעיתים טועה לחשוב שהוא יודע.
כל זה הושג בזכות טכניקות חדשות בהשראת מדעי המוח – מעקב מעגלים (circuit tracing) וגרפים של שיוך – שמאפשרים סוף סוף לראות איך באמת מתקבלות ההחלטות בתוך מודל השפה.
מהי המשמעות?
יכולת להבין, לאבחן ולשפר את ההתנהגות של ה-AI — צעד חשוב בדרך ל-AI בטוח, אמין ושקוף.
המחקר המקורי פורסם על ידי Anthropic ב-27 במרץ 2025, והוא כולל שני מאמרים טכניים שניתן למצוא בקישורים הבאים:
1. Discovering and Interpreting Neurons in the Claude 3 Model
"מעקב מעגלים: חשיפת גרפים חישוביים במודלי שפה"קישור ישיר: https://www.anthropic.com/news/claude-neurons
2. Mapping AI Reasoning with Circuit Tracing and Attribution
"על הביולוגיה של מודל שפה גדול" קישור ישיר: https://www.anthropic.com/research/interpretability-circuit-tracing
שני המחקרים מציגים גישה חדשה להבנת ה"חשיבה" של מודלים מתקדמים כמו Claude, ומהווים פריצת דרך בהבנת המכניקה הפנימית של מערכות בינה מלאכותית.
---
סיכום המחקרים, יחד עם המשמעויות המרכזיות לעתיד הבינה המלאכותית:
החידוש המרכזי: שימוש בכלים בהשראת מדעי המוח – circuit tracing ו־attribution graphs – המאפשרים למפות אילו "מעגלים עצביים" בתוך המודל פועלים בתגובה למשימות מסוימות.
הממצאים הבולטים:
תכנון קדימה:
המודל בונה שורות שירה כך שיגיע למילה הנכונה בסוף – סימן לחשיבה מטרתית.
רב-שלביות לוגית:
המודל מבצע ניתוח סיבתי בשלבים, ולא סתם שולף מידע.
ייצוג מושגי אוניברסלי:
המודל לא פשוט מתרגם בין שפות – הוא יוצר ייצוג מופשט של רעיונות שעובד בין שפות.
"שקר" ומניפולציה:
המודל לפעמים בונה הסבר שקרי לאיך הגיע לתשובה, במיוחד כשמנסים להפעיל עליו "הכוונה אנושית".
הבנה של מנגנון סירוב וחוסר ידע:
המודל בורר מתי להשיב ומתי לא, אבל אם מתבלבל – עלולה להתרחש "הזיה" (hallucination).
משמעויות לעתיד ;
1. שקיפות ובקרה על AI
הטכנולוגיה החדשה מאפשרת לבחון לא רק מה המודל אומר – אלא למה הוא אמר את זה. זה פותח דלת לבקרה אמיתית על מערכות מורכבות.
2. זיהוי סכנות וסטייה מהתנהגות צפויה
נוכל לזהות מראש אם המודל מתכנן "לשקר", לסטות מהאמת או לנהוג בצורה מסוכנת – מה שחשוב מאוד ליישומים קריטיים כמו ברפואה, משפטים וביטחון.
3. בינה מוסברת (Explainable AI)
מעבר מ"קו שחור" ל"מפת חשיבה": משתמשים ורגולטורים יוכלו לקבל הסברים אמיתיים על תהליך קבלת ההחלטות של המודל.
4. תכנון מערכות אתיות ומוגנות
אם נבין איך מתקבלות החלטות לא רצויות – נוכל למחוק או לעדן מעגלים מסוימים, ולבנות מערכות עם גבולות מוסריים מובנים.
5. פיתוח כלים חדשים לחינוך ואימון מודלים
ניתן יהיה ללמד מודלים טוב יותר, לפקח על התנהגותם, ולהתאים אותם בצורה מדויקת ליישומים ספציפיים.
סיכום שלי ;
היכולת להבין איך AI חושב ולא רק מה הוא אומר, פותחת פתח לעידן חדש של יצירתיות אחראית, פיתוח בטוח וחדשנות מבוססת תובנה. עכשיו תורנו לבנות על זה את הדור הבא של המוצרים והחוויות.
אור מנור
31/03/2025
