מודל השפה של הדור הבא שיפר את יכולות הרב-לשוניות, החשיבה והקידוד.
כשמסתכלים אחורה על פריצות הדרך הגדולות ביותר בתחום הבינה המלאכותית בעשור האחרון, גוגל הייתה בחזית של כל כך הרבה מהן. העבודה פורצת הדרך במודלים של יסודות הפכה לסלע הבסיס לתעשייה ולמוצרים המונעים בינה מלאכותית שמיליארדי אנשים משתמשים בהם מדי יום. ככל שגוגל ממשיכים לקדם בצורה אחראית את הטכנולוגיות הללו, יש פוטנציאל גדול לשימושים טרנספורמטיביים בתחומים מרחיקי לכת כמו שירותי בריאות ויצירתיות אנושית.
במהלך העשור האחרון של פיתוח בינה מלאכותית, למדנו שכל כך הרבה אפשרי ככל שמגדילים רשתות עצביות - למעשה, כבר ראינו יכולות מפתיעות ומענגות שצומחות מדגמים בגדלים גדולים יותר.
יצירתיות מחקרית היא המפתח לבניית מודלים נהדרים. התקדמות עדכנית יותר באופן שבו אנו מעצבים ומאמנים מודלים לימדו אותנו כיצד לפתוח מולטי-מודאליות, את החשיבות של משוב אנושי בלולאה, וכיצד לבנות מודלים בצורה יעילה מאי פעם. אלו הם אבני בניין עוצמתיות כאשר אנו ממשיכים לקדם את הטכנולוגיה המתקדמת ב-AI תוך בניית מודלים שיכולים להביא תועלת אמיתית לאנשים בחיי היומיום שלהם.
Introducing PaLM 2, Google’s next generation large language model | Research Bytes
היכרות עם PaLM 2
בהתבסס על עבודה זו , גוגל מציגה את PaLM 2 , מודל השפה של הדור הבא : PaLM 2 הוא מודל שפה מתקדם עם יכולות משופרות של רב לשוני, חשיבה וקידוד. PaLM 2 הוא מודל השפה הגדול של הדור הבא המתבסס על מורשתה של גוגל של מחקר פורץ דרך בתחום למידת מכונה ובינה מלאכותית אחראית.
הוא מצטיין במשימות חשיבה מתקדמות, כולל קוד ומתמטיקה, סיווג ומענה לשאלות, תרגום ובקיאות רב-לשונית, ויצירת שפה טבעית טוב יותר מה-LLM המתקדם ביותר שלנו, כולל PaLM. הוא יכול לבצע את המשימות הללו בגלל האופן שבו הוא נבנה - שילוב של קנה מידה אופטימלי למחשוב, תערובת מערכי נתונים משופרת ושיפורי ארכיטקטורת מודלים.
ה- PaLM 2 מבוסס על הגישה של גוגל לבנייה ופריסה של AI בצורה אחראית. הוא הוערך בקפדנות על נזקיו והטיותיו הפוטנציאליות, היכולות והשימושים במורד הזרם במחקר ויישומים בתוך המוצר. הוא נמצא בשימוש בדגמים חדישים אחרים, כמו Med-PaLM 2 ו- Sec-PaLM , ומפעיל תכונות וכלים של בינה מלאכותית בגוגל, כמו Bard ו-PaLM API.
רב לשוניות: PaLM 2 מאומן יותר בטקסט רב לשוני, ומשתרע על פני יותר מ-100 שפות. זה שיפר משמעותית את יכולתו להבין, ליצור ולתרגם טקסט בעל ניואנסים - כולל ניבים, שירים וחידות - על פני מגוון רחב של שפות, בעיה קשה לפתרון. PaLM 2 עובר גם בחינות מיומנות שפה מתקדמות ברמת "שליטה".
נימוק: מערך הנתונים הרחב של PaLM 2 כולל מאמרים מדעיים ודפי אינטרנט המכילים ביטויים מתמטיים. כתוצאה מכך, הוא מפגין יכולות משופרות בלוגיקה, חשיבה שכלית ומתמטיקה.
קידוד: PaLM 2 הוכשר מראש על כמות גדולה של מערכי נתונים של קוד מקור זמינים לציבור. המשמעות היא שהוא מצטיין בשפות תכנות פופולריות כמו Python ו-JavaScript, אבל יכול גם ליצור קוד מיוחד בשפות כמו Prolog, Fortran ו- Verilog.
משפחת דגמים מגוונת גם כאשר PaLM 2 מסוגל יותר, הוא גם מהיר ויעיל יותר מדגמים קודמים - והוא מגיע במגוון גדלים, מה שמקל על פריסה עבור מגוון רחב של מקרי שימוש. אנו נהפוך את PaLM 2 לזמין בארבעה גדלים מהקטן לגדול: שממית, אוטר, ביזון וחד קרן. Gecko הוא כל כך קל שהוא יכול לעבוד על מכשירים ניידים והוא מהיר מספיק עבור יישומים אינטראקטיביים נהדרים במכשיר, אפילו במצב לא מקוון. צדדיות זו פירושה שניתן לכוונן את PaLM 2 כדי לתמוך במחלקות שלמות של מוצרים בדרכים נוספות, כדי לעזור ליותר אנשים. מפעיל יותר מ-25 מוצרים ותכונות של Google ב-I/O 2023, גוגל הכריזה על למעלה מ-25 מוצרים ותכונות חדשים המופעלים על ידי PaLM 2.
המשמעות היא ש-PaLM 2 מביאה את החידושים האחרונים ביכולות AI מתקדמות ישירות למוצרים שלנו ולאנשים - כולל צרכנים, מפתחים וארגונים מכל הגדלים מסביב לעולם.
הנה כמה דוגמאות:
יכולות הרב-לשוניות המשופרות של PaLM 2 מאפשרות להרחיב את Bard לשפות חדשות, החל מהיום. בנוסף, זה מניע את עדכון הקידוד שהוכרז לאחרונה .
תכונות Workspace שיעזרו לך לכתוב ב-Gmail וב-Google Docs, ולעזור לך לארגן ב-Google Sheets, כולן מנצלות את היכולות של PaLM 2 במהירות שעוזרת לאנשים לבצע את העבודה בצורה טובה יותר ומהר יותר.
ה Med-PaLM 2 , שהוכשר על ידי צוותי מחקר הבריאות שלנו עם ידע רפואי, יכול לענות על שאלות ולסכם תובנות ממגוון טקסטים רפואיים צפופים. הוא משיג תוצאות מתקדמות בתחום הכשירות הרפואית, והיה המודל השפה הגדול הראשון שהופיע ברמת "מומחה" בשאלות בסגנון בחינת הרישוי הרפואי בארה"ב. כעת אנו מוסיפים יכולות מולטי-מודאליות לסנתז מידע כמו צילומי רנטגן וממוגרפיה כדי לשפר יום אחד את תוצאות המטופל. Med-PaLM 2 ייפתח לקבוצה קטנה של לקוחות ענן למשוב בהמשך הקיץ כדי לזהות מקרי שימוש בטוחים ומועילים.
ה Sec-PaLM היא גרסה מיוחדת של PaLM 2 שהוכשרה למקרי שימוש באבטחה, וקפיצה אפשרית לניתוח אבטחת סייבר. זמין דרך Google Cloud, הוא משתמש ב-AI כדי לעזור לנתח ולהסביר את ההתנהגות של סקריפטים שעלולים להיות זדוניים, ולזהות טוב יותר אילו סקריפטים מהווים למעשה איומים על אנשים וארגונים בזמן חסר תקדים.
מאז מרץ, גוגל מציגה תצוגה מקדימה של ה-API של PaLM עם קבוצה קטנה של מפתחים. החל מהיום, מפתחים יכולים להירשם לשימוש במודל PaLM 2, או שלקוחות יכולים להשתמש במודל ב- Vertex AI עם פרטיות, אבטחה וממשל ברמה ארגונית. PaLM 2 מפעילה גם את Duet AI עבור Google Cloud , משתף פעולה בינה מלאכותית שנועד לעזור למשתמשים ללמוד, לבנות ולפעול מהר יותר מאי פעם.