#Generative_ai #Coding #Developers
הזרעים של שינוי פרדיגמת למידת מכונה (ML) קיימים כבר עשרות שנים, אך עם זמינות המוכנה של קיבולת מחשוב ניתנת להרחבה, ריבוי מאסיבי של נתונים וההתקדמות המהירה של טכנולוגיות ML, לקוחות על פני תעשיות משנים את העסקים שלהם.
רק לאחרונה, יישומי AI גנרטיביים כמו ChatGPT תפסו תשומת לב ודמיון נרחבים. אנחנו באמת נמצאים בנקודת פיתול מרגשת באימוץ הנרחב של ML, רוב חוויות הלקוחות והיישומים יומצאו מחדש עם AI מחולל.
Credit : AWS , Building with Generative AI on AWS
Swami Sivasubramanian ,VP, Database, Analytics and ML at AWS :
הוא סגן נשיא למידת נתונים ולמידת מכונה ב-AWS. בתפקיד זה, Swami מפקח על כל שירותי מסד הנתונים, האנליטיקה של AWS ושירותי AI ו- Machine Learning. המשימה של הצוות שלו היא לעזור לארגונים להפעיל את הנתונים שלהם עם פתרון נתונים מלא מקצה לקצה לאחסון, גישה, ניתוח, הדמיה וחיזוי.
"יAI ו-ML היו מוקד עבור אמזון במשך יותר מ-20 שנה, ורבות מהיכולות שהלקוחות משתמשים בהן עם אמזון מונעות על ידי ML מנוע המלצות המסחר האלקטרוני שלנו מונע על ידי ML; הנתיבים המייעלים את מסלולי האיסוף הרובוטיים במרכזי הגשמה שלנו מונעים על ידי ML; ושרשרת האספקה, החיזוי ותכנון הקיבולת שלנו מיודעים על ידי ML. Prime Air (המל"טים שלנו) וטכנולוגיית הראייה הממוחשבת באמזון גו (חוויית הקמעונאות הפיזית שלנו המאפשרת לצרכנים לבחור פריטים מהמדף ולצאת מהחנות מבלי צורך לבצע צ'ק-אאוט רשמי) משתמשות בלמידה עמוקה. Alexa, המופעלת על ידי יותר מ-30 מערכות ML שונות, עוזרת ללקוחות מיליארדי פעמים בכל שבוע לנהל בתים חכמים, לקנות, לקבל מידע ובידור ועוד.
יש לנו אלפי מהנדסים באמזון המחויבים ל-ML, וזה חלק גדול מהמורשת שלנו, מהאתוס הנוכחי, והנגשתו לכל מי שרוצה להשתמש בו, כולל יותר מ-100,000 לקוחות מכל הגדלים ב-AWS, מילאנו תפקיד מפתח בדמוקרטיזציה של ML והענפים. ל-AWS יש את הפורטפוליו הרחב והעמוק ביותר של שירותי AI ו-ML בכל שלוש השכבות של הערימה. השקענו וחדשנות כדי להציע את התשתית הניתנת להרחבה הביצועית ביותר להדרכה והסקת ML חסכונית; פיתח את Amazon SageMaker, שהיא הדרך הקלה ביותר עבור כל המפתחים לבנות, לאמן ולפרוס מודלים; והשיק מגוון רחב של שירותים המאפשרים ללקוחות להוסיף יכולות בינה מלאכותית כמו זיהוי תמונות, חיזוי וחיפוש מושכל לאפליקציות באמצעות קריאת API פשוטה.
זו הסיבה שלקוחות כמו Intuit, Thomson Reuters, AstraZeneca, פרארי, בונדסליגה, 3M ו-BMW, כמו גם אלפי סטארטאפים וסוכנויות ממשלתיות ברחבי העולם, משנים את עצמם, את התעשיות שלהם ואת המשימות שלהם עם ML. אנו נוקטים באותה גישה דמוקרטית לבינה מלאכותית: אנו פועלים להוציא את הטכנולוגיות הללו מתחום המחקר והניסויים ולהרחיב את זמינותן הרבה מעבר לקומץ של סטארט-אפים וחברות טכנולוגיה גדולות וממומנות היטב. זו הסיבה שהיום אני נרגש להכריז על מספר חידושים חדשים שיקלו ומעשי על הלקוחות שלנו להשתמש בבינה מלאכותית גנרטיבית בעסקיהם.
חברות טכנולוגיה ממומנות היטב. זו הסיבה שהיום אני נרגש להכריז על מספר חידושים חדשים שיקלו ומעשי על הלקוחות שלנו להשתמש בבינה מלאכותית גנרטיבית בעסקיהם. חברות טכנולוגיה ממומנות היטב. זו הסיבה שהיום אני נרגש להכריז על מספר חידושים חדשים שיקלו ומעשי על הלקוחות שלנו להשתמש בבינה מלאכותית גנרטיבית בעסקיהם.
הנה עיקרי החידושים :
מודלים בסיסיים של Generative AI
בינה מלאכותית גנרטיבית היא סוג של AI שיכול ליצור תוכן ורעיונות חדשים, כולל שיחות, סיפורים, תמונות, סרטונים ומוזיקה. כמו כל בינה מלאכותית, בינה מלאכותית גנרטיבית מופעלת על ידי מודלים של ML - מודלים גדולים מאוד שהוכשרו מראש על כמויות עצומות של נתונים ומכונה בדרך כלל מודלים יסודיים (FMs). ההתקדמות האחרונה ב-ML (במיוחד ההמצאה של ארכיטקטורת הרשת העצבית המבוססת על שנאים) הובילה לעליית מודלים המכילים מיליארדי פרמטרים או משתנים. כדי לתת תחושה לשינוי בקנה מידה, הדגם הגדול ביותר שהוכשר מראש בשנת 2019 היה 330 מיליון פרמטרים. כעת, הדגמים הגדולים ביותר הם יותר מ-500B פרמטרים - גידול פי 1,600 בגודל תוך שנים ספורות. ה-FM של היום, כמו דגמי השפה הגדולים (LLMs) GPT3.5 או BLOOM, ומודל הטקסט לתמונה Stable Diffusion מ-Stability AI, יכול לבצע מגוון רחב של משימות המשתרעות על פני מספר תחומים, כמו כתיבת פוסטים בבלוג, הפקת תמונות, פתרון בעיות מתמטיות, עיסוק בדיאלוג ומענה על שאלות על סמך מסמך. הגודל והאופי הכללי של מכשירי FM עושים אותם שונים ממודלים מסורתיים של ML, שבדרך כלל ביצוע משימות ספציפיות, כמו ניתוח טקסט לסנטימנט, סיווג תמונות וחיזוי מגמות.
יFMs יכולים לבצע כל כך הרבה יותר משימות מכיוון שהם מכילים מספר כה גדול של פרמטרים שהופכים אותם ליכולים ללמוד מושגים מורכבים. ובאמצעות החשיפה שלהם לפני ההכשרה לנתונים בקנה מידה אינטרנט על כל צורותיו השונות ושלל הדפוסים, אנשי FM לומדים ליישם את הידע שלהם במגוון רחב של הקשרים. בעוד שהיכולות והאפשרויות הנובעות מכך של FM מאומן מראש הן מדהימות, לקוחות ממש מתלהבים מכיוון שניתן להתאים את המודלים האלה בעלי יכולת בדרך כלל לבצע פונקציות ספציפיות לתחום שמבדילים לעסקים שלהם, תוך שימוש רק בחלק קטן מהנתונים ו חישוב שנדרש כדי להכשיר מודל מאפס. ה-FMs המותאמים אישית יכולים ליצור חווית לקוח ייחודית, המגלמת את הקול, הסגנון והשירותים של החברה במגוון רחב של תעשיות צרכניות, כמו בנקאות, נסיעות, ושירותי בריאות. לדוגמה, חברה פיננסית שצריכה להפיק אוטומטית דו"ח פעילות יומי לתפוצה פנימית תוך שימוש בכל העסקאות הרלוונטיות יכולה להתאים אישית את המודל עם נתונים קנייניים, שיכללו דוחות עבר, כך שה-FM ילמד כיצד דוחות אלו צריכים לקרוא ומה נעשה שימוש בנתונים ליצירתם.
הפוטנציאל של FMs מרגש להפליא. אבל, אנחנו עדיין בימים הראשונים מאוד. בעוד ש-ChatGPT הייתה חוויית הבינה המלאכותית הגנרטיבית הרחבה הראשונה שמשכה את תשומת לב הלקוחות, רוב האנשים הלומדים בינה מלאכותית גנרית הבינו במהירות שכמה חברות עובדות על FM מזה שנים, וישנן מספר FM שונות זמינות - כל אחת עם חוזקות ייחודיות מאפיינים. כפי שראינו לאורך השנים עם טכנולוגיות שנעות במהירות, ובאבולוציה של ML, דברים משתנים במהירות. אנו מצפים שארכיטקטורות חדשות יצוצו בעתיד, והמגוון הזה של FM יצית גל של חדשנות. אנחנו כבר רואים חוויות יישומים חדשות שלא נראו קודם לכן.
הכרזה על דגמי Amazon Bedrock ו- Amazon Titan, הדרך הקלה ביותר לבנות ולהרחיב יישומי AI מחוללים עם FMs
לקוחות אמאזון הציגו כי יש כמה דברים גדולים שעומדים בדרכם היום:
הם זקוקים לדרך פשוטה למצוא ולגשת למכשירי FM בעלי ביצועים גבוהים שנותנים תוצאות יוצאות דופן ומתאימים ביותר למטרותיהם.
לקוחות רוצים שהשילוב באפליקציות יהיה חלק, ללא צורך בניהול אשכולות עצומים של תשתיות או בהוצאות גדולות.
לקוחות רוצים שיהיה קל לקחת את ה-FM הבסיסי, ולבנות אפליקציות מובחנות תוך שימוש בנתונים משלהם (מעט נתונים או הרבה).
מכיוון שהנתונים שלקוחות רוצים להשתמש בהם להתאמה אישית הם IP יקרי ערך להפליא, הם צריכים שזה יישאר מוגן, מאובטח ופרטי לחלוטין במהלך התהליך הזה, והם רוצים שליטה על אופן השיתוף והשימוש בנתונים שלהם.
אמאזון לקחה את כל המשוב הזה מלקוחות, והיום אנחנו מכריזים על Amazon Bedrock , שירות חדש שמנגיש FM ממעבדות AI21, Anthropic, Stability AI ואמזון באמצעות API . Bedrock היא הדרך הקלה ביותר עבור לקוחות לבנות ולהרחיב יישומים מבוססי בינה מלאכותית באמצעות FM, תוך דמוקרטיזציה של גישה לכל הבונים. Bedrock תציע את היכולת לגשת למגוון של מכשירי FM חזקים עבור טקסט ותמונות - כולל ה- Titan FMs של אמזון , המורכבים משני LLMs חדשים שאנו מכריזים היום גם על— באמצעות שירות מנוהל AWS שניתן להרחבה, אמין ומאובטח. עם החוויה ללא שרתים של Bedrock, לקוחות יכולים למצוא בקלות את המודל המתאים למה שהם מנסים לעשות, להתחיל במהירות, להתאים אישית את מכשירי ה-FM עם הנתונים שלהם, ולשלב ולפרוס אותם בקלות באפליקציות שלהם באמצעות הכלים והיכולות של AWS. מכירים (כולל אינטגרציות עם תכונות Amazon SageMaker ML כמו ניסויים לבדיקת דגמים שונים ו-Pipelines לניהול ה-FM שלהם בקנה מידה) ללא צורך בניהול תשתית כלשהי.
לקוחות Bedrock יכולים לבחור מבין כמה ממכשירי ה-FM החדשניים ביותר הקיימים כיום. זה כולל את משפחת Jurassic-2 של LLMs רב-לשוניים מ-AI21 Labs, העוקבים אחר הוראות השפה הטבעית ליצירת טקסט בספרדית, צרפתית, גרמנית, פורטוגזית, איטלקית והולנדית. קלוד, ה-LLM של Anthropic, יכול לבצע מגוון רחב של משימות שיחה ועיבוד טקסט והוא מבוסס על המחקר המקיף של Anthropic לאימון מערכות AI כנות ואחראיות. Bedrock גם מקל על הגישה לחבילת המודלים של בסיס טקסט לתמונה של Stability AI, כולל Stable Diffusion (הפופולרי ביותר מסוגו), המסוגל ליצור תמונות ייחודיות, מציאותיות ואיכותיות, אמנות, לוגו ו עיצובים.
אחת היכולות החשובות ביותר של Bedrock היא כמה קל להתאים דגם. לקוחות פשוט מכוונים את Bedrock לכמה דוגמאות מסומנות באמזון S3, והשירות יכול לכוונן את המודל עבור משימה מסוימת מבלי צורך להעיר כמויות גדולות של נתונים (מספיקות עד 20 דוגמאות). דמיינו לעצמכם מנהל שיווק תוכן שעובד בקמעונאי אופנה מוביל וצריך לפתח עותק ממוקד של מודעה ומסע פרסום עבור ליין חדש של תיקים. לשם כך, הם מספקים ל-Bedrock כמה דוגמאות מתויגות לקווי התג המניבים את הביצועים הטובים ביותר שלהם ממסעות פרסום קודמים, יחד עם תיאורי המוצרים המשויכים, ובדרוק יתחיל ליצור מדיה חברתית יעילה, מודעה לתצוגה ועותק אינטרנט עבור התיקים החדשים. אף אחד מנתוני הלקוח אינו משמש לאימון המודלים הבסיסיים,
יBedrock נמצא כעת בתצוגה מקדימה מוגבלת, ולקוחות כמו Coda מתלהבים מהמהירות שבה צוותי הפיתוח שלהם התחילו לפעול. Shishir Mehrotra, מייסד שותף ומנכ"ל Coda, אומר, "כלקוחה מאושר ותיק של AWS, אנו נרגשים כיצד אמזון Bedrock יכולה להביא איכות, מדרגיות וביצועים ל-Coda AI. מכיוון שכל הנתונים שלנו כבר נמצאים ב-AWS, אנו מסוגלים לשלב במהירות בינה מלאכותית גנרטיבית באמצעות Bedrock, עם כל האבטחה והפרטיות הדרושה לנו כדי להגן על הנתונים שלנו מובנים. עם למעלה מעשרות אלפי צוותים שפועלים על Coda, כולל צוותים גדולים כמו Uber, הניו יורק טיימס ו-Square, אמינות ומדרגיות חשובות מאוד".
עשינו תצוגה מקדימה של מכשירי ה-Titan FM החדשים של אמזון עם כמה לקוחות לפני שנהפוך אותם לזמינים באופן רחב יותר בחודשים הקרובים. בהתחלה יהיו לנו שני דגמי Titan. הראשון הוא LLM מחולל עבור משימות כמו סיכום, הפקת טקסט (לדוגמה, יצירת פוסט בבלוג), סיווג, שאלות ותשובות פתוחות, והפקת מידע. השני הוא LLM embeddings שמתרגם קלט טקסט (מילים, ביטויים או אולי יחידות טקסט גדולות) לייצוגים מספריים (הידועים בשם embeddings) המכילים את המשמעות הסמנטית של הטקסט. אמנם LLM זה לא יפיק טקסט, אך הוא שימושי עבור יישומים כמו התאמה אישית וחיפוש מכיוון שעל ידי השוואת הטמעות המודל יפיק תגובות רלוונטיות והקשריות יותר מאשר התאמת מילים. למעשה, אמזון. יכולת חיפוש המוצרים של com משתמשת במודל הטמעות דומה בין היתר כדי לעזור ללקוחות למצוא את המוצרים שהם מחפשים. כדי להמשיך לתמוך בשיטות עבודה מומלצות בשימוש אחראי ב-AI, Titan FM בנויים לזהות ולהסיר תוכן מזיק בנתונים, לדחות תוכן לא הולם בקלט המשתמש ולסנן את הפלטים של הדגמים המכילים תוכן לא הולם (כגון דברי שטנה, ניבולי פה ואלימות).
יBedrock מנגיש את הכוח של FMs לחברות מכל הגדלים, כך שיוכלו להאיץ את השימוש ב-ML בארגונים שלהן ולבנות יישומי AI יצירתיים משלהם מכיוון שזה יהיה קל לכל המפתחים. אנו חושבים ש-Bedrock יהווה צעד אדיר קדימה בדמוקרטיזציה של חברות FM, והשותפים שלנו כמו Accenture, Deloitte, Infosys ו- Slalom בונים שיטות עבודה כדי לעזור לארגונים ללכת מהר יותר עם AI יצירתי. ספקי תוכנה עצמאיים (ISV) כמו C3 AI ופגה מתרגשים למנף את Bedrock לגישה נוחה למבחר הגדול של FMs עם כל האבטחה, הפרטיות והאמינות שהם מצפים מ-AWS.
הכרזה על הזמינות הכללית של מופעי Amazon EC2 Trn1n המופעלים על ידי AWS Trainium ומופעי Amazon EC2 Inf2 המופעלים על ידי AWS Inferentia2, תשתית הענן החסכונית ביותר עבור AI גנרטיבי
כל מה שלקוחות מנסים לעשות עם FMs - להפעיל אותם, לבנות אותם, להתאים אותם - הם צריכים את התשתית הביצועית והחסכונית ביותר שנבנתה עבור ML. במהלך חמש השנים האחרונות, AWS השקיעה בסיליקון משלנו כדי לדחוף את המעטפת של ביצועים וביצועי מחיר עבור עומסי עבודה תובעניים כמו אימון ML והסקת מסקנות, ושבבי AWS Trainium ו-AWS Inferentia שלנו מציעים את העלות הנמוכה ביותר לאימון מודלים והסקת ריצה בענן. היכולת הזו למקסם את הביצועים ולשלוט בעלויות על ידי בחירת תשתית ה-ML האופטימלית היא הסיבה לכך שחברות סטארט-אפ מובילות בינה מלאכותית, כמו AI21 Labs, Anthropic, Cohere, Grammarly, Hugging Face, Runway ו-Stability AI פועלות על AWS.
מופעי Trn1, המופעלים על ידי Trainium, יכולים לספק חיסכון של עד 50% בעלויות ההדרכה על פני כל מופע אחר של EC2, והם מותאמים להפצת הדרכה על פני מספר שרתים המחוברים ל-800 Gbps של רשתות דור שני של מתאם בד אלסטי (EFA). לקוחות יכולים לפרוס מופעי Trn1 ב-UltraClusters שיכולים להרחיב עד 30,000 שבבי Trainium (יותר מ-6 אקספלופים של מחשוב) הממוקמים באותו אזור זמינות AWS עם רשתות בקנה מידה של Petabit. לקוחות רבים של AWS, כולל Helixon, Money Forward וצוות Amazon Search, משתמשים במופעי Trn1 כדי לעזור להפחית את הזמן הדרוש להכשרת מודלים של למידה עמוקה בקנה מידה גדול מחודשים לשבועות או אפילו ימים תוך הפחתת העלויות שלהם. 800 Gbps זה הרבה רוחב פס, אבל המשכנו לחדש כדי לספק יותר, והיום אנחנו מכריזים עלזמינות כללית של מופעי Trn1n חדשים ומותאמים לרשת , המציעים רוחב פס של 1600 Gbps רשת ומיועדים לספק ביצועים גבוהים יותר ב-20% על פני Trn1 עבור דגמים גדולים ועתירי רשת .
כיום, רוב הזמן והכסף שמבזבזים על FM עוברים להכשרתם. הסיבה לכך היא שלקוחות רבים רק מתחילים לפרוס FMs לייצור. עם זאת, בעתיד, כאשר FMs ייפרסו בקנה מידה, רוב העלויות יהיו קשורות להרצת המודלים ולהסקת מסקנות. בעוד שבדרך כלל אתה מאמן מודל מעת לעת, אפליקציית ייצור יכולה ליצור כל הזמן תחזיות, הידועות בשם מסקנות, שעלולות לייצר מיליונים בשעה. והתחזיות האלה צריכות להתרחש בזמן אמת, מה שדורש רשת עם חביון נמוך מאוד ותפוקה גבוהה. אלקסה היא דוגמה מצוינת עם מיליוני בקשות שמגיעות בכל דקה, מה שאחראי על 40% מכל עלויות המחשוב.
מכיוון שידענו שרוב עלויות ה-ML העתידיות יבואו מהרצת מסקנות, העדפנו לסיליקון מותאם להסקת מסקנות כשהתחלנו להשקיע בשבבים חדשים לפני כמה שנים. בשנת 2018, הכרזנו על Inferentia, השבב הראשון המיועד להסקה. מדי שנה, Inferentia עוזרת לאמזון להפעיל טריליוני מסקנות וחסכה לחברות כמו אמזון כבר יותר ממאה מיליון דולר בהוצאות הון. התוצאות מרשימות, ואנו רואים הזדמנויות רבות להמשיך לחדש שכן עומסי העבודה רק יגדלו בגודל ובמורכבות ככל שיותר לקוחות משלבים בינה מלאכותית גנרטיבית ביישומים שלהם.
זו הסיבה שאנו מכריזים היום על הזמינות הכללית של מופעי Inf2 המופעלים על ידי AWS Inferentia2, אשר מותאמים במיוחד עבור יישומי בינה מלאכותית בקנה מידה גדול עם מודלים המכילים מאות מיליארדי פרמטרים. מופעי Inf2 מספקים תפוקה גבוהה פי 4 ועד פי 10 חביון נמוך יותר בהשוואה למופעים מבוססי Inferentia מהדור הקודם. יש להם גם קישוריות במהירות גבוהה במיוחד בין מאיצים כדי לתמוך בהסקה מבוזרת בקנה מידה גדול. יכולות אלו מניבות עד 40% ביצועי מחיר מסקנות טובים יותר ממופעי אמזון EC2 דומים אחרים והעלות הנמוכה ביותר עבור מסקנות בענן. לקוחות כמו Runway רואים תפוקה גבוהה עד פי 2 עם Inf2 מאשר מופעים דומים של Amazon EC2 עבור חלק מהדגמים שלהם. הסקת ביצועים גבוהה זו בעלות נמוכה תאפשר ל-Runway להציג יותר תכונות, לפרוס דגמים מורכבים יותר,
הכרזה על הזמינות הכללית של Amazon CodeWhisperer, בחינם למפתחים בודדים
אנו יודעים שבנייה עם ה-FMs הנכונים והפעלת יישומי AI Generative בקנה מידה על תשתית הענן הביצועית ביותר תהיה מהפכה עבור הלקוחות. גל החוויות החדש יהפוך גם למשתמשים. עם AI גנרטיבי מובנה, המשתמשים יוכלו לקיים אינטראקציות טבעיות וחלקות יותר עם יישומים ומערכות. תחשוב על איך אנחנו יכולים לפתוח את הטלפונים הניידים שלנו רק על ידי התבוננות בהם, מבלי שנצטרך לדעת דבר על דגמי ה-ML החזקים שמאפשרים את התכונה הזו.
תחום אחד שבו אנו צופים שהשימוש בבינה מלאכותית גנרטיבית גדל במהירות הוא בקידוד. מפתחי תוכנה כיום מבלים חלק ניכר מזמנם בכתיבת קוד שהוא די פשוט ולא מובחן. הם גם מבלים זמן רב בניסיון לעמוד בקצב של כלים ונוף טכנולוגי מורכב ומשתנה ללא הרף. כל זה משאיר למפתחים פחות זמן לפתח יכולות ושירותים חדשים וחדשניים. מפתחים מנסים להתגבר על כך על ידי העתקה ושינוי של קטעי קוד מהאינטרנט, מה שעלול לגרום להעתקת קוד שלא בכוונה שלא עובד, מכיל פרצות אבטחה או לא עוקב אחר שימוש בתוכנת קוד פתוח. ובסופו של דבר, חיפוש והעתקה עדיין לוקחים זמן מהדברים הטובים.
בינה מלאכותית גנרטיבית יכולה להוציא את ההרמה הכבדה הזו מהמשוואה על ידי "כתיבת" הרבה מהקוד הבלתי מובחן, מה שמאפשר למפתחים לבנות מהר יותר תוך שחרור מהם להתמקד בהיבטים היותר יצירתיים של קידוד. זו הסיבה שבשנה שעברה הכרזנו על התצוגה המקדימה של Amazon CodeWhisperer, שותף לקידוד AI שמשתמש ב-FM מתחת למכסה המנוע כדי לשפר באופן קיצוני את פרודוקטיביות המפתחים על ידי יצירת הצעות קוד בזמן אמת על סמך הערות מפתחים בשפה טבעית וקוד קודם בסביבת הפיתוח המשולבת שלהם (IDE).
מפתחים יכולים פשוט לומר ל-CodeWhisperer לבצע משימה, כגון "נתח מחרוזת CSV של שירים" ולבקש ממנו להחזיר רשימה מובנית המבוססת על ערכים כמו אמן, כותרת ודירוג התרשים הגבוה ביותר. CodeWhisperer מספק הגברת פרודוקטיביות על ידי יצירת פונקציה שלמה המנתחת את המחרוזת ומחזירה את הרשימה כפי שצוין. תגובת המפתחים לתצוגה המקדימה הייתה חיובית באופן גורף, ואנו ממשיכים להאמין שעזרה לקוד למפתחים עשויה להיות אחד השימושים החזקים ביותר של AI גנרטיבי שנראה בשנים הקרובות. במהלך התצוגה המקדימה, הרצנו אתגר פרודוקטיביות, ומשתתפים שהשתמשו ב-CodeWhisperer השלימו משימות ב-57% מהר יותר, בממוצע, והיו בסבירות גבוהה ב-27% להשלים אותן בהצלחה מאשר אלה שלא השתמשו ב-CodeWhisperer. זוהי קפיצת מדרגה ענקית בפרודוקטיביות המפתחים, ואנו מאמינים שזו רק ההתחלה.
היום, אנו נרגשים להכריז על הזמינות הכללית של Amazon CodeWhisperer עבור Python, Java, JavaScript, TypeScript ו-C# - ועוד עשר שפות חדשות, כולל Go, Kotlin, Rust, PHP ו-SQL. ניתן לגשת ל-CodeWhisperer מ-IDEs כגון VS Code, IntelliJ IDEA, AWS Cloud9 ועוד רבים נוספים באמצעות הרחבות IDE של AWS Toolkit. CodeWhisperer זמין גם בקונסולת AWS Lambda. בנוסף ללמידה ממיליארדי השורות של קוד זמין לציבור, CodeWhisperer עבר הכשרה על קוד אמזון. אנו מאמינים ש- CodeWhisperer היא כעת הדרך המדויקת, המהירה והמאובטחת ביותר ליצור קוד עבור שירותי AWS, כולל Amazon EC2, AWS Lambda ו- Amazon S3.
מפתחים לא באמת יהיו פרודוקטיביים יותר אם הקוד המוצע על ידי כלי הבינה המלאכותית הגנרטיבי שלהם מכיל פרצות אבטחה נסתרות או לא יצליח לטפל בקוד פתוח באחריות. CodeWhisperer הוא המלווה היחיד לקידוד AI עם סריקת אבטחה מובנית (מופעל על ידי הנמקה אוטומטית) לאיתור והצעת תיקונים לנקודות תורפה שקשה לזהות, כמו אלה בעשרת המובילים Open Worldwide Application Security Project (OWASP), אלו ש אל תעמוד בשיטות המומלצות של ספריית קריפטו ואחרות. כדי לעזור למפתחים לקוד באחריות, CodeWhisperer מסנן הצעות קוד שעלולות להיחשב מוטות או לא הוגנות, ו-CodeWhisperer הוא המלווה היחיד לקידוד שיכול לסנן ולסמן הצעות קוד הדומות לקוד קוד פתוח שלקוחות עשויים לרצות להתייחס אליו או לתת רישיון לשימוש.
אנו יודעים שה-AI הגנרטיבי עומד לשנות את המשחק עבור מפתחים, ואנחנו רוצים שהוא יהיה שימושי לכמה שיותר רבים. זו הסיבה ש- CodeWhisperer בחינם לכל המשתמשים הפרטיים ללא כישורים או מגבלות זמן ליצירת קוד! כל אחד יכול להירשם ל-CodeWhisperer באמצעות חשבון דוא"ל בלבד ולהיות פרודוקטיבי יותר תוך דקות. אתה אפילו לא צריך שיהיה לך חשבון AWS. למשתמשים עסקיים, אנו מציעים שכבה מקצועית של CodeWhisperer הכוללת תכונות ניהול כמו כניסה יחידה (SSO) עם שילוב AWS Identity and Access Management (IAM), כמו גם מגבלות גבוהות יותר על סריקת אבטחה.
בניית יישומים רבי עוצמה כמו CodeWhisperer היא שינוי עבור מפתחים וכל הלקוחות שלנו. יש לנו הרבה יותר בקרוב, ואנחנו נרגשים ממה שתבנה עם AI גנרטיבי ב-AWS. המשימה שלנו היא לאפשר למפתחים בכל רמות המיומנות ולארגונים בכל הגדלים לחדש באמצעות AI גנראטיבי. זוהי רק ההתחלה של מה שאנו מאמינים שיהיה הגל הבא של ML המניע עבורך אפשרויות חדשות.
מקורות
עיינו במשאבים הבאים כדי ללמוד עוד על AI גנרטיבי ב-AWS ועל ההכרזות האלה:
מבוא לבינה מלאכותית גנרית קראו מה יש לWerner Vogels, CTO של Amazon.com לומר על בינה מלאכותית גנרטיבית
מניעת AI גנראטיבי : הקשיבו בראיון המצולם לWerner Vogels, מציג את ההשפעה של AI גנרטיבי על עסקים
למדו על Amazon Bedrock , הדרך הקלה ביותר לבנות ולהרחיב יישומי AI מחוללים עם FMs
למדו על Amazon Titan , מכשירי FM בעלי ביצועים גבוהים מאמזון כדי לחדש באחריות
גלו את מופע Trn1n החדש מבוסס AWS Trainium ואת מופע Inf2 מבוסס AWS Inferentia
למדו כיצד אפשר להשתמש ב- Amazon CodeWhisperer כשותף לקידוד שלך