קבלת מודל ה-AI הטוב ביותר לכל משימה בעזרת אוטומטי

אוטומטי הוא נתב מודלים שקורא כל משימה ושולח אותה למודל שמאזן בצורה הטובה ביותר בין איכות, מהירות ועלות. עבור כל משימה, אוטומטי בוחר מודל מתוך מספר ספקי AI, בהתבסס על ההערכות של Notion ועל המודלים שסביבת העבודה שלכם מאפשרת. הוא משתמש במודלים מהירים יותר לשאלות ועריכות מהירות, ובמודלים בעלי יכולת גבוהה יותר לעבודה מורכבת.

אוטומטי מופעל כברירת מחדל בבורר המודלים, בצ'אט של סוכן Notion ובהגדרות של סוכן בהתאמה אישית. כשמשתמשים באוטומטי, Notion בוחרת את המודל הטוב ביותר לכל משימה. כך זה עובד:

• אוטומטי מתאים את המודל למשימה. שאלות מהירות, עריכות וסיכומים עוברים למודלים מהירים ויעילים. משימות מורכבות יותר, כגון מחקר מעמיק, כתיבת קוד או בניית סוכנים בהתאמה אישית, יכולות לעבור למודלים בעלי יכולת גבוהה יותר.

• אוטומטי יכול להסתגל תוך כדי משימה. במהלך משימה מרובת שלבים, אוטומטי יכול לעבור למודל בעל יכולת גבוהה יותר בשלבים תובעניים, ואז לחזור למודל הקודם לעבודה פשוטה יותר.

• אוטומטי מתעדכן במודלים חדשים. Notion מעריכה מודלים חדשים מבחינת איכות, מהירות, עלות ואמינות לפני שהיא הופכת אותם לזמינים. המודלים הזמינים דרך אוטומטי עשויים להשתנות. מידע נוסף על האופן שבו Notion מעריכה מודלים ביחס למשימות נפוצות של עבודת ידע →

• אוטומטי פועל בהתאם להגדרות סביבת העבודה שלכם. הוא משתמש רק במודלים שסביבת העבודה שלכם מאפשרת ושעומדים בדרישות שלה, כולל בקרות מודלים והגבלות על ספקים. אם אחד מבעלי סביבת העבודה מגביל את המודלים שאוטומטי יכול להשתמש בהם, אוטומטי עובר למודל הבא בעל העלות הנמוכה ביותר שסביבת העבודה מאפשרת.

• אוטומטי זקוק למספיק מודלים מופעלים כדי לעבוד היטב. אם אחד מבעלי סביבת העבודה מכבה יותר מדי מודלים בסביבת העבודה, אוטומטי יהיה פחות יעיל. בעת שמירת שינוי שמגביל את האיכות הכוללת של אוטומטי, בעלי סביבת העבודה יראו אזהרה.

אפשר לשלוט בבחירת המודל בכל עת. כדאי לבחור מודל בעצמכם במקרים הבאים:

• ברצונכם להשתמש באותו מודל לאורך הצ'אט במקום לתת לאוטומטי לבחור או להחליף מודלים בהתאם לשינויים במשימה.

• אתם מעדיפים מודל מסוים לסוג עבודה מסוים.

• אוטומטי לא נתן לכם את התוצאה הדרושה, ואתם רוצים לנסות מודל אחר.

כדי לבחור מודל

בצ'אט של סוכן Notion:

1. בוחרים באפשרות אוטומטי כדי לפתוח את בורר המודלים.

2. מעבירים את הסמן מעל מודל כדי להשוות מהירות, יכולות ועלות.

3. בוחרים מודל.

לאחר הבחירה, סוכן Notion ישתמש במודל הזה בצ'אט שלכם. כדי לחזור לאוטומטי, פותחים את בורר המודלים ובוחרים באפשרות אוטומטי.

בהגדרות של סוכן בהתאמה אישית:

1. פותחים את ההגדרות של הסוכן שלכם.

2. עוברים למקטע המודלים ופותחים את בורר המודלים.

3. בוחרים מודל.

4. בוחרים באפשרות שמירה.

לאחר הבחירה, הסוכן בהתאמה אישית ישתמש במודל הזה עד שתשנו אותו.

בעלי סביבות עבודה שולטים באילו מודלים חברים יכולים לבחור. מודלים של ספקים שסביבת העבודה שלכם השביתה אינם מופיעים. מודלים שסביבת העבודה שלכם הגבילה מופיעים תחת מודלים מוגבלים ואי אפשר לבחור בהם. מידע נוסף על ניהול מודלי AI והוצאות הקרדיטים של חברים →

בתוכנית לעסקים ובתוכנית Enterprise,‏ סוכן Notion משתמש בקרדיטים מסוג Standard כשאתם משתמשים באוטומטי ובקרדיטים מסוג Select כשאתם בוחרים מודל בעצמכם. אם נגמרים לכם הקרדיטים מאחד הסוגים, מנהל המערכת יכול לאפשר לכם להמשיך להשתמש בתכונות AI באמצעות קרדיטים של Notion. למידע נוסף על ניהול הקרדיטים של AI שלכם →

ברוב המשימות היומיומיות ב-Notion, הקרדיטים שלכם יכולים להספיק לעד פי 10 יותר עם אוטומטי מאשר בבחירה ידנית במודל מוביל. אוטומטי מתאים את המודל למשימה ומשתמש בפחות קרדיטים לכל משימה, כך שתוכלו להספיק יותר עם הקרדיטים שלכם. בבדיקות שלנו:

• העלות הממוצעת של הרצה עם אוטומטי הייתה נמוכה ב-87% מזו של Opus 5.5.

• ליטוש מסמך או אימייל צרך בערך פי 8 פחות קרדיטים מבניית מסמך אסטרטגיה מפורט או תוכנית רבעונית.

טבלה זו משווה את השימוש המשוער בקרדיטים במשימות נפוצות עם אוטומטי ועם Opus 5.5. השימוש בפועל עשוי להשתנות.

צריכת הקרדיטים משתנה בהתאם לתרחיש. לדוגמה, בקשה מסוכן Notion ללטש אימייל בשרשור ארוך עם מידע מורכב עשויה לצרוך יותר קרדיטים. גם במשימות שבדרך כלל צורכות יותר קרדיטים, אוטומטי הפיק תוצאות דומות למודלים מתקדמים.

הערכנו את אוטומטי על ידי הרצה חוזרת של אלפי משימות נפוצות מהעולם האמיתי בסביבת Notion מדומה, ולאחר מכן השווינו את הביצועים של מודלים שונים. כך זה עבד:

1. השווינו בין שני מודלים בכל פעם. הצגנו לקבוצה של מודלים מובילים את התוצרים של שני מודלים שונים, זה לצד זה.

2. קבוצת השופטים בחרה בכל פעם בתוצאה הטובה יותר, על פי קריטריונים קבועים לניקוד.

3. הענקנו לכל מודל ציון Elo בהתבסס על כל ההשוואות הישירות הללו.

ציון Elo מדרג מיומנות על סמך הביצועים של שחקן מול אחרים לאורך מפגשים רבים של אחד על אחד, בדומה לדירוג שחקני שחמט. זוהי דרך פשוטה ואמינה להעריך מודלים על סמך ביצועיהם במשימות מהעולם האמיתי.

ביצוע כל השוואה באופן ידני הוא יקר, לכן אימנו שופט AI שיפיק דירוגים דומים מאוד לאלה, וכך נוכל לבצע השוואות רבות בבת אחת. הניקוד שלנו מבוסס על השיטה הזו.