דמיינו שאתם נכנסים לתחנת דלק. לפניכם בתור עומד תייר אמריקאי. הוא ממלא את המיכל, משלם 100 שקלים ויוצא לדרך. אתם ניגשים לאותה משאבה בדיוק, ממלאים את אותו הרכב בדיוק, לאותו מרחק נסיעה – אבל הקופה דורשת מכם 400 שקלים. נשמע דמיוני? מקומם? ברוכים הבאים לעולם הבינה המלאכותית.
בזמן שכולנו מתלהבים מהיכולות של ChatGPT ודומיו, מתחת לפני השטח מתרחשת פעילות כלכלית סמויה שרוב המשתמשים הישראלים אינם מודעים לה. המטבע של העולם החדש הזה אינו דולר, אינו ביטקוין, ואינו שקל. שמו הוא "טוקן" (Token). וכמו בכל כלכלה, יש מי שמשלם בזול, ויש מי שמשלם ביוקר. במקרה הזה – דוברי העברית הם אלו שסופגים את המכה.
האטום של האינטליגנציה
כדי להבין את הבעיה, צריך קודם כל להבין איך המכונה "קוראת". בניגוד לבני אדם, שרואים מילים שלמות ומשפטים, מודלים של שפה (LLMs) רואים רצף של מספרים. תהליך התרגום הזה, ממילים למספרים, נקרא "טוקניזציה" (Tokenization).
חשבו על זה כמו משחק לגו. המודל מנסה לבנות משפטים באמצעות קוביות מוכנות מראש. ככל שהקוביות שלו גדולות יותר, כך הוא צריך פחות חלקים כדי לבנות קיר. באנגלית, השפה שבה המודלים אומנו ברובה, יש למודל קוביות ענקיות. המילה "Internationalization" (בינאום), למשל, היא קובייה אחת בודדת (טוקן אחד).
למה זה קורה?
הסיבה היא היסטורית וטכנית. המודלים הגדולים אומנו על "האינטרנט הפתוח" (The Common Crawl), שבו האנגלית תופסת נתח עצום של כ-90% מהתוכן האיכותי. האלגוריתם, שתוכנן להיות יעיל, למד לזהות תבניות נפוצות באנגלית והפך אותן לטוקנים בודדים. העברית, כשפה "קטנה" במונחים גלובליים, לא זכתה לאופטימיזציה הזו.
הניסוי: אנגלית מול עברית ראש בראש
בואו נפסיק לדבר בתיאוריה ונעבור למספרים. ערכנו ב-Aivo בדיקה פשוטה. לקחנו משפט זהה באנגלית ובעברית, והזנו אותו למנוע של OpenAI (GPT-4). התוצאות מדהימות בפשטותן האכזרית.
בעברית, המודל נאלץ לפרק את המילים להברות ואותיות. המילה "מלאכותית" לבדה מתפרקת ל-4 או 5 טוקנים שונים (מ-לא-כו-תית). המכונה צריכה לעבוד קשה יותר, לחשב יותר, ולייצר יותר פלט כדי להגיד בדיוק את אותו הדבר.
החשבונית הסמויה: על מה אנחנו משלמים?
אז המחשב עובד קצת יותר קשה, למי אכפת? ובכן, לכם. לפער הטוקנים יש שלוש השלכות קריטיות על כל משתמש ובעל עסק בישראל:
1. העלות הכספית (API Costs)
חברות שמשתמשות בבינה מלאכותית לבניית אפליקציות, צ'אטבוטים או ניתוח נתונים, משלמות ל-OpenAI או לגוגל לפי טוקן ("Pay per Token"). המשמעות היא שסטארט-אפ ישראלי משלם פי 3 עד פי 4 על אותה פעולה בדיוק שעושה המתחרה שלו בארה"ב. זהו "מס" שקט ששוחק את הרווחיות.
2. הזיכרון הקצר (Context Window)
לכל מודל AI יש "חלון הקשר" מוגבל. תחשבו על זה כעל הזיכרון לטווח קצר של השיחה. אם המודל יכול לזכור 8,000 טוקנים, באנגלית זה שווה ערך לכ-6,000 מילים. אבל בעברית? הזיכרון הזה מצטמצם ל-2,000 מילים בלבד. לכן, בשיחות ארוכות בעברית, ה-AI נוטה "לשכוח" מה אמרתם לו בתחילת השיחה הרבה יותר מהר.
3. זמן התגובה (Latency)
יותר טוקנים משמעותם יותר חישובים. התשובה בעברית לא רק יקרה יותר, היא גם איטית יותר לייצור. בחוויית משתמש (UX), כל מילי-שנייה קובעת, והשפה שלנו נמצאת בעמדת נחיתות מובנית.
יש אור בקצה המנהרה
האם נגזר עלינו להישאר מאחור? לא בהכרח. בשנה האחרונה אנחנו רואים שינוי מגמה חיובי. חברות הענק מתחילות להבין שהשוק הבינלאומי (שאינו דובר אנגלית) הוא מנוע הצמיחה הבא שלהן.
המהפכה של GPT-4o
המודל החדש של OpenAI, הנקרא GPT-4o ("Omni"), הציג שיפור דרמטי בטוקניזציה של שפות זרות. הוא משתמש במילון טוקנים חדש ויעיל יותר. בבדיקות שערכנו, הפער הצטמצם מכ-400% (במודלים הישנים) לכ-140% בממוצע. זה עדיין יקר יותר מאנגלית, אבל זה שיפור משמעותי שחוסך הון לחברות ישראליות.
בנוסף, מודלים מתחרים כמו **Claude 3.5 Sonnet** של אנתרופיק ו-**Gemini 1.5 Pro** של גוגל, מציגים ביצועים פנומנליים בעברית, לעיתים אף עולים על אלו של GPT. התחרות הזו היא הבשורה הכי טובה לצרכן הישראלי.
סיכום: להיות חכמים בשוק יקר
ההבנה של "כלכלת הטוקנים" היא לא רק עניין למהנדסים. היא קריטית לכל מנהל, יזם או יוצר תוכן. כשאתם בוחרים באיזה כלי להשתמש, או מתכננים תקציב לפרויקט AI, אתם חייבים לקחת בחשבון את "מקדם העברית".
העולם הטכנולוגי לא תמיד הוגן, אבל ידע הוא כוח. כעת, כשאתם מבינים איך המנוע עובד, אתם יכולים לקבל החלטות מושכלות יותר: לבחור במודלים יעילים יותר (כמו 4o), לכתוב הנחיות (Prompts) מדויקות ותמציתיות יותר, ולהבין על מה בדיוק אתם משלמים. המהפכה כאן, והיא מדברת עברית – גם אם במבטא קצת יקר.
קראו עוד מאת
