מנהל חירום במחוז באלבמה רצה שתושביו יבינו את סכנת ההוריקן, ביקש מצ'אטבוט גרפיקה, וקיבל בדיוק מה שביקש. הבעיה: המפה לא הייתה נכונה מבחינה מטאורולוגית. המקרה הזה פותח תחקיר של Grist שפורסם ב-WIRED על התראות חירום שנכתבות ב-AI בארה"ב, ועל השאלה אם הציבור בכלל יסמוך עליהן.
מה קרה עם גרפיקת ההוריקן?
אחרי שהוריקן Isaias הגיע לחוף מפרץ מקסיקו בדרגה 3, מטאורולוג מאלבמה התקשר ללורה מאיירס, מנהלת המרכז לבטיחות הציבור באוניברסיטת אלבמה. הוא סיפר שמנהל חירום מקומי פרסם גרפיקה של אזורים שעלולים להיפגע מ"sting jet", משב רוחות עזות במיוחד. את הגרפיקה הכין צ'אטבוט.
לדברי מאיירס, ה-AI "עשה את מה שהוא רצה שיעשה, אבל זה לא היה מדויק מטאורולוגית". המודל נתן לו את מה שביקש, ואף אחד לא בדק אם זה נכון.
למה בכלל לתת ל-AI לכתוב התראות חירום?
כי בני אדם כותבים אותן לא טוב. לפי הכתבה, מנהלי חירום נוטים לז'רגון, משמיטים מידע שנראה להם מובן מאליו ומוסיפים פרטים שמסיחים את הדעת. למשל: ב-2016 שני מחוזות שכנים בקליפורניה הוציאו לאותה שריפה פינוי "וולונטרי" ופינוי "חובה". במונטסיטו, אחרי שריפת Thomas ב-2017, הודעה עמומה בנוסח "הישארו ערניים לשינויים והיו מוכנים לעזוב מיד" נקראה אצל רבים כהמלצה בלבד. מפולת הבוץ שבאה אחר כך הרגה 23 בני אדם, ויותר מ-160 נפצעו.
החוקרת ג'נט סאטון נתנה למודל של הסטארטאפ EM1, שאומן על המחקר שלה, לשכתב התראת הצפה אמיתית ממחוז בניו מקסיקו. ההבדל ברור גם בלי תואר בניהול אסונות:
| ההתראה המקורית | הגרסה של המודל |
|---|---|
| Breeched banks. The water is rising. EVACUATE NOW. McGee Park open for people and pets, RV. | San Juan County: Floodwater is rising near [location]. People in [evacuation area]: LEAVE NOW for higher ground. Do not walk or drive through floodwater. McGee Park is open for people and pets. Check [official update source] for updates. |
בעברית, הגרסה של המודל אומרת בערך כך: מחוז סן חואן מודיע שמי ההצפה עולים ליד מקום מסוים; מי שנמצא באזור הפינוי צריך לעזוב עכשיו לשטח גבוה, לא ללכת או לנסוע במים, פארק מקגי פתוח לאנשים ולחיות מחמד, ועדכונים יפורסמו במקור רשמי.
הגרסה החדשה אומרת מי שולח, איפה ההצפה, מי צריך לצאת, איך לעשות את זה בבטחה ואיפה להתעדכן. היא גם מתקנת את שגיאת הכתיב במילה breached.
האם רשויות כבר משתמשות בזה?
רשמית, כמעט לא. ל-EM1 יש חוזים עם כמאה סוכנויות ממשלתיות ומחוזות חינוך, אבל אף אחת מהן לא מפעילה אותו להתראות מזג אוויר. בפועל, כל המומחים שדיברו עם Grist בטוחים שמנהלי חירום רבים כבר כותבים הודעות ב-ChatGPT או ב-Gemini. "האימוץ הרשמי נמוך, אבל אנשים משתמשים בזה באופן לא רשמי, בהחלט", אמרה פרופ' שרה מילר מ-Pierce College. לדבריה, חלקם עושים זאת מחשבונות פרטיים או חינמיים. מי שרוצה להבין במה הצ'אטבוטים האלה שונים זה מזה יכול לקרוא את ההשוואה שלנו בין ChatGPT, Gemini ו-Grok.
האם אפשר לסמוך על התראה שכתב AI?
התראה טובה יותר לא שווה הרבה אם אנשים לא מאמינים לה. ג'יני כ"ץ, מייסדת HazAdapt, אומרת שאנחנו סומכים על מה שנראה לנו אותנטי, ותוכן של AI לא מרגיש כך. בסירקיוז שבמדינת ניו יורק איגוד עובדי ציבור אפילו תבע את העירייה על שימוש ב-AI למענה לשיחות 911 שאינן דחופות.
גם התומכים מודים שהכלי טוב בדיוק כמו מי שמפעיל אותו. מנהל חירום ותיק יזהה טעות בטיוטה. מתחיל בלחץ כנראה לא.
ומה זה אומר לקורא בישראל?
אין בכתבה שום עדות לשימוש כזה בישראל. אבל מי שמכיר הודעות פיקוד העורף יבין מיד את הדילמה. ניסוח ברור יותר יכול להציל חיים, ושגיאה אחת של מודל, כמו המפה מאלבמה, יכולה לשרוף אמון שנבנה שנים.
ג'סטין סנייר, מייסד Preppr, שאל אם הייתם מאמינים יותר להודעה מאדם או ממחשב, וענה בעצמו: זה תלוי במי שמקבל אותה. לדעתנו הנוסחה הסבירה היא זו שתיאר רוב דייל ממחוז אינגהם במישיגן: לתת ל-AI לנסח, ולהשאיר את הכפתור "שלח" אצל בן אדם.
מקורות
AI Emergency Alerts Are Coming. Humans Might Not Be Ready, Jake Bittle, Grist / WIRED, 28.10.2026
