השימוש הגובר בבינה מלאכותית לתכנון משימות יומיומיות כמעט הסתיים בטרגדיה בהרי קליפורניה. שלושה מטיילים חסרי ניסיון יצאו לטפס על הר שאסטה (Mount Shasta), הר געש המתנשא לגובה של מעל 4,300 מטרים, לאחר שהסתמכו באופן עיוור על הנחיות שקיבלו מג'מיני. המערכת הבטיחה להם כי מדובר במסלול קצר של שמונה שעות בלבד, והמליצה להצטייד בפחמימות פשוטות ולהימנע משומנים משום שהם "מתעכלים לאט מדי".
A group of hikers had to be rescued after using AI to plan a summit of Mount Shasta in California.
They depended on Google's Gemini to give them information about the route and what to pack, which led them to bring "far less food and water than their group required," according… pic.twitter.com/6Bu7H9apXW
— Pop Base (@PopBase) September 4, 2026
העצות הבעיתיות שהובילו לסכנה
על סמך עצת המכונה, המטיילים לקחו עמם תרמילי יום קלים בלבד, ללא ביגוד חם, ללא ציוד מחסה ומעט מאוד מים. בפועל, הטיפוס לפסגה נמשך 16 שעות מפרכות והסתיים בשעות הערב החשוכות – שעות רבות לאחר המועד המומלץ לחזרה. בירידה מההר הם איבדו את השביל בתוך קניון בוצי, אחד מהם ספג פציעת ברך חמורה, והטלפון הנייד שהריץ את אפליקציית הניווט שבת מפעילות לאחר שהסוללה התרוקנה לחלוטין.
המטיילים הצליחו להזעיק סיוע ברגע האחרון, אך תנאי מזג האוויר הקשים מנעו אפשרות לחילוץ מוסק. צוותי חילוץ של שריף מחוז סיסקיו ושומרי היערות נאלצו להגיע אליהם רגלית וללוות אותם במסע ירידה רגלי שנמשך תשע שעות נוספות. "הסתמכנו יותר מדי על הבינה המלאכותית במקום על החשיבה הביקורתית שלנו", הודו המטיילים המותשים בפני אנשי כוחות ההצלה לאחר שחולצו בשלום.
A group of hikers had to be rescued after using AI to plan a summit of Mount Shasta in California.
They depended on Google's Gemini to give them information about the route and what to pack, which led them to bring "far less food and water than their group required," according… pic.twitter.com/6Bu7H9apXW
— Pop Base (@PopBase) September 4, 2026
האזהרה לציבור
במשרד השריף המקומי פרסמו אזהרה לציבור והפצירו במטיילים ליצור קשר ישיר עם תחנות המידע של הפקחים: "לעולם אל תסתמכו אך ורק על AI לתכנון טיולים בשטח". מומחי בטיחות מדגישים כי מודלי שפה נוטים לייצר "הזיות" ולספק תשובות שנשמעות משכנעות לחלוטין אך מנותקות מתנאי השטח הפיזיים, מגבלות הגוף האנושי ושינויי מזג האוויר הקיצוניים.
התקרית המטלטלת מהווה תזכורת חיונית למגבלות הטכנולוגיה. מודלים של בינה מלאכותית מעולם לא טיפסו על הר, לא ביצעו פרוצדורה רפואית ולא התמודדו עם חיווט חשמלי. בעוד שכלי ה-AI מספקים עזרה מצוינת בניסוח טקסטים או במחקר בסיסי, בכל החלטה הנוגעת לבריאות, לכספים או להצלת חיים – חובה לאמת את הנתונים מול גורמים אנושיים מוסמכים ולא להפקיד את הגורל בידי אלגוריתם.
בתגובה, חברת גוגל מסרה כי היא מתייחסת לנושא ברצינות ובודקת את העניין. עם זאת, עד כה החברה לא הצליחה לשחזר את התשובות הלא מדויקות שלכאורה סיפק ג'מיני, כשבשלב זה לא ברור באילו הנחיות (פרומפטים) השתמשו המטיילים.
