כמה פעמים יצא לכם לשאול צ'אטבוט של בינה מלאכותית שאלה ולקבל תשובה שנראית מושלמת ומקצועית לחלוטין? רובנו עושים את זה מדי יום, בין אם לצורכי עבודה ובין אם לפתרון בעיות יומיומיות בבית. אבל הסיפור הבא מבהיר היטב מדוע הסתמכות עיוורת על הכלים האלה, ללא בדיקה נוספת, עלולה להסתיים באסון כלכלי כבד שיכול היה להימנע בקלות רבה בעזרת חיפוש פשוט ברשת.
העצה שהחריבה 25 אקרים של יבול
חקלאי בן 67 מהעיר צ'וז'ו שבסין, שהחל לאחרונה לבטוח ביכולות של בינה מלאכותית, החליט להתייעץ עם צ'אטבוט כדי לפתור בעיית עשבים ומזיקים בשדה השומשום שלו, שהשתרע על פני כ-25 אקרים. הצ'אטבוט סיפק לו מתכון מפורט לערבוב חומרי הדברה שונים. החקלאי פעל בדיוק לפי ההנחיות שקיבל וריסס את השדה כולו, אך למחרת בבוקר גילה לתדהמתו שכל שתילי השומשום נבלו ומתו בן לילה.
הטעות הקריטית נבעה מכך שהצ'אטבוט המליץ על שילוב חומרים כימיים הכולל חומר המיועד להשמדת עשבים רחבי עלים. מכיוון שצמח השומשום עצמו מוגדר כצמח רחב עלים, החומר השמיד את הגידולים עצמם במהירות רבה יותר מאשר את העשבים השוטים. מומחים חקלאיים אישרו כי ערבוב החומרים הכימיים הללו היה הרסני במיוחד, בעיקר לאור העובדה שהחקלאי ריסס את השדה כולו במקום לבצע ריסוס ממוקד כפי שנדרש.
החוקרים נדהמו: הבינה המלאכותית למדה לקרוא מחשבות ב-15 שניות
כך תגנו על עצמכם מנזקי AI
החקלאי המתוסכל חזר אל הצ'אטבוט כדי להבין מה השתבש, וגילה כי הוא פשוט לא שם לב לאזהרה שהופיעה על המסך. כמו מרבית כלי הבינה המלאכותית כיום, גם הצ'אטבוט הזה הציג אזהרה מפורשת לפיה המידע המיוצר עלול להיות שגוי ויש לאמת אותו. חוסר תשומת הלב הזה עלה לו באובדן היבול כולו, ואולי אף באובדן השימוש בקרקע לעונה שלמה.
האירוע הכואב הזה הוא תזכורת חשובה לכולנו. כדי להימנע מנזקים דומים בחיי היומיום, בעבודה או בלימודים, זכרו תמיד לבדוק עצות קריטיות של בינה מלאכותית באמצעות חיפוש פשוט ברשת או התייעצות עם אנשי מקצוע. אל תסמכו בעיניים עצומות על התשובה הראשונה שאתם מקבלים מהמסך.
