אני בטוח שנתקלתם במצב בו ChatGPT וכלים אחרים, כותבים לכם דברים בצורה שנשמעת כעובדה, אבל בפועל זו שטות מוחלטת.
יש לדבר הזה שם, ואפילו ערך בויקיפדיה:
הזיות בינה מלאכותית
https://bit.ly/ai-hallucinations
לדוגמה: לאחרונה פורסם מטעם "נבו" (מאגר של תקדימים משפטיים) שהם קיבלו פניות מעורכי דין על חוסרים בתקדימים במאגר. הם בדקו וגילו את הסיבה:
אין תקדימים כאלו 😅
הבינה המלאכותית פשוט המציאה אותם.
הצורה להתמודד עם זה מתחלקת ל2:
1. פשוט לא לסמוך בעיניים עצומות על מה שהוא כותב. זה לא ויקיפדיה, לא גוגל, ולא עיתון (וביננו, גם לא כל דבר שכתוב במקומות הנ"ל הוא מדויק…). צריך עיניים ביקורתיות ולהצליב מידע. ואם כל מה שאתם צריכים זה רק פריט מידע, אז אולי בכלל אתם יכולים להשתמש במנוע חיפוש פשוט.
2. ישנן טכניקות מעולם ה Prompt Engineering אשר הוכחו כמצמצמות את השטויות. בין השאר:
"בדוק את עצמך בטרם תיתן תשובה",
"כתוב לי אך ורק דברים שאתה בטוח שהם נכונים, אחרת כתוב לי שאינך יודע",
"תספק לי מקורות אשר מאששים את המידע שהבאת" ועוד.
הגישה השניה לא תמיד עובדת במאה אחוז אך בהחלט ראיתי את השפעתה החיובית.
מזמין אתכם להתנסות ולראות בעצמכם, ולספר לי.
ובינתיים, טוב שיש לנו מוח ושעדיין צריך להשתמש בו…
חגי לוגר
