
היכולת שלנו לשאול שאלה ולקבל תשובה היא מדהימה.
אבל מה קורה כשמדובר במידע סודי?
אנחנו הרי לא מעוניינים שהמנועים יקבלו את המידע הזה ויעשו בו שימוש.
אז:
1. הכנסו ל:
2. הורידו את התוכנה למחשב שלכם.
3. סמנו שאתם לא מעוניינים שיישלח מידע החוצה.
4. מיצאו מודל שאתם מעוניינים לעבוד איתו. וסמנו שיוריד אותו למחשב. למשל את llama 3.1 בגרסת 8B. שמחשב סביר יצליח להתמודד איתו.
5. זהו! יש לכם תוכנה כמו ChatGPT, שאפשר להתכתב איתה ולא שולחת מידע לאף אחד!
שימו לב שהמודלים החזקים צריכים מחשב מטורף.
לכן המודלים שתורידו למחשב שלכם כנראה לא יהיו ברמה של ChatGPT, וגם העברית לא תהיה בשמים.
ועדיין – לצרכים שונים כמו תכנות ועוד, זה עושה עבודה מרשימה.