ספר על "האמת בעידן ה-AI" מכיל ציטוטים שהומצאו על ידי AI
מאת: רויטל סלומון
נכתב ב-20 במאי 2026
סיפורים על הזיות והמצאות של AI צצים כל יום בפיד החדשות. לפעמים אלה עורכי דין שמגישים כתבי הגנה עם פסקי דין שלא היו ולא נבראו, לפעמים אלה "עיתונאים" בערוצי תעמולה שה-AI מסייע להם להמציא סיפורים לטובת השליט העליון, ולפעמים אלה סתם סטודנטים שמגישים עבודות עם הזיות AI מגוחכות.
אבל האם יש משהו יותר אירוני מספר שמתיימר לדבר על "אמת" בעידן הבינה המלאכותית, ומכיל ציטוטים מצוצים מהמקלדת? הספר The Future of Truth: How AI Reshapes Reality, שנכתב על ידי סטיבן רוזנבאום, מוצע למכירה באמזון, כשבתיאור שלו כתוב שהספר בוחן איך האמת בעידן הנוכחי מכופפת, מטושטשת ומסונתזת, ואפילו על ההיסטוריה כבר אי אפשר יותר לסמוך.
חבל רק שגם על הספר של רוזנבאום אי אפשר לסמוך. אמנם, יש בו ציטוטים מדויקים, שמיוחסים לאנשים הנכונים, אבל יש בו גם ציטוטים שהומצאו על ידי AI כמו ChatGPT. למשל, בבדיקה שערך הניו יורק טיימס, נמצא ציטוט שגוי של קארה סווישר. היא מעולם לא אמרה את הדברים, ואף הוסיפה שהציטוט, שהומצא על ידי צ'אט ג'יפיטי, גורם לה להישמע כאילו יש לה מקל בישבן.
אם תקראו את הציטוט, תוכלו לזהות בו סימנים מחשידים – התבנית של "הוא לא X, הוא Y" ופילוסופיית יתר בנאלית שבעצם לא אומרת כלום.
“The most sophisticated A.I. language model is like a mirror. It reflects our own morality back at us, polished and articulate, but ultimately empty behind the surface. It’s not bound by Asimov’s laws or any ethical framework – it’s bound by the patterns in its training data and the objectives set by its creators.”
ציטוט שגוי נוסף שהופיע בספר, יוחס לליסה פלדמן בארט, שאמרה שלא רק שהיא לא אמרה את הדברים, הם גם לא נכונים.
הציטוט עצמו נקרא כמו איזה קשקוש שתמצאו בפיד הלינקדאין הקרוב לביתכם.
לזכותו של רוזנבאום, ייאמר שהוא לקח אחריות ואמר שהוא לא הסתיר את העובדה שהוא עשה שימוש ב-AI בכתיבת ועריכת הספר. עם זאת, האייטם בניו יורק טיימס מוכיח את חשיבותה העצומה של עריכה ובדיקת עובדות אנושית איכותית. ההוצאה לאור והמפיצים של הספר סירבו להגיב לידיעה, אגב, מה שאולי מרמז על אחריות מסוימת שיש להם בעריכת הספר – פעולה שהם אולי התרשלו בה.
אגב, התקציר של הספר באמזון, גם הוא נכתב ב-AI, וזה מאוד בולט.
כלי הבינה המלאכותית נמצאים בשימוש נרחב בכל שכבות האוכלוסייה, ויש גם אנשי מקצוע לא מעטים שמשתמשים בבינה המלאכותית לשיפור היעילות והמהירות שלהם. אלה הם כלים רבי עוצמה וזה נפלא שהם קיימים. אבל, למרות ההתקדמות והתחכום של המודלים, פעם אחר פעם מוכח שמדובר בכלים שאי אפשר, ואף אסור, לסמוך עליהם בעיניים עצומות. הם עושים טעויות, והם לפעמים ליטרלי משקרים לנו בפנים כשאנחנו תופסים אותם. הם תוכנתו לחרטט בביטחון, לתת למשתמש תחושה שהוא מקבל מידע מהימן ואמיתי, אבל לא תמיד זה נכון.
מהניסיון שלי, אין כמעט יום שאני לא תופסת בו איזשהו מודל מחרטט או משקר. למרות שאני תמיד מתעקשת על כך שה-AI יצטט מקורות ויראה בדיוק מהיכן הביא את הנתונים, יש מקרים רבים שבהם הוא מציג מקור מידע שאין בו בכלל את המידע שהוא המציא.
עם קלוד, למשל, קרה לי שקיבלתי ניתוח מעמיק של קוד (האלגוריתם של X, במקרה), שהיה מבוסס על קריאה של קובץ אחד וליקוט מידע לא רלוונטי מהאינטרנט. במקום שקלוד יבדוק את כל קבצי הקוד, כמתבקש, הוא "חיפף" ואפילו שיקר לי בעניין הזה. חלקים מהניתוח שלו היו שגויים, ורק לאחר שהזנתי לו ידנית את קבצי הקוד, קיבלתי תשובות יותר מחוברות למציאות.
זה כמובן קורה לא רק בטקסטים. מאז ש-ChatGPT שיחררו את מודל יצירת התמונות העדכני שלהם, שמאפשר יצירת תמונות מורכבות עם טקסט (גם בעברית) באיכות טובה מאוד, אפשר לראות מגיפת ג'ינרוטים של מודעות ופרסומות (באינסטגרם וברשתות אחרות). התמונות לא רק מג'ונרטות, הן מציגות את המוצרים בצורה שונה מאיך שהם נראים באמת, יש ג'יבריש בטקסטים על התוויות של המוצרים ולפעמים שוכחים שם פרטים חשובים, כמו למשל במודעה של מירוץ שמתקיים בחיפה – ושכחו לכתוב בה את התאריך. פרט שולי שכזה.
אני בהחלט נעזרת בכלי בינה מלאכותית בשירותי ניהול האתרים וניהול התוכן שאני מעניקה, אבל זה נעשה תחת פיקוח צמוד ובדיקה קפדנית של כל עובדה ואמירה שנכתבת על ידי הכלים הללו – ולא משנה בכלל מה הנושא המדובר.
שלא בשולי, היזהרו גם מאנשים שמנסים למכור לכם סיפורים על "האמת", בעידן שבו גם העובדות מג'ונרטות על ידי מודל סטטיסטי עם "ביטחון עצמי" מופרז.
