שוטף, משכנע, שגוי: חמשת הרוצחים השקטים של תרגום מבוסס AI

הטעויות המסוכנות ביותר בתרגום מבוסס בינה מלאכותית אינן תמיד הטעויות שקל לזהות.

לעיתים התרגום אינו כולל משפטים חסרי היגיון, מילים מומצאות או שיבושים בולטים. להפך. הוא נשמע טבעי, מקצועי ומשכנע לחלוטין. דווקא משום כך, טעויות מסוימות עלולות לעבור מתחת לרדאר ולהישאר במסמך עד לגרסה הסופית.

בשנת 2026 ביטל בית המשפט העליון של הודו שתי החלטות של ערכאות שיפוטיות לאחר שהתברר כי הבסיס המשפטי שלהן היה בדיוני בחלקו.

הערכאה הראשונה הסתמכה על שישה תקדימים משפטיים לכאורה. שלושה מהם כלל לא היו קיימים. במקרים אחרים נעשה שימוש באסמכתאות שנראו אמיתיות, ולעיתים אף היו נכונות, אך לפסקי הדין יוחסו פסקאות שמעולם לא הופיעו בהם. ערכאת הערעור חזרה על אותן אסמכתאות מבלי לזהות את הבעיה.

בית המשפט העליון קבע כי כאשר חומר מזויף או חומר שנוצר כתוצאה מהזיית AI נכנס להנמקה השיפוטית, ההחלטה שהתקבלה בעקבותיו היא למעשה "לא החלטה בעיני החוק". הוא ביטל את שתי ההחלטות והורה לדון בסכסוך מחדש.

מבחינה פורמלית, לא היה זה מקרה של תרגום. אולם הוא ממחיש בדיוק את אותו כשל שהופך תרגום מבוסס AI למסוכן. המערכת לא הפיקה שטויות גלויות לעין. היא הפיקה טקסט מלוטש וסמכותי, שנראה כאילו הוא משקף בנאמנות מקור קיים. רק לאחר שמישהו בדק את המקור התברר שהמקור שונה, או שמעולם לא היה קיים.

בעולם המשפט, המצאת המקור גרמה לקריסתן של שתי החלטות שיפוטיות. בתרגום, אותו עיוות בטוח בעצמו של טקסט המקור עשוי לשרוד דווקא משום שאיש אינו מערער על המשפט.

אלה חמישה מה"רוצחים השקטים" הנפוצים ביותר בתרגום מבוסס AI.

1.  זליגה טרמינולוגית

מערכות AI עשויות לתרגם את אותו המונח בכמה דרכים שונות לאורך אותו מסמך.

במסמך קצר, חוסר העקביות עשוי להיראות כמו בעיה סגנונית בלבד. במסמך משפטי, פיננסי או טכני, הוא עלול ליצור בלבול ממשי. כאשר מונח מוגדר מתורגם פעם אחת בדרך מסוימת ובהמשך בדרך אחרת, הקורא עלול להבין שמדובר בשני מושגים שונים.

הבעיה מחמירה כאשר המסמך כולל כמה קבצים, נספחים או גרסאות קודמות. ללא מילון מונחים מסודר או זיכרון פרויקט, המערכת אינה תמיד שומרת על הבחירות שכבר התקבלו.

2.  היעלמותן של מילות סיוג

מילים קטנות עשויות לשנות את משמעותו של משפט שלם.

מילים כמו "עשוי", "בדרך כלל", "בכפוף ל", "אלא אם כן", "בקירוב" או "ככל האפשר" קובעות לעיתים את מידת הוודאות, החובה או האחריות הקיימת בטקסט.

תרגום AI עשוי להשמיט מסייג, לרכך אותו או להפוך אותו לקביעה חד משמעית. המשפט עדיין יישמע תקין לחלוטין, אך המשמעות המשפטית או העסקית שלו עשויה להיות שונה.

לדוגמה, קיים הבדל מהותי בין חברה ש"רשאית" לבצע פעולה לבין חברה ש"תבצע" אותה. הטעות אינה דרמטית לעין, אך ההשלכות שלה עשויות להיות משמעותיות.

3.  פתרון שקט של עמימות

טקסטים מקוריים אינם תמיד ברורים.

משפט עשוי לכלול כינוי גוף שלא ברור למי הוא מתייחס, ניסוח שניתן לפרש בשתי דרכים או מונח בעל כמה משמעויות אפשריות.

מתרגם אנושי עשוי לזהות את העמימות, לבדוק את ההקשר, לשאול שאלה או לשמר אותה בתרגום. מערכת AI נוטה לעיתים לבחור בפרשנות אחת ולהציג אותה בביטחון, בלי לציין שהמקור עצמו היה דו משמעי.

התוצאה יכולה להיראות טובה יותר מהמקור, אך להיות פחות מדויקת ממנו.

4.  דיוק מקומי, כשל מערכתי

תרגום יכול להיות נכון ברמת המשפט הבודד ועדיין להיכשל ברמת המסמך כולו.

הבעיה עשויה להופיע בהפניות לסעיפים, במספור, בהגדרות, בשמות של צדדים, בכינויי גוף או בקשרים בין פסקאות שונות. כל משפט, בפני עצמו, נשמע הגיוני. רק כאשר קוראים את המסמך כמכלול מתברר שהחלקים אינם מתחברים.

מערכות AI טובות במיוחד ביצירת משפטים זורמים. הן אינן תמיד טובות באותה מידה בשמירה על מערכת מורכבת של קשרים פנימיים לאורך עשרות עמודים.

לכן, בדיקת איכות אינה יכולה להסתפק בקריאה שורה אחר שורה. יש לבדוק גם את ההיגיון הכולל של המסמך.

5.  שטף שמסתיר את הטעות

זה אולי הסיכון הגדול מכולם.

כאשר תרגום נשמע טבעי ומקצועי, הקורא נוטה לתת בו אמון. ניסוח שוטף יוצר תחושה שהמערכת הבינה את המקור, גם כאשר היא שינתה פרט חשוב, החסירה הסתייגות או בחרה בפרשנות שגויה.

במובן זה, איכות הניסוח יכולה להפוך למסווה.

תרגום מגושם גורם לנו לעצור ולבדוק. תרגום מצוין מבחינה סגנונית עלול לגרום לנו להמשיך לקרוא מבלי להשוות אותו בקפידה למקור.

כיצד מצמצמים את הסיכון?

השימוש ב-AI אינו הבעיה. הבעיה היא ההנחה שתרגום שנשמע טוב הוא בהכרח תרגום נכון.

תהליך עבודה אמין צריך לכלול מילון מונחים, הוראות ברורות, השוואה שיטתית למקור, בדיקות עקביות ובקרת איכות שמתייחסת למסמך כמכלול. במסמכים רגישים נדרשת גם בדיקה אנושית של המקומות שבהם טעות קטנה עשויה לשנות את המשמעות.

היתרון הגדול של AI הוא היכולת להפיק תרגום מהיר, שוטף ואיכותי. אך אותן תכונות בדיוק עלולות גם להסתיר את הטעויות שקשה ביותר לזהות.

בתרגום מבוסס AI, הסכנה אינה תמיד טקסט שנשמע שגוי.

לעיתים הסכנה האמיתית היא טקסט שנשמע נכון לחלוטין.