כיצד לאתר עמעומים עמוקים ותמונות שנוצרו על ידי בינה מלאכותית: מדריך שלב אחר שלב

אין כלי יחיד שתופס כל עמעום עמוק או תמונה שנוצרה על ידי בינה מלאכותית. חברת הסייבר ESET ומכון רויטרס למחקר עיתונאות באוניברסיטת אוקספורד שניהם ממליצים על שכבול מספר בדיקות — בדיקה חזותית, מטא־נתונים של מקור, זיהוי סימן מימי והוודאת מקור — מכיוון שלכל שיטה יש נקודות עיוורון ידועות.

שלב 1: חפש אי־התאמות חזותיות ובקוליות

המדריך של ESET לזיהוי מידע שגוי שנוצר על ידי בינה מלאכותית מפרט ברמזים חזותיים קונקרטיים לבדיקה ראשונה: הארה לא טבעית, גוון עור חלק יותר מדי, קצוות מהבהבים ורקעים מעומעמים. אנומליות פנים שכדאי לבדוק כוללות עיניים מיושרות בצורה שגויה, שיניים מעוותות ודפוסי הצמצום חריגים. עבור וידיאו, חוסר התאמה בין הקול ותנועות שפתיו של המדבר הן סימן נפוץ לתמרול, על פי ESET.

ESET גם מציינת שכלים המשמשים ליצירת עמעומים עמוקים לעתים קרובות משנים או מוחקים את תאריכי היצירה והשינוי של הקובץ, כך שמטא־נתונים לא עקביים יכולים להיות רמז משני.

שלב 2: בדוק עבור Content Credentials (C2PA)

Content Credentials, הבנויה על תקן C2PA טכני, רושמת מידע על תמונה ברגע שהיא נוצרת על ידי חתימתה בצורה קריפטוגרפית, על פי Content Authenticity Initiative (CAI). CAI מתארת רשומה זו כסוג של תווית תזונה לתוכן דיגיטלי, המציגה את היוצר, התוכנה או הכלי של בינה מלאכותית המשמשים, ואם הקובץ נוצר או נערך על ידי בינה מלאכותית, כאשר המידע הזה נכלל על ידי היוצר.

CAI מצביעה בפירוש שContent Credentials אינם מיועדים להצהיר אם תוכן הוא "אמיתי": הם מספקים הקשר לגבי מוצא, לא פסק דין. המערכת עובדת גם רק אם הכלי היוצר בעצם מטמיע בלתי־מוגבל.

שלב 3: בדוק עבור סימן מימי בלתי־נראה, כמו SynthID

SynthID של Google משתית סימן מימי דיגיטלי בלתי־מודע ישירות לפיקסלים של תמונות שנוצרו על ידי מודל Imagen, על פי Google DeepMind. מודל גילוי נפרד סורק תמונה לאותו דפוס ומדווח על אחת משלוש תוצאות: סימן מימי מגולה (סביר להניח שנוצר על ידי AI), לא מגולה (סביר שלא שנוצר על ידי AI), או אולי מגולה, ובמקרה זה DeepMind ממליץ להתייחס לתוצאה בזהירות.

DeepMind אומרת שסימן ה־SynthID מימי מעוצב להישרוד עריכות נפוצות כמו סינון, התאמת צבע, סיבוב ודחיסת JPEG. עם זאת, זה רק מדגיל תמונות שהוסיף להן סימן מימי ביצירה על ידי Imagen או כלים של שותפים המשתמשים ב־SynthID — תמונה ממודל שלא משתמש ב־SynthID תחזיר תוצאת "לא מגולה" גם אם היא שנוצרה על ידי AI, על פי התיעוד של DeepMind.

שלב 4: בצע חיפוש תמונה הפוך

כלים לחיפוש תמונה הפוך כמו Google Lens או TinEye יכולים לגלות אם תמונה הופצה קודם בהקשר אחר, וזה אחד הדרכים המהימנות ביותר לתפיסת ויזואלים מחודשים או שונויים, על פי חוקרים במכון רויטרס. אם אותה תמונה מופיעה מצורפת לסיפור ישן ולא קשור, זה אות חזקה שהטענה הנוכחית לגביה שקרית, ללא קשר לשאלה אם התמונה עצמה שנוצרה על ידי AI.

מדוע גישור חוקרים אוטומטיים יכולים עדיין להטעות

הסקירה של מכון רויטרס של כלים לגילוי AI מצאה שעריכות פשוטות בדרך כלל מובסות אותם. כאשר חוקרים חתכו וישנו קנה מידה של תמונה ויראלית שטוענת להצגת פיצוץ בפנטגון, תוכנת גילוי סיווגת את הגרסה שונתה כאותנטית. הנמכת רזולוציה וקטיעה של וידיאו עמעום אובאמה מפורסם הפיקו תוצאות שליליות כוזבות דומות, והדחיסה של מדיה חברתית של שיחת רובוקול AI של ביידן גרמה לגישור אחד לקרוא עותק "סביר מאוד אמיתי", בעוד שקובץ הפשע לא דחוס קיבל 74% סביר שיהיה מזויף.

הסקירה גם מצאה שגישורים המוכשרים בעיקר על דמויות ציבוריות ידועות, כמו ראש מדינה, התבצעו גרוע יותר בפרטים פחות ידועים עם נוכחות מקוונת מעטה, כי למודלים הבסיסיים היה פחות נתוני התייחסות מאומתים להשוואה.

חיבור הכול יחד

1. בחן את התמונה או הווידיאו לאי־התאמות חזותיות ובקוליות שESET מפרט, כמו הארה לא טבעית, דפוסי הצמצום או חוסר־התאמות סינכרון שפתיים.
2. בדוק אם הקובץ נושא מטא־נתונים של Content Credentials (C2PA) החושף יצירת AI.
3. אם התמונה עשויה מלהגיע מ־Google, בדוק אותה עם גישור ה־SynthID של Google לתוצאת סימן מימי.
4. בצע חיפוש תמונה הפוך עם Google Lens או TinEye כדי לראות אם התמונה הופיעה במקום אחר בהקשר אחר.
5. התייחס לכל תוצאה יחידה כלא נחרצת בעצמה, והשווה את הטענה נגד כיסוי מארגוני חדשות מושמעים לפני שיתוף, כפי שמכון רויטרס ו־ESET שניהם ממליצים.