השפה הזו תורגמה אוטומטית ולא נבדקה על ידי אדם.

NIVΞCTOR
חדשותתמיכה

הספירה עוד לא התחילה

בינה מלאכותית · מדריך

כיצד לזהות תמונות שנוצרו על ידי AI ו-Deepfakes: מדריך שלב אחר שלב

פורסם:

בקצרה

אין טריק יחיד שתופס כל תמונת AI, אך שילוב בדיקה חזותית קרובה, חיפוש נתונים-על, חיפוש תמונה הפוך וביכן זמין - בדיקת מקור או סימן מים, תופסת את רוב התמונות המזויפות. כלים לגילוי עוזרים אך אינם אמינים בעצמם, לפי מכון רויטרס וGoogle DeepMind.

גרסה זו היא תרגום מכונה של המקור (English). לקריאת המקור

אין בדיקה יחידה שנסגרת למטבע המזויף להבדיל בין צילום אמיתי לתמונה שנוצרה על ידי AI. במקום זאת, חוקרים וארגוני בדיקת עובדות ממליצים על שכבות של מספר בדיקות - בדיקה חזותית, נתונים-על, נתוני מקור וחיפוש תמונה הפוך - מכיוון שכל שיטה תופסת סוגים שונים של תמונות מזויפות וכל אחת יכולה להיות מטעית בעצמה.

שלב 1: הסתכל בעיון בתמונה עצמה

חברת הסייבר ESET ממליצה להתחיל בקריאה חזותית קרובה של התמונה. סימני אזהרה כוללים תאורה לא טבעית, מרקם עור חלק מדי, קצוות מרועדים או מטושטשים סביב הנושא, עיניים לא יישור, שיניים מעוותות וציפוף העיניים בדוגמות יוצאות דופן בווידאו. עבור וידאו עם קול, בדוק אם הקול תואם את תנועות הפה, שכן חוסר התאמה הוא סימן deepfake נפוץ, לפי ESET.

שלב 2: בדוק את הנתונים-על

ESET מייעצת לבדוק נתונים-על של קובץ, כולל תאריכי יצירה ועדכון, מכיוון שכלים deepfake בתדירות גבוהה מסירים או משנים מידע זה, מה שיכול ליצור אי-עקביות ראויה לציון. היעדר מידע מצלמה או התקן צפוי, או נוכחות של שמות תוכנות עריכת AI בנתוני הקובץ, יכולים להיות רמז, אם כי נתונים-על יכולים גם להימחק או להיות מזויפים ולא צריכים להיחשב כמוחלטים בעצמם.

שלב 3: השתמש בחיפוש תמונה הפוך

הפעלת התמונה דרך כלי חיפוש תמונה הפוך כמו Google Images או TinEye יכולה לחשוף אם התמונה הופיעה במקום אחר באינטרנט, בהקשר מה, ובמתי - עוזרת לאישור אם זו תמונה ישנה שמופצת מחדש עם טענה כוזבת או תמונה חדשה באמת, לפי ESET.

שלב 4: בדוק אם יש כישוריות תוכן או סימני מים

ה-Content Authenticity Initiative (CAI), הקבוצה מאחורי סטנדרט C2PA, מתארת כישוריות תוכן כסוג של "תווית תזונה" לתוכן דיגיטלי: נתונים-על חתומים בקריפטוגרפיה שיכולים להקליט מי שיצר תמונה, מתי, עם אילו כלים, וב-AI היה מעורב. כישוריות עמידות בפני זיוף - אם התמונה או הנתונים המצורפים שלה משתנים לאחר החתימה, כישוריות התוכן יציינו את השינוי הזה, לפי CAI.

עם זאת, CAI מפורשת לגבי המגבלות: כישוריות תוכן לא מצהירים כי התוכן מזויף או שונה, והם מסתמכים על כלי היצירה שהוסיפו את כישוריות בתחילה. תמונת AI שנעשתה עם כלי שאינו תומך ב-C2PA לא תשא תווית כזו בכלל.

Google DeepMind ש-SynthID עובדת אחרת: היא משדרת סימן מים דיגיטלי בלתי נראה ישירות לפיקסלים של התמונה כאשר התמונה מיוצרת עם מודל Imagen של Google. Google אומרת שהסימן המימי עומד בעריכות נפוצות כמו מ��ננים, שינויי צבע, דחיסה והתאמות בהירות, וכלי הגילוי מחזיר אחת משלוש התוצאות - "גילה", "לא גילה" או "אולי גילה". סימן המים של SynthID עובד רק על תמונות המיוצרות על ידי מודלים משלה של Google; הוא לא יכול לזהות תוכן שנעשה על ידי גנרטורים אחרים כמו Midjourney או Stable Diffusion, לפי DeepMind.

שלב 5: התייחס לכלים למגלה אוטומטי בזהירות

הערכה של חוקרים בארגון WITNESS, שפורסמה על ידי מכון רויטרס ללימודי עיתונות באפריל 2024, בדקה בדיקות שנערכו בפברואר 2024 על שמונה מגלות deepfake זמינים לציבור - Optic, Hive Moderation, V7, Invid, Deepware Scanner, Illuminarty, DeepID וגילוי תמונות AI בקוד פתוח. היא גילתה שכלים לגילוי פועלים רק כמו הנתונים שהם הוכשרו עליהם: גלוי מאומן להכיר בתמונות שנוצרו על ידי AI יכול להיכשל על deepfakes החלפת פנים, וכלים מאומנים בעיקר על דמויות ציבור ידועות כמו Volodymyr Zelenskyy התקשו עם אנשים פחות מפורסמים.

אותה הערכה גילתה שעריכות פשוטות יכולות להעניש מגלים. חיתוך, דחיסה או הורדת הרזולוציה של תמונה גרמו לחלק מהכלים להסווג בטעות תוכן סינתטי כממשי; לאחר הורדת הרזולוציה של סרטון Obama deepfake ידוע וחלק מהקטע שנערך, גלוי החזיר תוצאה של "No Deepfake Detected". צילומי מסך של אווטרים שנוצרו על ידי AI הוסווגו גם בתדירות גבוהה בטעות כיצורי אנוש, גילתה הערכה.

הצב את זה הכל ביחד

  1. בדוק את התמונה בעיון עבור אי-עקביויות בתאורה, מרקם, עין, יד והרקע.
  2. בדוק נתונים-על זמינים (דגם מצלמה, תאריכים, תוכנה) עבור חריגויות.
  3. הפעל חיפוש תמונה הפוך כדי לראות היכן ומתי התמונה הופיעה לראשונה.
  4. חפש כישוריות תוכן (C2PA) או סימן מים SynthID היכן שחל, תוך הבנה שאף אחד לא מכסה כל כלי AI.
  5. אם אתה משתמש בגלוי אוטומטי, התייחס לתוצאה שלו כקלט אחד בין מספרים, לא כפסק דין סופי - חוקרי WITNESS שמים לב שכלים כאלה עובדים הטוב ביותר לצד טכניקות אחרות כמו חיפוש תמונה הפוך וגיאולוקציה, לא כפתרון עצמאי.
  6. בדוק את התביעה המצורפת לתמונה מול ארגונים חדשותיים אמינים או אתרי בדיקת עובדות.

לא רוצה שיטה בקימונה הזו מספיקה בעצמה. ה-CAI, ESET והערכת WITNESS/מכון רויטרס מתכנסות לאותה מסקנה: נתוני מקור, סימני מים וגלויים אוטומטיים כל אחד מכסה רק חלק מהבעיה, וחוברת של מספר בדיקות - בתוספת ספקנות רגילה לגבי היכן שהתמונה הגיעה ומי משתפים אותה - נשארת הגישה האמינה ביותר הזמינה כיום.

שאלות

האם יש אפליקציה אחת שמגלה בעצמה את כל תמונות הממשק שנוצרו על ידי AI?
לא. לפי הערכת WITNESS שפורסמה על ידי מכון רויטרס, כל גלוי שנבדק (כולל Optic, Hive Moderation ו-Illuminarty) יש נקודות עיוורות ויכול להיות מטעה על ידי עריכות פשוטות כמו חיתוך או דחיסה של תמונה.
מה זה SynthID וכן זה עובד על כל תמונת AI?
SynthID הוא סימן מים פיקסל בלתי נראה של Google DeepMind עבור תמונות שנעשו עם מודל Imagen. היא מגלה רק תמונות שנוצרו על ידי כלי גוגל משלה ולא יכולה לזהות תוכן AI מגנרטורים אחרים כמו Midjourney או Stable Diffusion.
האם אני יכול לסמוך על תמונה רק מכיוון שאין לה סימן מים ממשק AI גלוי?
לא. מציין Content Authenticity Initiative שכישוריות תוכן מופיעות רק אם הכלי היוצר בחר להוסיף אותן, כך שתמונת AI שנעשתה עם כלי שאינו משתתף לא תראה תווית בכלל.
האם בדיקת נתונים-על מוכיחה אם תמונה היא אמיתית?
לא בעצמה. ESET שמים לב שכלים deepfake בתדירות גבוהה מסירים או משנים נתונים-על, כך שנתונים-על חסרים או חסרים הם רמז שראוי לציון, לא הוכחה סופית.
מה הנוהל החד הטוב ביותר כאשר אני חושד שתמונה מזויפת?
שלב מספר בדיקות - בדיקה חזותית קרובה, בדיקת נתונים-על, חיפוש תמונה הפוך וכלי מקור/סימן מים היכן זמינים - במקום להסתמך על שיטה אחת, כמו מומלץ על ידי ESET והערכת WITNESS/מכון רויטרס.

מקורות

  1. Content Authenticity Initiative — How it works (Content Credentials)
  2. ESET — How to detect deepfakes: A practical guide to spotting AI-generated misinformation
  3. Reuters Institute — Spotting the deepfakes in this year of elections: how AI detection tools work and where they fail
  4. Google DeepMind — Identifying AI-generated images with SynthID

כתבה זו הוכנה בעזרת בינה מלאכותית ועברה בדיקת מקורות אוטומטית לפני הפרסום. אם ראיתם טעות, בקשו תיקון. בקשת תיקון או זכות תגובה · איך אנחנו עובדים

כתבות קשורות