هوش مصنوعی · راهنما
نحوه شناخت تصاویر تولید شده با هوش مصنوعی و Deepfakes: راهنمای گام به گام
انتشار:
بهطور خلاصه
هیچ ترفندی وجود ندارد که تمام تصاویر هوش مصنوعی را کشف کند، اما ترکیب بررسی بصری دقیق، جستجوی ابرداده، جستجوی معکوس تصویر و جایی که در دسترس باشد، بررسی منشأ یا واترمارک، اکثر تصاویر جعلی را کشف میکند. ابزارهای تشخیص کمکی هستند اما طبق موسسه رویترز و Google DeepMind به تنهایی قابل اعتماد نیستند.
این نسخه ترجمهٔ ماشینی متن اصلی (English) است. خواندن متن اصلی
هیچ آزمایش یکسان‌پای برای تفریق بین عکس واقعی و تصویر تولید شده با هوش مصنوعی وجود ندارد. به جای آن، محققان و سازمان‌های بررسی حقایق توصیه می‌کنند که چندین بررسی را لایه‌بندی کنید - بررسی بصری، ابرداده، داده‌های منشأ و جستجوی معکوس تصویر - زیرا هر روش انواع مختلفی از تصاویر جعلی را کشف میکند و هر یک میتواند به تنهایی فریب خورد.
گام 1: به دقت به خود تصویر نگاه کنید
شرکت امنیت سایبری ESET توصیه میکند با مطالعه بصری دقیق تصویر شروع کنید. علائم هشدار شامل روشنایی غیرطبیعی، بافت پوست بیش‌ازحد صاف، لبه‌های وامیض یا تار شده حول موضوع، چشم‌های نامتوازن، دندان‌های مشوه و الگوهای پلک‌زدن غیرمعمول در ویدیو است. برای ویدیویی که صدا دارد، بررسی کنید آیا صدا با حرکات دهان مطابقت دارد، زیرا عدم تطابق علامت رایجی از deepfake است، طبق ESET.
گام 2: ابرداده را بررسی کنید
ESET توصیه میکند ابرداده پرونده را مرور کنید، شامل تاریخ‌های ایجاد و اصلاح، زیرا ابزارهای deepfake اغلب این اطلاعات را حذف یا تغییر میدهند، که میتواند عدم‌تطابق‌های قابل توجهی ایجاد کند. عدم وجود اطلاعات دوربین یا دستگاه مورد انتظار، یا وجود نام‌های نرم‌افزار ویرایش هوش مصنوعی در داده‌های پرونده، میتواند یک سرنخ باشد، اگرچه ابرداده را می‌توان حذف یا جعل کرد و نباید به تنهایی قطعی تلقی شود.
گام 3: از جستجوی معکوس تصویر استفاده کنید
اجرای تصویر از طریق ابزار جستجوی معکوس تصویر مانند Google Images یا TinEye میتواند آشکار کند که آیا تصویر در جای دیگری در اینترنت ظاهر شده است، در چه زمینه‌ای، و چه زمانی - کمک میکند تا تأیید شود که آیا یک عکس قدیمی است که با ادعای کاذب دوباره منتشر شده یا تصویری واقعاً جدید است، طبق ESET.
گام 4: برای اعتبارنامههای محتوا یا واترمارک بررسی کنید
ابتکار اعتباری محتوا (CAI)، گروهی که استاندارد C2PA را ایجاد کرد، اعتبارنامههای محتوا را به عنوان یک نوع 'برچسب تغذیه' برای محتوای دیجیتال توصیف میکند: ابرداده امضا شده به صورت رمزنگاری شده که میتواند ثبت کند که چه کسی تصویری را ایجاد کرده، کی، با چه ابزاری، و آیا هوش مصنوعی درگیر بوده است. اعتبارنامه‌ها در برابر دستکاری مقاوم هستند - اگر تصویر یا داده‌های ضمیمه شده بعد از امضا تغییر کند، اعتبارنامههای محتوا آن تغییر را پرچم‌گذاری خواهند کرد، طبق CAI.
با این حال، CAI در مورد محدودیت‌ها صریح است: اعتبارنامههای محتوا اعلام نمی‌کنند که محتوا جعلی یا تغییر یافته است، و بر این تکیه دارند که ابزار ایجادی از قبل اعتبارنامه‌ها را اضافه کرده باشد. تصویری از هوش مصنوعی ساخته شده با ابزاری که از C2PA پشتیبانی نمیکند، هیچ برچسبی حمل نخواهد کرد.
SynthID از Google DeepMind متفاوت کار میکند: یک واترمارک دیجیتالی نامرئی را مستقیماً در پیکسل‌های تصویر زمانی که تصویر با مدل Imagen گوگل ایجاد میشود، تعبیه میکند. گوگل می‌گوید واترمارک در برابر ویرایشهای معمول مانند فیلترها، تغییرات رنگ، فشردگی و تنظیمات روشنایی مقاوم است، و ابزار تشخیص یکی از سه نتیجه را برمی‌گرداند - 'تشخیص داده شد'، 'تشخیص داده نشد' یا 'احتمالاً تشخیص داده شد'. واترمارک SynthID فقط روی تصاویر تولید شده توسط مدل‌های خود گوگل کار میکند؛ نمیتواند محتوایی ساخته شده توسط سایر تولیدکنندگان مانند Midjourney یا Stable Diffusion را شناسایی کند، طبق DeepMind.
گام 5: با ابزارهای تشخیص خودکار احتیاط کنید
ارزیابی توسط محققان در سازمان WITNESS، که توسط موسسه رویترز برای مطالعه روزنامه‌نگاری در آوریل 2024 منتشر شد، تست‌های انجام شده در فوریه 2024 را در هشت تشخیص‌کننده deepfake در دسترس عموم بررسی کرد - Optic، Hive Moderation، V7، Invid، Deepware Scanner، Illuminarty، DeepID و تشخیص‌کننده تصویر هوش مصنوعی متن‌باز. آن دریافت کرد که ابزارهای تشخیص تنها تا اندازه‌ای کار می‌کنند که داده‌هایی که روی آنها آموزش دیده‌اند: تشخیصکنندهای که برای شناسایی تصاویر تولید شده توسط هوش مصنوعی آموزش دیده است میتواند در deepfakeهای تعویض صورت ناموفق باشد، و ابزارهایی که عمدتاً روی شخصیت‌های عمومی مشهور مانند ولادیمیر زلنسکی آموزش دیده‌اند با افراد کمتر معروف مشکل داشتند.
همان ارزیابی دریافت کرد که ویرایشهای ساده می‌توانند تشخیص‌کنندگان را شکست دهند. برش، فشردگی یا کاهش وضوح تصویر باعث میشود برخی ابزارها محتوای مصنوعی را به اشتباه به عنوان واقعی طبقه‌بندی کنند؛ پس از کاهش وضوح یک ویدیوی deepfake معروف اوباما و ویرایش بخشی از کلیپ، تشخیص‌کننده نتیجه 'Deepfake تشخیص داده نشد' را برگرداند. تصاویر صفحه‌ای از آواتارهای تولید شده توسط هوش مصنوعی نیز مکرراً به اشتباه به عنوان ساخت انسان طبقه‌بندی شدند، ارزیابی دریافت کرد.
این همه را کنار هم بگذارید
- تصویر را برای عدم‌تطابق‌های روشنایی، بافت، چشم، دست و پس‌زمینه نزدیک بررسی کنید.
- ابرداده‌های موجود (مدل دوربین، تاریخ‌ها، نرم‌افزار) را برای شذوذ بررسی کنید.
- جستجوی معکوس تصویر را اجرا کنید تا ببینید تصویر کجا و چه زمانی برای اولین بار ظاهر شده است.
- اعتبارنامههای محتوا (C2PA) یا واترمارک SynthID را جستجو کنید که در آن قابل اعمال است، با درک اینکه هیچ یک تمام ابزارهای هوش مصنوعی را پوشش نمی‌دهند.
- اگر از تشخیص‌کننده خودکار استفاده می‌کنید، نتیجه آن را به عنوان یک ورودی در میان چندین مورد، نه حکم نهایی، تلقی کنید - محققان WITNESS یادآوری می‌کنند که چنین ابزارهایی در کنار سایر تکنیک‌ها مانند جستجوی معکوس تصویر و جغرافیایی بهتر کار می‌کنند، نه به عنوان حل مستقل.
- ادعای پیوست شده به تصویر را در برابر سازمان‌های خبری معتبر یا سایت‌های بررسی حقایق بررسی کنید.
هیچ روشی در این لیست به تنهایی کافی نیست. CAI، ESET و ارزیابی WITNESS/موسسه رویترز بر همان نتیجه‌گیری همگرا میشوند: داده‌های منشأ، واترمارک‌ها و تشخیص‌کنندگان خودکار هر کدام فقط بخشی از مسئله را پوشش میدهند، و ترکیب چندین بررسی - به علاوه بی‌اعتمادی معمولی نسبت به منشأ تصویر و اینکه چه کسی آن را به اشتراک می‌گذارد - همچنان رویکردی قابل‌اعتماد‌ترین‌ای است که امروز در دسترس است.
پرسش‌ها
- آیا یک برنامهی واحد وجود دارد که بهطور قابلاعتماد تمام تصاویر تولید شده توسط هوش مصنوعی را تشخیص دهد؟
- خیر. طبق ارزیابی WITNESS که توسط موسسه رویترز منتشر شده است، هر تشخیصکنندهای که آزمایش شد (شامل Optic و Hive Moderation و Illuminarty) نقاط کور دارد و میتواند با ویرایشهای ساده مانند برش یا فشردگی تصویر فریب خورد.
- SynthID چیست و آیا روی هر تصویر هوش مصنوعی کار میکند؟
- SynthID واترمارک پیکسل نامرئی Google DeepMind برای تصاویر ساخته شده با مدل Imagen است. فقط تصاویر تولید شده توسط ابزارهای خود گوگل را تشخیص میدهد و نمیتواند محتوای هوش مصنوعی از سایر تولیدکنندگان مانند Midjourney یا Stable Diffusion را شناسایی کند.
- آیا میتوانم فقط برای اینکه یک تصویر واترمارک هوش مصنوعی مرئی ندارد، به آن اعتماد کنم؟
- خیر. ابتکار اعتباری محتوا توجه میدهد که اعتبارنامههای محتوا فقط زمانی ظاهر میشوند که ابزار ایجادی آنها را اضافه کردن را انتخاب کند، بنابراین تصویری از هوش مصنوعی ساخته شده با ابزاری که در آن شرکت نمیکند، هیچ برچسبی نشان نخواهد داد.
- آیا بررسی ابرداده ثابت میکند که آیا عکس واقعی است؟
- نه، به تنهایی. ESET توجه میدهد که ابزارهای deepfake اغلب ابرداده را حذف یا تغییر میدهند، بنابراین ابرداده نامتسق یا گمشده یک سرنخ قابل توجه است، نه اثبات نهایی.
- بهترین روش واحد وقتی مشکوکام که تصویر جعلی است چیست؟
- چندین بررسی را ترکیب کنید - بررسی بصری دقیق، بررسی ابرداده، جستجوی معکوس تصویر و ابزارهای منشأ/واترمارک جایی که در دسترس است - به جای تکیه بر یک روش، همان طور که توسط ESET و ارزیابی WITNESS/موسسه رویترز توصیه میشود.
منابع
- Content Authenticity Initiative — How it works (Content Credentials)
- ESET — How to detect deepfakes: A practical guide to spotting AI-generated misinformation
- Reuters Institute — Spotting the deepfakes in this year of elections: how AI detection tools work and where they fail
- Google DeepMind — Identifying AI-generated images with SynthID
این مطلب با هوش مصنوعی آماده شده و پیش از انتشار از بررسی خودکار منابع گذشته است. اگر خطایی دیدید، درخواست اصلاح کنید. درخواست اصلاح یا حق پاسخ · چگونه کار می‌کنیم
مطالب مرتبط
هوش مصنوعیمقاله
چگونه یک ویدئوی ویرایش‌شده توسط هوش مصنوعی جایزه نیکون جهان کوچک در حرکت را برنده شد و سپس آن را از دست داد
یک ویدئو از سیل‌های مسیر هوایی توسط محقق نینج شو، مسابقه نیکون جهان کوچک در حرکت را در سپتامبر 2026 برنده شد، سپس جایزه 3000 دلاری آن را پس از اینکه متخصصان ساختارهای تولیدشده توسط هوش مصنوعی را پرچم‌گذاری کردند، از دست داد. نیکون ورودی را استثنا کرد و نگوئن نام نهات، رایتل دوم را به رتبه اول ترقی داد، تحقیق مجددی را آغاز کرد که با ورودی جایزه عکاسی جهانی سونی بوریس الداگسن در سال 2023 شروع شده بود.
هوش مصنوعیمقاله
چرا OpenAI و Anthropic سناریوی "روز بعد" کارثه هوش مصنوعی را شبیه‌سازی می‌کنند؟
مدیران ارشد در OpenAI، Anthropic و شرکت‌های هوش مصنوعی دیگر به طور خصوصی روال پاسخ‌دهی خود را در صورت وقوع رویدادی فاجعه‌بار مرتبط با هوش مصنوعی تمرین می‌کنند، همانطور که Axios در 9 اکتبر 2026 گزارش کرد. این سناریوها بر روی حمله سایبری در مقیاس بزرگ متمرکز است که میتواند دسترسی به بانکداری، اینترنت، برق یا آب را قطع کند، با این حال برخی از درون‌انگاخت صنعت انتظار یک حادثه جدی را در طول شش تا دوازده ماه دارند.
هوش مصنوعیخبر
نیکون عنوان برنده مسابقه میکروسکوپی را به دلیل استفاده افشاشده‌ای از هوش مصنوعی حذف کرد
نیکون فیلم دکتر نینگ شو را که ژلاتین‌های مسیر تنفسی را شکست داده بود، از مسابقه Small World in Motion 2026 حذف کرد، پس از اینکه تصمیم گرفت این فیلم قوانین مسابقه در مورد هوش مصنوعی تولیدی را نقض کرده است. عنوان و جایزه اکنون به نجوئن نام نهات ویتنامی، که فیلم کرم دایره‌ای خود در جای دوم قرار داشت، رسیده است، که بحث را در مورد نحوه افشاکردن ابزارهای هوش مصنوعی در مسابقات تصویربرداری علمی دوباره باز کرده است.
هوش مصنوعیمقاله
مایکروسافت Decision-1 را راه‌اندازی میکند، یک مدل هوش مصنوعی ساخته‌شده برای تصمیم‌گیری‌های سریع کسب‌و‌کار
مایکروسافت در 9 اکتبر 2026 از Microsoft-Decision-1 رونمایی کرد، یک مدل هوش مصنوعی تخصصی که پاسخ‌های ساختار‌یافته و درجه‌بندی‌شده احتمالی را به جای متن تولیدشده برمی‌گرداند. مدیرعامل ساتیا نادلا گفت که این مدل هم نسبت به مدل‌های زبانی بزرگ و هم نسبت به مدل‌های تصمیم‌گیری رقیب در تأخیر و کیفیت برای کارهایی مثل مسیریابی، طبقه‌بندی و پاسخ به حوادث بهتر است.