هوش مصنوعی · راهنما
نحوه شناخت تقلب‌های عمیق و تصاویر تولیدشده توسط هوش مصنوعی: راهنمای مرحله‌به‌مرحله
انتشار:
بهطور خلاصه
شناسایی قابلاعتماد تقلب عمیق یا تصویری تولیدشده توسط هوش مصنوعی به ترکیب بررسی‌های بصری، ابزارهای منشأ مانند Content Credentials یا SynthID و جستجوی عکس معکوس نیاز دارد — هیچ روش واحدی وجود ندارد که تقلب را بگیرد. محققان تشخیص هشدار میدهند که ابزارهای خودکار میتوانند توسط ویرایشهای ساده مثل برش یا فشردهسازی فریب خورده شوند، بنابراین تأیید زمینه ضروری باقی می‌ماند.
این نسخه ترجمهٔ ماشینی متن اصلی (English) است. خواندن متن اصلی
هیچ ابزار واحدی وجود ندارد که تقلب‌های عمیق یا تصاویر تولیدشده توسط هوش مصنوعی را بگیرد. شرکت امنیت سایبری ESET و موسسه رویترز برای مطالعه روزنامه‌نگاری در دانشگاه آکسفورد هر دو توصیه می‌کنند که چندین بررسی را لایه‌بندی کنید — بازرسی بصری، ابرداده منشأ، تشخیص علامت‌های آبی و تأیید منبع — زیرا هر روش نقاط کور شناخته‌شده‌ای دارد.
مرحله 1: به دنبال عدم‌تطابق‌های بصری و صوتی باشید
راهنمای ESET برای تشخیص اطلاعات غلط تولیدشده توسط هوش مصنوعی، سرنخ‌های بصری مشخصی را فهرست میکند تا ابتدا بررسی کنید: روشنایی غیرطبیعی، بافت پوست صاف‌تر از حد، لبه‌های درخشان و پس‌زمینه‌های تار. شذوذ چهره‌ای که شایسته بررسی است شامل چشم‌های نامتناسب، دندان‌های کج و الگوهای پلکزنی غیرعادی است. برای ویدیو، عدم‌تطابق بین صدا و حرکت لبهای گوینده نشانه معمول دستکاری است، طبق ESET.
ESET همچنین یادآوری میکند که ابزارهای مورد استفاده برای ایجاد تقلب‌های عمیق اغلب تاریخ ایجاد و تغییر فایل را تغییر یا حذف می‌کنند، بنابراین ابرداده ناسازگار میتواند سرنخ ثانویه باشد.
مرحله 2: Content Credentials (C2PA) را بررسی کنید
Content Credentials، که بر استاندارد فنی C2PA ساخته شده است، اطلاعات درباره تصویر را در لحظه ایجاد آن با امضای رمزنگاری‌شده آن ثبت میکند، طبق Content Authenticity Initiative (CAI). CAI این رکورد را بهعنوان یک نوع برچسب تغذیه‌ای برای محتوای دیجیتالی توصیف میکند، که نویسنده، نرم‌افزار یا ابزار هوش مصنوعی مورد استفاده، و اینکه آیا فایل توسط هوش مصنوعی ایجاد یا ویرایش شده، را نشان میدهد وقتی که این اطلاعات توسط سازنده گنجانده شده باشند.
CAI صراحتاً بیان میکند که Content Credentials برای اعلام اینکه محتوا "واقعی" است یا خیر نیستند: آنها زمینه درباره منشأ را فراهم می‌کنند، نه یک نتیجه‌گیری. سیستم تنها زمانی کار میکند که ابزار ایجادکننده واقعاً یک بیانیه را نهفته کند.
مرحله 3: برای علامت آبی پنهان مثل SynthID بررسی کنید
SynthID گوگل یک علامت آبی دیجیتالی نامرئی را مستقیماً در پیکسل‌های تصاویر تولیدشده توسط مدل Imagen گوگل نهفته میکند، طبق Google DeepMind. یک مدل تشخیص جداگانه یک تصویر را برای آن الگو اسکن میکند و یکی از سه نتیجه را گزارش میدهد: علامت آبی تشخیص داده شده (احتمالاً توسط هوش مصنوعی تولید شده)، تشخیص داده نشده (احتمال کم که توسط هوش مصنوعی تولید شده)، یا احتمالاً تشخیص داده شده، و در این صورت DeepMind توصیه میکند نتیجه را با احتیاط برخورد کنید.
DeepMind می‌گوید علامت آبی SynthID برای تحمل ویرایشهای معمول مثل فیلترکردن، تنظیم رنگ، چرخش و فشردهسازی JPEG طراحی شده است. با این حال، تنها تصاویری را پرچم زده میکند که در زمان ایجاد توسط Imagen یا ابزارهای شریکی که از SynthID استفاده می‌کنند علامت‌گذاری شده‌اند — تصویری از مدلی که از SynthID استفاده نمی‌کند حتی اگر توسط هوش مصنوعی تولید شده باشد نتیجه "تشخیص داده نشده" را برمی‌گرداند، طبق اسناد DeepMind.
مرحله 4: جستجوی عکس معکوس انجام دهید
ابزارهای جستجوی عکس معکوس مثل Google Lens یا TinEye میتوانند نشان دهند که آیا تصویری قبلاً در زمینه متفاوتی منتشر شده است، که یکی از قابل‌اعتمادترین روش‌ها برای گرفتن تصاویر بازیافت‌شده یا دوباره‌برچسب‌خورده است، طبق محققان موسسه رویترز. اگر همان تصویر ضمیمه داستان قدیمی و بی‌ارتباطی ظاهر شود، این نشانه قویی است که ادعای فعلی درباره آن نادرست است، صرف‌نظر از اینکه تصویر خود توسط هوش مصنوعی تولید شده است یا خیر.
چرا آشکارسازهای خودکار میتوانند فریب خورده شوند
بازبینی موسسه رویترز از ابزارهای تشخیص هوش مصنوعی نشان داد که ویرایشهای ساده معمولاً آنها را شکست میدهند. وقتی محققان یک تصویر ویروسی که ادعا می‌کرد انفجار پنتاگون را نشان میدهد را برش و تغییر اندازه دادند، نرم‌افزار تشخیص نسخه تغییر‌یافته را به عنوان واقعی طبقه‌بندی کرد. کاهش وضوح و برش یک فیلم تقلب معروف اوباما نتایج منفی کاذب مشابهی را تولید کرد، و فشردهسازی رسانههای اجتماعی یک تماس خودکار هوش مصنوعی بایدن باعث شد که یک آشکارساز نسخه را "احتمال بسیار زیاد واقعی" صدا کند، در حالی که فایل اصلی فشرده‌نشده 74٪ احتمال تقلب را نمره دهد.
بازبینی همچنین نشان داد که آشکارسازهایی که عمدتاً برروی شخصیات عمومی شناخته‌شده‌ای مثل رئیس دولت آموزش داده شده‌اند در افراد کمتر شناخته‌شده‌ای با حضور کم بر اینترنت عملکرد ضعیف‌تری داشتند، زیرا مدل‌های زیربنایی داده‌های مرجع تأیید‌شده کمتری برای مقایسه داشتند.
قرار دادن هر چیز با هم
- تصویر یا فیلم را برای عدم‌تطابق‌های بصری و صوتی که ESET فهرست میکند بررسی کنید، مثل روشنایی غیرطبیعی، الگوهای پلکزنی یا عدم‌تطابق‌های همگام‌سازی لب.
- بررسی کنید که آیا فایل ابرداده Content Credentials (C2PA) را حمل میکند که تولید هوش مصنوعی را فاش میکند.
- اگر تصویر ممکن است از مدل Google بیاید، آن را با آشکارساز SynthID گوگل برای نتیجه علامت آبی بررسی کنید.
- با استفاده از Google Lens یا TinEye جستجوی عکس معکوس انجام دهید تا ببینید آیا تصویر در جای دیگری در زمینه متفاوتی ظاهر شده است.
- هر نتیجه واحدی را به‌تنهایی نامشخص تلقی کنید و ادعا را بر اساس پوشش‌دهی از سازمان‌های خبری تأسیس‌شده مقایسه کنید قبل از به‌اشتراک‌گذاری، همان‌طور که موسسه رویترز و ESET توصیه می‌کنند.
ابزارهای تشخیص محاسباتی میتواند نقطه آغاز عالی بهعنوان بخشی از فرآیند تأیید باشند، همراه با سایر تکنیک‌های متن‌باز.
پرسش‌ها
- آیا یک برنامه یا وبسایت واحد میتواند بهطور قابلاعتماد به من بگوید که تصویری تقلب عمیق است؟
- خیر. هم ESET و هم موسسه رویترز گزارش میدهند که ابزارهای تشخیص فردی میتوانند توسط ویرایشهای ساده مثل برش، تغییر اندازه یا فشردهسازی شکست خورده شوند، بنابراین نتایج از هر ابزار واحد باید بهعنوان نقطه آغاز، نه پاسخ نهایی، تلقی شود.
- تفاوت بین Content Credentials و SynthID چیست؟
- Content Credentials (C2PA) ابردادهای است که ابزار ایجاد بهصورت داوطلبانه ضمیمه میکند که نحوه ایجاد فایل را اعلام میکند؛ SynthID یک علامت آبی نامرئی سطح پیکسل است که توسط مدل Imagen گوگل نهفته شده و با آشکارساز جداگانهای بررسی میشود. هر دو میتواند حتی بر روی تصاویر واقعاً تولیدشده توسط هوش مصنوعی غایب باشند اگر ابزار ایجاد آنها را پشتیبانی نکند یا ابرداده برچیده شده باشد.
- چرا آشکارسازهای تقلب عمیق گاهی میگویند تصویری هوش مصنوعی واقعی است؟
- موسسه رویترز متوجه شد که ویرایشهایی مثل برش، کاهش وضوح یا فشردهسازی مجدد فایل برای رسانههای اجتماعی میتواند نمره آشکارساز را به سمت "واقعی" هل دهد حتی زمانی که محتوای زیربنایی توسط هوش مصنوعی تولید یا دستکاری شده باشد.
- باید ابتدا در یک فیلم تقلب عمیق مریب چه نشانههای بصری را دنبال کنم؟
- ESET توصیه میکند روشنایی، بافت پوست، تراز چشم، الگوهای پلکزنی و اینکه آیا صدا با حرکت لبهای گوینده مطابقت دارد بررسی کنید.
- آیا جستجوی عکس معکوس تولید هوش مصنوعی را تشخیص میدهد؟
- نه مستقیماً — آن تشخیص میدهد که آیا تصویری قبلاً بر اینترنت در زمینه متفاوتی ظاهر شده است، که موسسه رویترز یادآوری میکند برای گرفتن عکسهای واقعی بازیافتشدهای که بهطور نادرست توصیفشدهاند مفید است، جداگانه از تشخیص خود تولید هوش مصنوعی.
منابع
- ESET — How to detect deepfakes: A practical guide to spotting AI-generated misinformation
- Content Authenticity Initiative — How it works (Content Credentials)
- Reuters Institute, University of Oxford — Spotting the deepfakes in this year of elections: how AI detection tools work and where they fail
- Google DeepMind — Identifying AI-generated images with SynthID
این مطلب با هوش مصنوعی آماده شده و پیش از انتشار از بررسی خودکار منابع گذشته است. اگر خطایی دیدید، درخواست اصلاح کنید. درخواست اصلاح یا حق پاسخ · چگونه کار می‌کنیم
مطالب مرتبط
هوش مصنوعیمقاله
نحوه کار چت بات های هوش مصنوعی مثل ChatGPT و Claude شرح داده شده است
چت بات های هوش مصنوعی بر اساس مدل های زبان بزرگ (LLM) ساخته شده اند، که شبکه های عصبی هستند که برای پیش بینی "توکن" بعدی در دنباله ای از متن آموزش داده شده اند. آنها کلمات را به اعداد تبدیل می کنند، از یک مکانیسم توجه برای سنجش نحوه مرتبط بودن کلمات با یکدیگر استفاده می کنند، و سپس با بازخورد انسانی تنظیم دقیق می شوند تا مثل دستیاران مفید رفتار کنند نه پیش بینی کننده های متن خام.
هوش مصنوعیمقاله
چگونه الگوریتمهای توصیه شده هوش مصنوعی تصمیم می‌گیرند که چه چیزی را ببینید و بخرید
سیستمهای توصیه شده هوش مصنوعی خلاصات و پیشنهادات محصول را با تجزیه‌وتحلیل آنچه کاربران روی آن کلیک می‌کنند، تماشا می‌کنند، امتیاز میدهند و می‌خرند، سفارشی‌سازی می‌کنند، سپس این رفتار را با الگوهای کاربران مشابه مطابقت میدهند. پلتفرم‌های مثل Netflix، YouTube و Amazon میگویند که آنها از سیگنال‌های نشاط و زمینه‌ای استفاده می‌کنند - و نه، در برخی موارد، داده‌های جمعیت‌شناختی - در حالی که تنظیم‌کنندگان در ایالات متحده و اتحادیه اروپا نگرانی‌های مربوط به شفافیت و جمع‌آوری داده پشت این سیستمها را مطرح کرده‌اند.
هوش مصنوعیمقاله
چرا مدل های زبانی هوش مصنوعی توهم می بینند: تحقیق پشت پاسخ های نادرست
"توهم های" هوش مصنوعی به این دلیل اتفاق می افتند که مدل های زبانی برای پیش بینی کلمه احتمالی بعدی آموزش داده می شوند، نه برای تأیید حقیقت، و به دلیل آزمایش هایی که برای درجه بندی آنها استفاده می شود که تخمین زدن اطمینان را بر پذیرش عدم اطمینان مستحق می کند. محققان OpenAI استدلال می کنند که مشکل تا حدی نتیجه ریاضی روش آموزش مدل ها و تا حدی نتیجه نحوه نمره دهی صنعت هوش مصنوعی است.
هوش مصنوعیمقاله
دمیس هاسابیس اکنون می‌گوید که هوش عمومی مصنوعی میتواند در حدود دو تا سه سال به وجود بیاید
دمیس هاسابیس، مدیرعامل و بنیانگذار Google DeepMind، به مجله The Wall Street Journal گفت که اکنون انتظار دارد هوش عمومی مصنوعی (AGI) در حدود دو تا سه سال به وجود بیاید، که این کمتر از بازه سه تا پنج ساله است که او در اوایل سال 2026 به آن اشاره کرده بود. او هوش عمومی مصنوعی را از طریق آزمون "اینشتاین" تعریف میکند و می‌گوید که تخمین او همیشه به سمت حال حاضر حرکت میکند.