هوش مصنوعی · مقاله
نحوه کار کردن آشکارسازهای متن هوش مصنوعی، توضیح داده شده از طریق یک نزاع بر سر رمان برنده جایزه
انتشار:
به‌طور خلاصه
آشکارسازهای متن هوش مصنوعی ثابت نمیکنند که چه کسی چیزی را نوشته است؛ آنها احتمالی را با اندازهگیری الگوهای آماری مانند قابل‌پیش‌بینی بودن کلمات و تغییر طول جملات تخمین میزنند. آشکارسازی به نام Pangram 4.1 اخیراً 99% از یک رمان برنده جایزه اسپانیایی با ارزش 20,000 یورو را به هوش مصنوعی نسبت داد، که ناشر آن را وادار کرد تا رویدادهای تبلیغاتی را تعلیق کند و در حالی که تحقیق میکند.
این نسخه ترجمهٔ ماشینی متن اصلی (English) است. خواندن متن اصلی
یافته یک ابزار تشخیص مبنی بر اینکه یک رمان برنده جایزه تقریباً به طور کامل توسط ماشین نوشته شده است، آشکارسازهای متن هوش مصنوعی را مورد بررسی قرار داده است. این مورد سؤالی عملی را برای نویسندگان، دانشجویان و ویراستاران به طور یکسان مطرح میکند: این ابزارها واقعاً چه را اندازهگیری میکنند، و تا چه حد می‌توان به نتایج آنها اعتماد کرد؟
آنچه بحث را برانگیخت
David Silva Rojas، نویسنده پرویی، جایزه Almadía Ventosa-Arrufat بین‌المللی برای رمان کوتاه را که ارزش آن 20,000 یورو است، برای رمان خود به نام "Donde el agua trabaja" که داستانی در مزرعه انگور در منطقه Ica در پرو است، برد. یک هیئت متحد شامل نویسندگان Cristina Rivera Garza و Selva Almada و Mónica Ojeda این اثر را از میان 2,204 ارسال از 22 کشور انتخاب کردند، بنابر گزارش Infobea.
بنابر گزارش Infobea، که به تحلیلی توسط روزنامه اسپانیایی El País استناد کرد، اجرای رمان با تقریباً 26,000 کلمه از طریق ابزار آشکارسازی Pangram 4.1 می 99% آن را به هوش مصنوعی نسبت داد. همان ابزار 97% از پاسخ‌های مصاحبه‌ای که Silva Rojas در سپتامبر ارائه داد و 80% از متن بیوگرافی شخصی 924 کلمه‌ای که او ارسال کرد را پرچمگذاری کرد، در حالی که کلمات خود مصاحبه‌کننده به عنوان کاملاً انسانی ثبت شد. قوانین مسابقه از شرکت‌کنندگان می‌خواست که اعلام کنند که نسخه‌های خطی آنها "نه به طور جزئی و نه کامل، با ابزارهای هوش مصنوعی نوشته نشده‌اند،" تحت تهدید حذف.
ناشر Almadía رویدادهای ارائه رمان در مادرید، بارسلونا، اشبیلیه و قادس را تعلیق کرد، که قرار بود در 23 اکتبر 2026 شروع شود، بنابر گزارش Proceso. ناشر گفت که Silva Rojas قراردادی را امضا کرده است که در آن اعلام میکند که چنین ابزارهایی را استفاده نکرده است و برای بررسی زمان خواست. Silva Rojas وقتی Infobea با او تماس گرفت تا حساب خود را بدست آورد، از تعلیق خودداری کرد.
نحوه کار واقعی آشکارسازهای متن هوش مصنوعی
بنابر روششناسی منتشر شده خود GPTZero، این ابزار متن را بر اساس سه سیگنال اصلی امتیاز میدهد: سردرگمی، یا اینکه انتخاب کلمات برای یک مدل زبان چقدر قابل پیشبینی است؛ انفجارگری، به معنای میزان تغییر طول جملات و سبک در یک بخش؛ و نبره کلی، بررسی اینکه آیا نوشتن عام یا تکراری به نظر می‌رسد. GPTZero می‌گوید که آن را با یک مدل تملک شده با "صدها فاکتور" بر روی این اقدامات پایه لایه بندی میکند.
Pangram، ابزار مورد استفاده در مورد رمان، به طور متفاوت کار میکند. بنابر ورودی Wikipedia در مورد این ابزار و وبلاگ خود Pangram، با جفت کردن حجم بزرگی از نوشتار انسانی با متن تولید شده توسط هوش مصنوعی که مطابق با موضوع، طول و نبرهٌ متطابق است، تدریب می‌شود، سپس از معماری "مخلوط متخصصان" برای طبقهبندی بخشهای جداگانه از یک سند و سپس ترکیب آنها در امتیاز سطح بخش استفاده میکند. Pangram حداقل 50 کلمه نثر برای تولید نتیجه نیاز دارد و میزان مثبتهای اشتباه جداگانه را به تفکیک حوزه نوشتار گزارش میدهد — به عنوان مثال، تقریباً 0% در مقالات پزشکی در مقابل میزان بالاتر در شاعری و دستور‌العمل.
به طور حیاتی، هیچ یک از این ابزارها ادعا نمیکنند که نویسنده را شناسایی کنند. آنها یک تخمین آماری را خروجی می‌دهند — احتمال اینکه یک بخش معین بیشتر شبیه متن تولید شده توسط ماشین باشد تا متن انسانی که مدل در طول آموزش دیده است.
| ابزار | وضعیت | روش اصلی | نرخ مثبت اشتباه ادعا شده |
|---|---|---|---|
| GPTZero | فعال از سال 2023 | سردرگمی، انفجارگری، سبک، به علاوه یک مدل تملک شده | دقت کلی 99.9% را ادعا میکند؛ به طور جداگانه تشخیص متن هوش مصنوعی 95.7% را با نرخ مثبت اشتباه 1% در تست معیار RAID گزارش میدهد، بنابر GPTZero |
| Pangram | سال 2023 بعنوان Checkfor.ai راه‌اندازی شد، بازنام‌گذاری به Pangram Labs در سال 2024؛ نسخه 4 در ژوئیه 2026 منتشر شد | طبقهبندی رمز در سطح مخلوط متخصصان در داده‌های آموزش انسانی/هوش مصنوعی جفت شده | تقریباً 1 در 24,000 در معیار انگلیسی Pangram 4؛ تقریباً 1 در 10,000 در کل، بنابر Pangram |
| OpenAI AI Text Classifier | بازنشسته ژوئیه 2023 (تاریخ راه‌اندازی توسط منبع مشخص نشده است) | مدل طبقهبندی آماری | به دلیل "نرخ دقت پایین" بازنشسته شد؛ آزمون TechCrunch به درستی 1 از 7 نمونه هوش مصنوعی را شناسایی کرد، در مقابل 5 از 7 برای GPTZero |
چرا هیچ آشکارساز اطمینان ارائه نمی‌دهد
OpenAI کاشف متن هوش مصنوعی خود را در ژوئیه 2023 بسته‌اند، به دلیل نرخ دقت پایین، بنابر TechCrunch. در آزمون غیررسمی TechCrunch از هفت بخش تولید شده توسط هوش مصنوعی، ابزار OpenAI به درستی تنها یک را شناسایی کرد، در حالی که GPTZero پنج را شناسایی کرد. OpenAI در آن زمان گفت که به جای آن در حال بررسی "تکنیک‌های محل‌الوقوع موثر‌تر" است.
ارقام خود Pangram همان تنش بین اعتماد و خطا را نشان میدهد. ورودی Wikipedia در مورد این ابزار توجه میدهد که ارزیابیهای مستقل دریافتند که آن تقریباً 10.1% از بخشهای نوشته شده توسط سیستم‌های هوش مصنوعی که سبک نویسنده خاصی را تقلید میکنند را از دست دادند، و اینکه آن در متن عبور داده شده از طریق ابزارهای "انسانیکننده" که هدفشان پنهان کردن خروجی هوش مصنوعی است، عملکرد بدتری داشته است. ورودی یکسان نزاعات گذشته‌ای را فهرست میکند که در آنها نتایج Pangram به چالش کشیده شدند، از جمله نویسنده Mia Ballard، که 78% از نوشتار او به هوش مصنوعی پرچمگذاری شد، و انتقاد از James Taranto، سردبیر Wall Street Journal، که ابزار را بعد از پرچمگذاری سه مقاله کارمندی "ماشین توهین" نامید — اگرچه مؤلفان دو مورد از آن مقالات گفتند که آنها تنها هوش مصنوعی را برای کمک به بازنگری پیشنویس خود استفاده کردند.
هیچ آشکارساز هوش مصنوعی نمی‌تواند تا به حال 100% کامل باشد.
آنچه مورد رمان نشان میدهد و آنچه نمی‌دهد
امتیاز Pangram 4.1 یک سیگنال قوی است که Almadía را وادار کرد تا عرضه رمان را متوقف کند و تحقیق را برقرار کند، اما یک امتیاز تشخیص به تنهایی دلالتی بر نحوه تولید یک متن نیست. بر اساس بیان ناشر که Proceso گزارش داد، Almadía نتیجه نهایی را اعلام نکرده است و Silva Rojas حساب خود را رسمی نکرده است. قانون مسابقه در برابر استفاده از هوش مصنوعی — و اعلامیه امضا شده مرتبط با آن — چیزی است که نویسنده را در معرض احتمال حذف قرار میدهد اگر تحقیق تردید را تأیید کند، جدا از آنچه هر امتیاز آشکارسازی واحد میتواند به تنهایی تأسیس کند.
پرسش‌ها
- آشکارسازهای متن هوش مصنوعی مانند GPTZero و Pangram واقعاً چگونه کار میکنند؟
- آنها نویسنده را شناسایی نمیکنند؛ بلکه احتمالات را از الگوهای آماری تخمین میزنند. GPTZero قابل پیشبینی بودن (سردرگمی) و تغییر در طول جملات (انفجارگری) را اندازهگیری میکند، در حالی که Pangram متن را در سطح رمز با استفاده از مدلی تدریب شده بر روی نمونههای نوشته شده انسانی و هوش مصنوعی طبقهبندی میکند، بنابر روششناسی منتشر شده هر شرکت.
- آنچه با رمان "Donde el agua trabaja" اتفاق افتاد چه بود؟
- بنابر Infobea، که به تحلیلی توسط El País اسپانیا استناد کرد، ابزار Pangram 4.1 99% از رمان برنده جایزه با تقریباً 26,000 کلمه David Silva Rojas را به هوش مصنوعی نسبت داد. ناشر Almadía بعد از آن رویدادهای ارائه کتاب اسپانیایی را تعلیق کرد در حالی که بررسی میکند، بنابر گزارش Proceso.
- آشکارسازهای هوش مصنوعی تا چه حد دقیق هستند؟
- فروشندگان نرخ مثبتهای اشتباه بسیار کمی را منتشر میکنند — Pangram برای آخرین معیار انگلیسی تقریباً 1 در 24,000 را استشهاد میدهد و GPTZero دقت تقریبی 99.9% را ادعا میکند — اما نقدهای مستقل که در Wikipedia ذکر شدهاند دریافتند که Pangram بیش از 10% از متن هوش مصنوعی را که یک سبک نویسنده خاص را تقلید میکند از دست داد، و OpenAI کاشف خود را در 2023 به دلیل "نرخ دقت پایین" بازنشسته کرد، بنابر TechCrunch.
- آیا یک آشکارساز هوش مصنوعی میتواند در مورد نوشتار یک شخص واقعی اشتباه باشد؟
- بله. ورودی Wikipedia در مورد Pangram موارد مانند نویسنده Mia Ballard را مستند میکند، که 78% از نوشتار او به هوش مصنوعی پرچمگذاری شد، و James Taranto، سردبیر Wall Street Journal، که ابزار را 'ماشین توهین' نامید بعد از پرچمگذاری سه مقاله کارمندی — اگرچه مؤلفان دو مورد از آن مقالات گفتند که آنها تنها هوش مصنوعی را برای کمک به بازنگری پیشنویس خود استفاده کردند.
- آیا کسی میتواند از یک آشکارساز هوش مصنوعی عبور کند، یا غلط پرچمگذاری شود؟
- ارزیابیهای مستقل که در Wikipedia ذکر شدهاند دریافتند که Pangram تقریباً 10.1% از بخشهای نوشته شده توسط هوش مصنوعی که برای تقلید نویسنده انسانی معین طراحی شدهاند را از دست داد، و آشکارسازها به طور کلی در متنهای کوتاه، نوشتار غیر انگلیسی بومی یا متن تغییر یافته توسط ابزارهای 'انسانیکننده' کمتر قابل اعتماد هستند، بنابر Pangram و GPTZero.
جهان چگونه روایتش میکند
- اسپانیاییرسانه‌های اسپانیایی‌زبان Infobea و Proceso داستان را به عنوان اسکاندالی که تهدید میکند اعتبار یک جایزه ادبی تازه‌تاسیس را قالب‌بندی کردند، با تأکید بر اینکه هیئتی یک‌پارچه از نویسندگان معروف قبل از ظهور یافته آشکارساز رمان را ستایش کرده‌اند، تصمیم سریع ناشر برای تعلیق رویدادهای عمومی، و خودداری نویسنده از تعلیق رسمی.
منابع
- Infobae — Una novela premiada con 20.000 euros resultó estar escrita en un 99% por inteligencia artificial
- Proceso — Almadía suspende presentación de novela premiada tras sospechas de uso de inteligencia artificial
- TechCrunch — OpenAI scuttles AI-written text detector over 'low rate of accuracy'
- Pangram — All About False Positives in AI Detectors
- GPTZero — AI Detector homepage and methodology
- Wikipedia — Pangram (AI detector)
این مطلب با هوش مصنوعی آماده شده و پیش از انتشار از بررسی خودکار منابع گذشته است. اگر خطایی دیدید، درخواست اصلاح کنید. درخواست اصلاح یا حق پاسخ · چگونه کار می‌کنیم
مطالب مرتبط
هوش مصنوعیمقاله
چگونه شبکه‌های عصبی یاد می‌گیرند: ریاضیات پشت ChatGPT و Gemini
شبکه‌های عصبی با ایجاد یک پیشبینی، اندازهگیری میزان خطا آن با تابع زیان، و سپس تعدیل مقادیر داخلی به نام وزن‌ها از طریق شبکه به صورت معکوس یاد می‌گیرند — فرآیندی که انتشار معکوس نام‌گذاری می‌شود و با روشی بهینه‌سازی به نام فرود گرادیانی جفت می‌شود. همین مکانیزم، در مقیاس میلیاردها پارامتر، زیربنای نحوه آموزش اولیه سیستم‌هایی مانند ChatGPT و Gemini است و سپس سازگاری آنها با کارهای خاص از طریق تنظیم دقیق.
هوش مصنوعیمقاله
چگونه هوش مصنوعی هنر و موسیقی تولید می کند و چرا "خلاقیت واقعی" همچنان مورد اختلاف است
ابزارهای تصویری هوش مصنوعی مانند Midjourney و Stable Diffusion تصاویر را با یادگیری معکوس کردن فرآیند نویز می سازند، در حالی که ابزارهای موسیقی مانند Suno و Udio صوت را به نمادها فشرده کرده و آنها را مرحله به مرحله پیش بینی می کنند، هدایت شده توسط یک رمز متنی. اینکه آیا هر یک از این فرآیندها به عنوان خلاقیت واقعی شمار می رود، هنوز حل نشده است: محققان میان نام گذاری آن به عنوان "تجدید ترکیب" مبتنی بر الگو و اعتراف به آن با عملکرد خلاق قابل اندازه گیری تقسیم شده اند.
هوش مصنوعیمقاله
چرا Moonshot عمداً توانایی‌های هکری مدل Kimi AI جدید خود را ضعیف کرد
شرکت هوش مصنوعی چینی Moonshot می‌گوید که داده‌های آموزشی مربوط به حوزه سایبر را از مدل جدید Kimi K3.1 Pro حذف کرده است تا سیستم با وزن‌های باز نتواند "مرز" قابلیت‌های حملات هکری تهاجمی را افزایش دهد. این اطلاعیه که در شنبه 24 اکتبر 2026 منتشر شد، در زمانی می‌آید که دولت‌ها و محققان امنیتی هشدار می‌دهند که هوش مصنوعی‌های فزاینده‌ی توانایی می‌توانند حملات سایبری پیشرفته را ارزان‌تر و آسان‌تر کنند.
هوش مصنوعیمقاله
Kimi K3.1 Pro از Moonshot: این مدل هوش مصنوعی جدید چه کاری میتواند انجام دهد و چگونه مقایسه می‌شود
Moonshot AI در 23 اکتبر 2026 مدل Kimi K3.1 Pro را راه‌اندازی کرد، یک مدل هوش مصنوعی با وزن باز با 2.8 تریلیون پارامتر کل که برای کدنویسی، مدل‌سازی سه‌بعدی و تحقیقات مالی طراحی شده است. شرکت نوپای پکن می‌گوید این مدل شکاف را با GPT-6 Astra از OpenAI و Claude Opus 5.5 از Anthropic در چندین معیار خود کاهش میدهد، اگرچه این ارقام خود‌گزارش شدهاند و وزن‌های کامل مدل تا 4 نوامبر 2026 منتشر نخواهند شد.