DeepSeek ابزار استنتاج DeepInfer را با کد باز منتشر میکند تا هزینه‌های اجرای هوش مصنوعی را کاهش دهد
انتشار:
به‌طور خلاصه
DeepSeek ابزار DeepInfer را که چارچوب استنتاج خدماتی است برای هوش مصنوعی تولیدی خود، به‌عنوان نرمافزار متنباز رایگان تحت مجوز Apache 2.0 منتشر کرده است. این ابزار برای سریع‌تر و ارزانتر کردن خدمات مدل DeepSeek-V4.1-Flash ساخته شده است و شرکت میگوید که اشتراک‌گذاری آن به توسعهدهندگان دیگر کمک میکند تا هزینه‌های محاسبات و مصرف انرژی را کاهش دهند.
این نسخه ترجمهٔ ماشینی متن اصلی (English) است. خواندن متن اصلی
شرکت چینی هوش مصنوعی DeepSeek ابزار DeepInfer را در 20 اکتبر 2026 در GitHub منتشر کرد و چارچوب استنتاجی را که میگوید قبلاً خدمات تولیدی درسطح بزرگ خود را تامین میکند، علنی کرد. این نرمافزار تحت مجوز Apache 2.0 در github.com/deepseek-ai/DeepInfer منتشر شد، طبق گزارش‌های SiliconANGLE و TechTarget.
استنتاج مرحله‌ای است پس از آموزش یک مدل، زمانی که در واقع پاسخ‌هایی را برای پرسش‌های کاربران تولید میکند. DeepSeek در یادداشت‌های انتشار خود گفت، همان‌طور که Gizmodo نقل کرده است، که ما "پشته تولیدی خود را برای کمک به جامعه‌ی کاهش هزینه‌های محاسبات، کاهش مصرف انرژی و ارزانتر کردن هوش مصنوعی اشتراک می‌کنیم."
DeepInfer چه کار میکند
DeepInfer یک لایه بهینه‌سازی است که به‌طور خاص برای مدل DeepSeek-V4.1-Flash ساخته شده است، سیستمی که شرکت برای وظایف کدنویسی و کارهای خودمختار آن را بازار میکند، طبق گزارش Gizmodo و TechTarget. SiliconANGLE گزارش میدهد که یکی از خوشه‌های تولیدی DeepSeek از این چارچوب برای خدمترسانی 155 تریلیون توکن در روز استفاده میکند.
این چارچوب بر رمزگشایی تخمینی متکی است، تکنیکی که در آن مدل "پیش‌نویس" کوچک‌تر چندین توکن را از قبل پیشنهاد میکند در حالی‌که مدل اصلی آن‌ها را در یک پاس بررسی میکند تا اینکه هر توکن را یک‌به‌یک تولید کند. SiliconANGLE، با استناد به اسناد فنی DeepSeek، نسخه خاص DeepSeek از این سیستم را توصیف میکند که DSpark نام دارد، جایی که مدل پیش‌نویس پنج توکن پیشنهاد میکند در حالی‌که یک مکانیسم اعتماد جداگانه پیش‌بینی میکند که آیا مدل اصلی آن‌ها را می‌پذیرد؛ DeepSeek میگوید این تأیید غیرضروری را حدود 30 درصد کاهش میدهد و بهره‌وری 4 تا 7 درصد تحت بارهای تولیدی دستیابی میکند.
کد منتشر شده از پردازندههای Nvidia SM100 (Blackwell) و واحدهای پردازش عصبی Huawei Ascend 950 پشتیبانی میکند، اما نه از تراشههای Nvidia نسل Hopper قدیمیتر، طبق SiliconANGLE. TechTarget یادآوری میکند که سازمان‌هایی که مدلهای هوش مصنوعی غیر DeepSeek را اجرا می‌کنند می‌توانند قبلاً از ابزارهای مشابهی مانند Nvidia TensorRT-LLM استفاده کنند، و اینکه وابستگی مستمر DeepSeek به سخت‌افزار Nvidia در کنار تراشههای Huawei نشان‌دهنده این است که Huawei هنوز در برخی جنبه‌ها از Nvidia عقب است، طبق گزارش.
چه چیزی حذف شده است
DeepSeek همه چیزهای لازم برای اجرای یک سرویس تولیدی کامل را منتشر نکرده است. SiliconANGLE گزارش میدهد که شرکت سیستم مدیریت حافظه کلید-مقدار و کد متوازنگر بار خود را به دلیل ارتباط تنگاتنگ با زیرساختهای داخلی، نگاه داشت و استقرار موثر هنوز نیاز به حداقل 128 پردازنده گرافیکی دارد — 64 اختصاص‌یافته برای پردازش پروپوزال‌ها و 64 برای تولید پاسخ‌ها. ویژگی‌های خروجی قطعی، که مدل را وادار میکند برای ورودی مشابه پاسخ‌های یکسانی برگرداند، در حال حاضر فقط بر روی سخت‌افزار Nvidia کار می‌کنند، همان‌طور که منبع اضافه میکند.
مقایسه هزینه و واکنش
Gizmodo گزارش میدهد DeepSeek V4.1-Flash را به 0.035 دلار برای هر میلیون توکن ورودی و 0.12 دلار برای هر میلیون توکن خروجی قیمتگذاری میکند، در مقابل اعدادی که برای مدل OpenAI GPT-6 Astra نسبت میدهد به 10 و 50 دلار به ترتیب برای همان حجم‌ها؛ Gizmodo انتشار را به عنوان بخشی از DeepSeek اعمال فشار بر OpenAI و Anthropic قاب میکند. SiliconANGLE به طور جداگانه گزارش میدهد که قیمتگذاری خارج ساعات پیک در یک خوشه اجرای DeepInfer می‌تواند تقریباً 38 دلار درآمد برای هر پردازنده گرافیکی در ساعت ایجاد کند.
تحلیل‌گر Omdia، Lian Jye Su، به TechTarget گفت که بحث صنعتی قابل‌توجهی درباره بهینه‌سازی استفاده از توکن وجود دارد و اشاره کرد که مصرف توکن با رشد پذیرش هوش مصنوعی به شدت افزایش یافته است. TechTarget تحلیل‌گران را به عنوان دیدن انتشار هم به عنوان حرکت بهینه‌سازی هزینه و هم به عنوان تلاشی برای موضع‌گیری ژئوپلیتیکی که همچنین جایگزین‌های تراشه چینی را در کنار سخت‌افزار Nvidia تشویق میکند، توصیف میکند.
پس‌زمینه
SiliconANGLE گزارش میدهد DeepInfer در ابتدا از پروژه متنباز vLLM در آپریل 2025 فورک شد، پس از اینکه شرکت دریافت انتشار کامل در آن زمان غیرعملی بود. DeepSeek قبلاً برای انتشار مدلهای هوش مصنوعی کم‌هزینه و رقابتی توجه جلب کرده است، و ادامه انتشار DeepInfer این الگو را دنبال میکند با باز کردن نرمافزار زیرساخت به جای تنها مدل.
DeepSeek گفته است که قصد دارد در آینده به چارچوب DeepInfer پشتیبانی مدلهای اضافی اضافه کند، طبق Gizmodo، اگرچه هیچ جدول زمانی داده نشده است.
پرسش‌ها
DeepInfer چیست؟
DeepInfer چارچوب استنتاجی است که DeepSeek برای اجرای مدلهای هوش مصنوعی خود در تولید استفاده میکند و اکنون به عنوان نرمافزار متنباز رایگان منتشر شده است تا توسعهدهندگان دیگر بتوانند از آن برای خدمترسانی مدلها با ارزانتر استفاده کنند.
کدام مدل DeepSeek توسط DeepInfer پشتیبانی میشود؟
در ابتدای راهاندازی، DeepInfer به طور خاص برای DeepSeek-V4.1-Flash ساخته شده است؛ DeepSeek میگوید قصد دارد مدلهای دیگری را بعداً اضافه کند.
DeepInfer بر روی چه سختافزاری اجرا میشود؟
این از پردازندههای Nvidia SM100 (Blackwell) و واحدهای پردازش عصبی Huawei Ascend 950 پشتیبانی میکند، اما نه از تراشههای Nvidia نسل Hopper قدیمیتر، طبق SiliconANGLE.
آیا DeepInfer یک خدمات کامل و آماده برای استقرار است؟
نه. SiliconANGLE گزارش میدهد DeepSeek سیستم مدیریت حافظه کلید-مقدار و سیستمهای متوازنگر بار خود را نگاه داشت زیرا به زیرساختهای داخلی وابستهاند و استقرار کارکردی هنوز نیاز به حداقل 128 پردازنده گرافیکی دارد.
قیمتگذاری DeepSeek چگونه با OpenAI مقایسه میشود؟
Gizmodo گزارش میدهد DeepSeek V4.1-Flash را به 0.035 دلار برای هر میلیون توکن ورودی و 0.12 دلار برای هر میلیون توکن خروجی قیمتگذاری میکند، در مقابل 10 و 50 دلار به ترتیب که آن را به مدل OpenAI GPT-6 Astra نسبت میدهد.
شرکت استارتاپی Radical Numerics میگوید مدل هوش مصنوعی Omnii-1 آن، باکتریوفاژی را طراحی کرد که به یک بیمار مبتلا به عفونت اشریشیا کلای مقاوم به آنتی‌بیوتیک، تحت مسیر ترحم FDA داده شد. اعلام در 20 اکتبر 2026 به عنوان اولین ویروسی که توسط هوش مصنوعی طراحی شده و به انسان داده شده است، توصیف میشود، اما یافته‌ها مرجع شده نیستند و دانشمندان خارجی می‌گویند از دادن نظر خودداری می‌کنند.
کامپیوترهای کوانتومی از کوبیت‌هایی استفاده می‌کنند که می‌توانند ترکیبی از 0 و 1 را به‌طور همزمان نگاه دارند و اجازه می‌دهند تا احتمالات متعدد را برای مسائل خاص به‌طور موازی بررسی کنند. گوجل و IBM هر دو گزارش دادند که در سال‌های 2025-2026 نقاط عطفی دارند که فناوری را از نمایش‌های آزمایشگاهی به سمت استفاده عملی حرکت می‌دهند، در حالی که NIST قبلاً استانداردهای رمزگذاری را برای آماده‌سازی برای خطری که ماشین‌های کوانتومی می‌توانند برای رمزگذاری امروزی ایجاد کنند، صادر کرده است.
سوگیری الگوریتمی در هوش مصنوعی استخدام زمانی اتفاق می‌افتد که مدل‌هایی که بر اساس داده‌های تاریخی نیروی کار، رزومه‌ها یا تصاویر آنلاین آموزش داده شده‌اند، الگوهای موجود تبعیض بر اساس جنسیت، نژاد یا سن را جذب و تکرار کنند. موارد موثق شده - از ابزار استخدام لغو شده Amazon تا مطالعه دانشگاه Washington در مورد مدلهای زبان بزرگ - نشان میدهد که سوگیری فرضی نیست، به همین دلیل است که شهر نیوی��رک و کالیفرنیا قوانین قانونی خاصی برای کارفرمایانی که از این سیستم‌ها استفاده می‌کنند، معرفی کرده‌اند.
OpenAI در ۱۶ اکتبر ۲۰۲۶ اعلام کرد که GPT-6 Astra Pro درون ChatGPT اکنون امکان میدهد تا عوامل هوش مصنوعی متعددی روی قسمت‌های جداگانه از یک وظیفه به‌صورت همزمان کار کنند، به‌جای آن‌که یک عامل به‌صورت متوالی مراحل را انجام دهد. این ویژگی در حال حاضر فقط برای مشترکین ChatGPT Pro محدود است، که می‌توانند پیشرفت هر عامل را پیگیری کنند و کار تکمیل‌شده را مستقیماً در گفت‌وگو باز کنند.
