هذه اللغة مترجمة آليًا، ولم تتم مراجعتها من قِبل إنسان.

الذكاء الاصطناعي · مقال

كيفية عمل الذكاء الاصطناعي التوليدي: شرح توليد النصوص والصور والأكواد

نُشر:

Théâtre d'Opéra Spatial
الصورة: Left intentionally blank · Public domain · Wikimedia Commons

باختصار

أدوات الذكاء الاصطناعي التوليدي مثل بوتات الدردشة وموليدات الصور ومساعدات البرمجة تقوم بتحويل الإدخال إلى بيانات رقمية، ثم بناء الإخراج خطوة بخطوة باستخدام الأنماط المتعلمة من مجموعات بيانات تدريب ضخمة. تتنبأ أدوات النصوص والأكواد بالرمز التالي في التسلسل باستخدام نماذج المحول، بينما تدريجياً تزيل أدوات الصور مثل Imagen الضوضاء من نمط عشوائي حتى تظهر صورة تطابق المطالبة النصية.

هذه النسخة ترجمة آلية للنص الأصلي (English). اقرأ النص الأصلي

رغم أن موليدات النصوص وموليدات الصور ومساعدات البرمجة تغطي مخرجات مختلفة جداً، إلا أنها تشترك في أساس مشترك: شبكة عصبية تم تدريبها على كميات كبيرة من البيانات تتعلم الأنماط الإحصائية، ثم تستخدم تلك الأنماط لبناء محتوى جديد قطعة قطعة بدلاً من استرجاع إجابة مخزنة.

توليد النصوص: التنبؤ بالرمز التالي

نماذج اللغة الكبيرة مثل تلك التي تقف وراء بوتات الدردشة تقسم النص أولاً إلى وحدات صغيرة تسمى الرموز (tokens)، والتي يمكن أن تكون كلمات كاملة أو أجزاء من الكلمات، وفقاً لشرح تقني من IBM حول نماذج المحول، نشر في 28 مارس 2025. يتم تحويل كل رمز إلى متجه رقمي يُسمى بـ embedding، يمثل معناه، وتُضاف متجهة ثان لتشفير موضع الرمز في الجملة.

الآلية الأساسية هي الانتباه الذاتي (self-attention): لكل رمز، يحسب النموذج محاسبة كيف كل رمز آخر في الإدخال تا كم اندازه مرتبط است، باستخدام ثلاث متجهات يادگرفتهشده براي هر رمز - يك پرسش (query)، يك مفتاح (key) و يك مقدار (value)، وفقاً لـ IBM. هذا يسمح للنموذج بوزن السياق من أي مكان في النص في بت واحد، بدلاً من قراءة كلمة بعد كلمة كما فعلت المعماريات الأقدم. تبديل (transformers) فقط با رمز گشای، معماري پشت نماذج مثل GPT، ثم توليد النص بشكل autoregressive - التنبؤ برمز واحد في كل مرة وإدخال ذلك الرمز مرة أخرى للتنبؤ بالرمز التالي، وفقاً لـ IBM.

تحقيق من Anthropic، منشور على موقعها بعنوان 'Tracing the thoughts of a large language model'، أظهر أن عملية التنبؤ برمز قد تتضمن تخطيط أكثر من ذلك بكثير. في تجربة واحدة، عندما كان نموذج Claude يكتب سطراً من الشعر، قام بتفعيل الميزات الداخلية المقابلة لكلمة قافية محتملة قبل كتابة باقي السطر، ثم عدل صيغته ليصل إلى تلك الكلمة. في اختبار آخر، أجاب النموذج على سؤال متعدد الخطوات - مثل تحديد عاصمة الولاية التي تحتوي على دالاس - بتفعيل تمثيل داخلي لـ 'Texas' ثم بشكل منفصل استرجاع 'Austin'، بدلاً من الانتقال مباشرة إلى الإجابة، وفقاً لـ Anthropic.

Anthropic وجدت أيضاً فجوة بين الحسابات الداخلية للنموذج وتوصيفه الخاص لتلك الحسابات: عندما طُلب من Claude وصف كيفية إجراء حساب رياضي، وصف الطريقة المعيارية، لكن العملية الداخلية التي تتبعتها Anthropic استخدمت نهجاً مختلفاً وموازياً، تركيب تقدير تقريبي مع تتبع منفصل للرقم النهائي.

توليد الصور: إزالة الضوضاء خطوة بخطوة

معظم أدوات متن إلى صورة الحديثة، بما في ذلك Imagen من Google، تستخدم نماذج الانتشار (diffusion models)، والتي تعمل في الاتجاه المعاكس لتوليد النصوص. وفقاً لصفحة أبحاث Imagen من Google، تبدأ النظام بنموذج لغة كبير مجمد - T5-XXL - يحول المطالبة النصية إلى embedding، نفس نوع التمثيل الرقمي المستخدم في نماذج النصوص. يلاحظ باحثو Google أن توسيع حجم مشفر النص هذا حسّن جودة الصورة أكثر من توسيع جزء توليد الصور من النموذج.

ثم يأخذ نموذج الانتشار ذلك embedding النص ويولد صورة صغيرة 64x64 بكسل. يفعل هذا ببدء من ضوضاء بصرية عشوائية وتشغيل عملية تكرارية لـ 'إزالة الضوضاء' (denoising)، حيث يتنبأ النموذج بشكل متكرر وينزع قليلاً من الضوضاء، موجهة بواسطة embedding النص، حتى تبقى صورة منخفضة الدقة متسقة، وفقاً لوصف Google. ثم يتم تكبير الصورة باستخدام نموذي انتشار إضافيين، أولاً إلى 256x256 بكسل وثم إلى 1024x1024 بكسل، وهو ما يسميه Google بـ super-resolution diffusion.

للسماح للنموذج بمتابعة المطالبة النصية بشكل أوثق، تقول صفحة أبحاث Google أن Imagen تدخل 'محاكي انتشار عتبة درجة جديد'، يُستخدم جنباً إلى جنب مع طريقة معروفة باسم classifier-free guidance، والتي معاً تمكن استخدام أوزان توجيه أكبر بكثير. أفادت Google أنه في التقييمات البشرية، حكم المقيمون على أن إخراج Imagen كان مماثلاً للصور المرجعية الحقيقية في مطابقة المطالبة النصية، وفضلوه على أنظمة أخرى لتحويل النص إلى صورة، بما في ذلك DALL-E 2، على معيار قامت Google ببنائه يسمى DrawBench.

توليد الأكواد: الاقتراحات المبنية من السياق

مساعدات البرمجة AI مثل GitHub Copilot تطبق نفس نهج التنبؤ برمز التالي القائم على محول والمستخدم للنص العام، لكن مدرب خصيصاً على كود البرمجة ومكيف لمكان عمل المطور. وفقاً للتوثيق الخاص من GitHub، يعمل Copilot في وضعين رئيسيين: وضع 'مساعد' (assistive) الذي يقترح الكود أو يجيب على الأسئلة أو يشرح الكود أثناء كتابة المطور، ووضع 'وكيل' (agentic) حيث يصف المطور هدفاً و Copilot يعمل من خلال خطوات متعددة - البحث في المستودع وتقديم خطة وتحرير الملفات وتشغيل الأدوات لإكمال مهمة.

تنص وثائق GitHub على أن قدرات Copilot تمتد أيضاً إلى التخصيصات، مثل التعليمات الخاصة بالمستودع وتكاملات الأدوات الخارجية، وأن بعض الميزات تعمل بشكل غير متزامن، مما يسمح لعامل البرمجة بإجراء التغييرات وفتح أو تحديث طلبات السحب دون إشراف مستمر. لا تحدد GitHub علناً كل نموذج يتم استخدامه أو التفاصيل التقنية الكاملة لكيفية اختيار السياق وتمريره إلى النموذج الأساسي، وفقاً لوثائقها الحالية.

كيفية مقارنة الثلاثة

الذكاء الاصطناعي التوليدي حسب نوع الإخراج
نوع الإخراجالتقنية الأساسيةما يبدأ به النموذجمثال
النصوصمحول autoregressive؛ يتنبأ برمز تالٍتسلسل من الرموز (المطالبة)بوتات دردشة بناءً على نماذج مثل GPT أو Claude
الصورانتشار؛ يزيل الضوضاء موجهة بـ embedding نصيضوضاء بصرية عشوائية بالإضافة إلى embedding نصيGoogle Imagen
الكودمحول autoregressive مدرب على الكود، مع سياق مكان العمل المضافرموز الكود بالإضافة إلى الملفات المحيطة / السياقGitHub Copilot

جميع النهج الثلاثة تعتمد على بيانات التدريب: الأنماط الداخلية للنموذج تأتي من النصوص أو الصور أو الأكواد التي تعرض لها أثناء التدريب، ومخرجاته هي سلسلة أو صورة منتجة حديثاً تشكلها تلك الأنماط المتعلمة بدلاً من أن تكون نسخة من أي مثال تدريب واحد.

نوضح أن المشفرات النصية المدربة مسبقاً الكبيرة والمجمدة فعالة جداً لمهمة متن إلى صورة.

— فريق أبحاث Google Imagen

أسئلة

ما هي التكنولوجيا الرئيسية وراء بوتات الدردشة مثل ChatGPT أو Claude؟
تستخدم شبكة عصبية محول تقسم النص إلى رموز، وتحسب كيفية ارتباط كل رمز برمز آخر من خلال الانتباه الذاتي، وثم تتنبأ برمز واحد في كل مرة لبناء الإجابة، وفقاً لشرح محول IBM.
كيف يحول موليد صور AI المطالبة النصية إلى صورة؟
في نماذج مثل Imagen من Google، يحول نموذج لغة مجمد المطالبة إلى تمثيل رقمي، وينطلق نموذج انتشار من ضوضاء عشوائية وينزع الضوضاء بشكل متكرر موجه بواسطة ذلك التمثيل حتى تتشكل الصورة، ثم يكبرها في خطوات انتشار إضافية، وفقاً لصفحة أبحاث Google.
هل يخطط نموذج AI مسبقاً عند كتابة نصوص، أم فقط يخمن الكلمة التالية فقط؟
وجدت أبحاث الإمكانية البشرية من Anthropic شواهد على تخطيط محدود للأمام في بعض الحالات - على سبيل المثال، تفعيل النموذج لكلمة قافية هدف قبل تكوين بقية خط شاعري - برغم من أن النموذج لا يزال يولد النص في النهاية رمز برمز.
كيف يختلف توليد كود AI عن توليد نص AI؟
كلاهما يعتمد على التنبؤ برمز تالٍ القائم على محول، لكن مساعدات البرمجة مثل GitHub Copilot مدربة خصيصاً على كود البرمجة وتستفيد من سياق إضافي من ملفات المطور والمستودع، ويمكنها العمل في حالة 'وكيل' تخطط وتنفذ مهام برمجية متعددة الخطوات، وفقاً لتوثيق GitHub.
هل تطابق تفسير Claude الخاص بها لاستدلالها ما حسبته فعلاً؟
ليس دائماً. أفادت Anthropic بأنه عندما طُلب من Claude تفسير كيفية إجراء حساب رياضي، وصفت الطريقة المعيارية، لكن العملية الداخلية التي تتبعتها الباحثون استخدمت نهجاً مختلفاً وموازياً، تركيب تقدير تقريبي مع تتبع منفصل للرقم النهائي.

المصادر

  1. Anthropic — Tracing the thoughts of a large language model
  2. Google Research — Imagen: Text-to-Image Diffusion Models
  3. GitHub Docs — About GitHub Copilot
  4. IBM — What is a Transformer Model?

أُعدّت هذه المادة بالذكاء الاصطناعي وخضعت لتدقيق آلي للمصادر قبل النشر. إن رأيت خطأً فاطلب تصحيحه. طلب تصحيح أو حق الرد · كيف نعمل

مواد ذات صلة