ما هي نماذج اللغة الكبيرة (LLM)؟ وكيف تولد النصوص

خلاصة سريعة: نماذج اللغة الكبيرة (Large Language Models – LLMs) برامج ذكاء اصطناعي تُدرَّب على نصوص ضخمة لتتعلم توقّع الرمز التالي في أي تسلسل لغوي، ثم تولّد نصًا جديدًا. وهي لا تحمل قاعدة نحوية مكتوبة، ولا ذاكرة دائمة، ولا وعيًا؛ بل هي شبكة عصبية من بنية Transformer تحوّل الكلمات إلى أرقام، وتمنح كل كلمة وزنًا بحسب سياقها. والنتيجة أداة قوية في الصياغة والتلخيص والبرمجة، غير أنها تعكس أنماط بياناتها، وقد تخطئ بثقة، فيبقى التحقق البشري شرطًا في كل قرار مهم.

ما هي نماذج اللغة الكبيرة (LLM)؟

نماذج اللغة الكبيرة (Large Language Models – LLMs) جيل من نماذج الذكاء الاصطناعي التوليدي يُدرَّب على كميات هائلة من النصوص، ويتعلم منها توقّع الرمز التالي في تسلسل لغوي. وتُقاس سعة النموذج بعدد معاملاته (Parameters)، أي أوزانه الرقمية التي تُضبط أثناء التدريب؛ وقد أعلنت OpenAI في ورقة GPT-3 عام 2020 أن نموذجها ضمّ 175 مليار معامل، وهو رقم يدل على حجم البنية لا على مستوى الفهم. ولا يخزّن النموذج النصوص كما يفعل محرك البحث، بل يستخلص منها أنماطًا إحصائية.

والفرق الجوهري بين هذا الجيل والنماذج القديمة أنه لا يُبرمَج لقاعدة محددة؛ فبدل أن تُكتب له قاعدة صريحة، يتعلم من أمثلة كثيرة كيف تتابع الكلمات، ثم يُستخدم في مهام لم يُدرَّب عليها. وهذا التعميم مصدر قوته وأخطائه.

لماذا غيّرت هذه النماذج طريقة بناء البرمجيات؟

لأنها حوّلت اللغة إلى واجهة برمجية؛ فبدل أن يكتب المطور قواعد لاستخراج معلومة من نص، يرسل النص وتعليمة بلغة طبيعية، ثم يتلقى نتيجة جاهزة. وقد اختصر ذلك زمن بناء أدوات التلخيص والتصنيف والترجمة. ويتيح النموذج الواحد مهام متعددة: صياغة رسالة، وشرح شيفرة، وتلخيص عقد طويل. ولذلك تبنّته الشركات بدل بناء نموذج لكل مهمة. غير أن التعميم لا يعني الإتقان؛ فالجودة تتفاوت بحسب اللغة، ونوع المهمة، وجودة التعليمات، ودقة المصادر. ولمعرفة السياق الأوسع راجع مقال الذكاء الاصطناعي.

كيف يعمل النموذج؟ من الرمز إلى الجملة

يمر النص داخل النموذج بأربع مراحل متتابعة:

الترميز (Tokenization): يُقسَّم النص إلى رموز (Tokens)، وقد يكون الرمز كلمة كاملة، أو جزءًا من كلمة، أو علامة ترقيم، ويُحوَّل كل رمز إلى رقم تعريف.
التضمين (Embedding): يُترجم كل رقم إلى متجه، أي قائمة أعداد تمثل موقعه في فضاء دلالي تتقارب فيه الكلمات المتشابهة.
الانتباه (Attention): تحدد آلية الانتباه في بنية Transformer صلة كل رمز بالرموز الأخرى، فيأخذ الرمز معناه من سياقه؛ فكلمة «عين» تختلف بين عين الماء وعين الإنسان.
التنبؤ بالرمز التالي: يُخرج النموذج توزيعًا احتماليًا على رموز المفردات، ويختار منه رمزًا واحدًا، ثم يعيد الحلقة مع الرمز الجديد.

تتكرر هذه الحلقة رمزًا بعد رمز، ومن هنا جاء وصف هذه النماذج بأنها توليدية ذاتية الانحدار (Autoregressive). ولا تعود في أي مرحلة إلى قاعدة حقائق؛ فكل ما تملكه هو الأوزان التي تعلمتها. ولذلك يتنبأ النموذج بالنص الأرجح، ولا يتحقق من صدقه.

وقد عُرضت بنية Transformer في ورقة «Attention Is All You Need» عام 2017، وأتاحت تدريب الشبكات على تسلسلات طويلة بكفاءة أعلى من الشبكات المتكررة السابقة.

كيف يُدرَّب النموذج؟ ثلاث مراحل

لا يبدأ النموذج مساعدًا مهذبًا، بل يبدأ متنبئًا خامًا. والمسار المعتاد ثلاث مراحل:

التدريب الأولي (Pretraining): يقرأ النموذج كميات هائلة من النصوص والشيفرات، ويتعلم النحو والمعاني وعلاقات الأفكار عبر توقّع الرمز التالي. وهذه المرحلة الأطول والأكثر تكلفة، وفيها تتشكل قدرته العامة.
الضبط الدقيق (Fine-tuning): يُدرَّب النموذج على أزواج من تعليمات وإجابات نموذجية، ليتعلم شكل الحوار وطاعة التعليمات، ويُعرف أيضًا بالضبط الإشرافي (SFT).
التعلم من التغذية الراجعة البشرية (RLHF): يقارن مراجعون بين إجابتين، فيُدرَّب نموذج مكافأة على تفضيلاتهم، ثم يُحسَّن النموذج ليقترب منها، وله بدائل مثل التحسين المباشر للتفضيلات (DPO).

بعد هذه المراحل يبقى النموذج محدودًا ببيانات حتى تاريخ معين (Knowledge Cutoff)، ولا يعلم ما جرى بعده إلا إذا وُصل بأداة بحث. كما أن الضبط يعلّم سلوكًا وأسلوبًا، لا حقائق موثوقة؛ ومن هنا ضرورة التزويد بالمصادر عند الحاجة إلى دقة.

ما الفرق بين النموذج والمنتج مثل ChatGPT؟

النموذج ملف أوزان وبنية رياضية، والمنتج تطبيق يحيط به. وChatGPT مثال واضح؛ فهو واجهة محادثة تستدعي نموذجًا، وتضيف إليه تعليمات نظام، ومرشحات أمان، وأدوات مثل البحث وتنفيذ الشيفرة، وسياسات استخدام، ونظام فوترة. ولهذا قد يتغير سلوك المنتج دون تغيير النموذج. والتفاصيل في مقال ChatGPT.

وينطبق التمييز نفسه على النماذج المفتوحة الأوزان؛ إذ يمكن تنزيلها وتشغيلها على خادم أو حاسوب قوي، وهو ما يمنح تحكمًا أكبر في البيانات. ويصل معظم المستخدمين إليها عبر المتصفح، وقد صار بعض المتصفحات يدمج نماذج لغوية في البحث والترجمة، وهو ما يستحق النظر عند اختيار أفضل متصفح.

ما العوامل التي تؤثر في جودة الإجابة؟

نافذة السياق (Context Window): الحد الأقصى من الرموز التي يراها النموذج في المرة الواحدة، وهي تشمل التعليمات والمحادثة والمستندات. وما يخرج عن النافذة لا يراه، ولو ورد في الرسالة الأولى.
درجة الحرارة (Temperature): معلمة تضبط عشوائية الاختيار؛ فالمنخفضة تقرّب الإخراج من الرمز الأكثر احتمالًا، والمرتفعة تزيد التنوع والمخاطرة. وتقبل واجهة OpenAI البرمجية عادة قيمًا بين 0 و2.
المطالبة (Prompt): تحديد الهدف والجمهور والصيغة، وتقديم أمثلة، وتقسيم المهمة.
المصادر: ربط النموذج بوثائق محدثة (RAG) يقلل الهلوسة في الأسئلة التي تحتاج إلى مصادر.
اللغة: وفرة بيانات التدريب تحدد الجودة؛ والعربية أقل حضورًا من الإنجليزية، فتحتاج مراجعة أدق.

ومن الأخطاء الشائعة الظن أن رفع درجة الحرارة يجعل النموذج أذكى؛ فهي تغيّر طريقة الاختيار من التوزيع، لا قدرته على الاستدلال.

أين تُستخدم هذه النماذج فعليًا؟

تظهر هذه النماذج في مهام يومية كثيرة، منها:

تلخيص المستندات الطويلة، واستخراج القرارات والمواعيد منها.
الترجمة والصياغة، مع الحفاظ على المصطلحات في النصوص التقنية.
البرمجة: توليد شيفرة، وشرح خطأ، وتحويل منطق بين لغتين.
خدمة العملاء والبحث الداخلي: ردود من قاعدة معرفة، وإجابات من وثائق المؤسسة.

والشرط في كل حالة: تقسيم المهمة، وتقييد النموذج بمصادر، ومراجعة بشرية قبل النشر.

الهلوسة والتقييم: كيف نحكم على جودة النموذج؟

الهلوسة (Hallucination) إنتاج معلومة تبدو معقولة وهي خاطئة: مرجع لا وجود له، أو رقم منسوب إلى جهة لم تذكره، أو تاريخ خاطئ. ويعود ذلك إلى أن الهدف توقّع النص الأرجح لا إثبات الحقيقة، وإلى فجوات البيانات، وإلى ميل النموذج إلى مجاراة المستخدم.

وللتقييم طرائق ثلاث: مقاييس آلية على اختبارات معيارية، وتحكيم بشري لعينة من المخرجات، واختبارات مبنية على مهام العمل. وللمقاييس حدودها؛ فقد تتسرب أسئلة الاختبار إلى بيانات التدريب، وقد تشبع فتفقد قدرتها على التمييز، وقد يختلف الحكام في معاييرهم. ويوصي إطار NIST لإدارة مخاطر الذكاء الاصطناعي بتوثيق الاستخدام، وقياس المخاطر، ومراجعة النتائج دوريًا.

التكلفة والطاقة وحدود الاستخدام

يحتاج التدريب إلى عناقيد من المعالجات الرسومية، وأشهر من الحساب، وإلى كهرباء وماء للتبريد. ويُحسب الاستخدام لكل رمز يُدخل ويُخرج، فتتحدد التكلفة بطول الطلب والرد. وقد أشار تقرير وكالة الطاقة الدولية عن الطاقة والذكاء الاصطناعي إلى ارتفاع الطلب على الكهرباء من مراكز البيانات. والاتجاه العملي استخدام أصغر نموذج يؤدي الغرض، وتقليل الرموز.

ولا تقتصر التكلفة على المال. فبيانات التدريب والأوزان تحتاج إلى مساحات تخزين كبيرة، والتشغيل المحلي يحتاج إلى بطاقة رسوميات بذاكرة كافية، وإلى تبريد مناسب. وقد يكون أرخص على المدى الطويل، وأكثر خصوصية، وأصعب في الإعداد.

وثمة حدود لا تعالجها الحوسبة: الخصوصية، إذ قد تُسجّل الطلبات وتُستخدم في التحسين؛ والتحيز، إذ يعكس النموذج اختلالات بياناته؛ وحقوق المؤلف، إذ لا يمكن التحقق من مصدر كل جملة؛ والأمان، إذ يمكن حقن تعليمات خفية في مستند يقرأه النموذج. ويضاف إلى ذلك خطر الاعتماد المفرط على مخرجات واثقة وهي هشة.

الخلاصة: النموذج أداة لا مرجع

قبل الاعتماد على نموذج، اسأل: هل يحتمل الخطأ التصحيح؟ وهل توجد مصادر يستند إليها؟ وهل يستطيع شخص مراجعة الناتج؟ فإن كان الجواب بالنفي، فالأولى استخدامه في المسودة والاستكشاف لا في القرار النهائي.

أسئلة شائعة

ما هي نماذج اللغة الكبيرة ببساطة؟

هي نماذج ذكاء اصطناعي تُدرَّب على نصوص كثيرة لتتعلم توقّع الكلمة أو جزء الكلمة التالي، ثم تولّد نصًا جديدًا بناءً على ذلك. وتُسمى كبيرة لأن عدد معاملاتها يبلغ مليارات، ولأن بيانات تدريبها واسعة.

هل تفهم النماذج ما تقوله؟

لا فهم بالمعنى الإنساني. النموذج يحسب احتمالات تتابع الرموز اعتمادًا على أنماط رآها في التدريب، ولا يملك نية ولا وعيًا. وقد يحاكي الفهم بدقة، لكنه لا يتحقق من صحة ما ينتج إلا بأداة تحقق.

لماذا يختلف الجواب عن السؤال نفسه في كل مرة؟

لأن النموذج يختار من توزيع احتمالي، لا من إجابة مخزنة. فدرجة الحرارة تحدد مقدار العشوائية في الاختيار، ويضاف إلى ذلك أثر صياغة الطلب وسياق المحادثة.

هل يمكن تشغيل نموذج لغوي على حاسوب شخصي؟

نعم، بنماذج أصغر مفتوحة الأوزان وبطاقة رسوميات بذاكرة كافية. وتقل الجودة مع صغر النموذج، ويحتاج التشغيل إلى إعداد وصيانة، لكنه يمنح خصوصية أعلى.

ما المقصود بنافذة السياق؟

هي مقدار النص، محسوبًا بالرموز، الذي يستطيع النموذج النظر إليه في المرة الواحدة، ويشمل التعليمات والرسائل والمستندات. وما يتجاوزها لا يصل إليه، لذا تُقسَّم المستندات الطويلة أو يُبحث داخلها.