آلة التنبؤ.

ابدأ بكتابة رسالة على هاتفك، وستقترح لوحة المفاتيح الكلمة التالية. اكتب «جلست القطة على»، وقد تقترح «الحصيرة». إن النموذج اللغوي نسخة أكبر بكثير من هذه الفكرة.

النموذج اللغوي هو دالة. تعطيه جزءًا من نص، فيعيد لك عددًا واحدًا لكل عنصر في مفرداته: الاحتمال أن يأتي هذا العنصر بعد ذلك. تكون جميع الاحتمالات بين 0 و1، ومجموعها العدد 1.

إليك جدولًا مُختلقًا للنص «جلست القطة على الـ». هذه الأعداد مُختلقة لتوضيح شكل الناتج؛ ولا تأتي من أي منتج حقيقي.

• السجادة: 0.40
• الأرضية: 0.25
• الأريكة: 0.15
• السقف: 0.09
• القمر: 0.07
• الموزة: 0.04

تحقّق من المجموع: 0.40 + 0.25 + 0.15 + 0.09 + 0.07 + 0.04 = 1.00. يمتلك النموذج الحقيقي مفردات تضم عشرات الآلاف من العناصر، لذلك يكون احتمال كل عنصر تقريبًا ضئيلًا جدًا.

خطوة واحدة تُجري اختيارًا واحدًا. أمّا الردّ فيتكوّن من خطوات كثيرة. بعد أن يعيد النموذج احتمالاته، تختار قاعدة منفصلة عنصرًا واحدًا (يعرض العالم 3 القواعد). ثم يُضاف هذا العنصر إلى النص، ويُشغّل النموذج مرة أخرى على النص الأطول. والحلقة هي: احسب، اختر، أضف، كرّر.

تعمل الدردشة بالطريقة نفسها. فالمحادثة حتى الآن هي النص المُدخل. ويُبنى الرد قطعةً قطعة، وتصبح كل قطعة جديدة جزءًا من النص المُدخل للخطوة التالية.

ملاحظة حول الكلمات. يقول هذا المختبر إن النموذج يحسب ويتنبأ، وليس إنه «يفكّر» أو «يفهم». وهذه الكلمات ليست مجرد اختيار أسلوبي؛ فهي تحافظ على دقة الصورة: ما يحدث في الداخل هو إجراء حسابات على قوائم من الأعداد، ويمكن التحقق من كل ادعاء في هذا المختبر بالرجوع إلى تلك الحسابات.