เครื่องจักรแห่งการทำนาย

เริ่มพิมพ์ข้อความบนโทรศัพท์ แล้วแป้นพิมพ์จะแนะนำคำถัดไป พิมพ์ว่า “แมวนั่งอยู่บน” แล้วแป้นพิมพ์อาจแนะนำคำว่า “เสื่อ” โมเดลภาษา คือแนวคิดเดียวกันในรูปแบบที่ใหญ่กว่ามาก

โมเดลภาษาคือ ฟังก์ชัน คุณป้อนข้อความส่วนหนึ่งให้โมเดล แล้วโมเดลจะคืนค่าหนึ่งจำนวนสำหรับทุกคำในคลังคำของโมเดล นั่นคือ ความน่าจะเป็นที่คำนั้นจะเป็นคำถัดไป ค่าความน่าจะเป็นทั้งหมดอยู่ระหว่าง 0 ถึง 1 และ รวมกันได้ 1

นี่คือตารางสมมติสำหรับข้อความ “แมวนั่งอยู่บน” ตัวเลขเหล่านี้สร้างขึ้นเพื่อแสดงรูปแบบของผลลัพธ์ ไม่ได้มาจากผลิตภัณฑ์จริงใด ๆ

• เสื่อ: 0.40
• พื้น: 0.25
• โซฟา: 0.15
• หลังคา: 0.09
• ดวงจันทร์: 0.07
• กล้วย: 0.04

ตรวจสอบผลรวม: 0.40 + 0.25 + 0.15 + 0.09 + 0.07 + 0.04 = 1.00 โมเดลจริงมีคำในคลังคำหลายหมื่นคำ ดังนั้นค่าความน่าจะเป็นเกือบทั้งหมดจึงมีขนาดเล็กมาก

หนึ่งขั้นตอนเลือกหนึ่งคำตอบ แต่คำตอบหนึ่งข้อความมีหลายขั้นตอน หลังจากแบบจำลองคืนค่าความน่าจะเป็นแล้ว กฎอีกชุดหนึ่งจะเลือกคำหนึ่งคำ (โลกที่ 3 จะแสดงกฎเหล่านี้) จากนั้นคำนั้นจะถูก เพิ่มลงในข้อความ และแบบจำลองจะทำงานอีกครั้งกับข้อความที่ยาวขึ้น วนซ้ำเป็นลำดับ: คำนวณ เลือก เติม ทำซ้ำ

การแชตก็ทำงานในลักษณะเดียวกัน ข้อความสนทนาทั้งหมดจนถึงตอนนี้คือข้อความนำเข้า คำตอบถูกสร้างขึ้นทีละส่วน และทุกส่วนใหม่จะกลายเป็นส่วนหนึ่งของข้อความนำเข้าสำหรับขั้นตอนถัดไป

ข้อสังเกตเกี่ยวกับคำศัพท์ แล็บนี้บอกว่าแบบจำลอง คำนวณ และ คาดการณ์ ไม่ได้บอกว่าแบบจำลอง “คิด” หรือ “เข้าใจ” คำเหล่านี้ไม่ได้เลือกใช้เพียงเพื่อให้ดูดี แต่ช่วยให้เราเห็นภาพตามความเป็นจริง: สิ่งที่เกิดขึ้นภายในคือการคำนวณทางคณิตศาสตร์กับรายการตัวเลข และทุกข้อกล่าวอ้างในแล็บนี้สามารถตรวจสอบได้จากการคำนวณนั้น