EP.1 — AI ไม่ได้เข้าใจภาษาเหมือนมนุษย์ แล้วทำไมมันจึงตอบเราได้?

ก่อนจะตอบ ต้องแยกคำว่า "ใช้ภาษาได้" ออกจาก "เข้าใจภาษา"

สำหรับมนุษย์ภาษาไม่ได้เป็นเพียงลำดับของคำ

คำว่า "บ้าน" อาจหมายถึงอาคารหลังหนึ่งแต่สำหรับบางคนอาจเชื่อมโยงถึงความปลอดภัย กลิ่นอาหารในวัยเด็ก เสียงของคนในครอบครัว หรือความทรงจำที่ไม่สามารถอธิบายด้วยพจนานุกรมเพียงบรรทัดเดียว

มนุษย์เรียนรู้ความหมายผ่านประสบการณ์ทางร่างกาย ความสัมพันธ์ สังคม วัฒนธรรม และเหตุการณ์ที่เกิดขึ้นตลอดชีวิต

แต่โมเดลภาษาขนาดใหญ่หรือ Large Language Model ไม่ได้เติบโตขึ้นด้วยประสบการณ์แบบเดียวกับเรา

มันไม่ได้เคยกลับบ้าน ไม่เคยคิดถึงใคร ไม่เคยรอคำตอบจากคนสำคัญ และไม่เคยรู้สึกเสียใจจากประโยคหนึ่ง

สิ่งที่โมเดลได้รับคือ ข้อมูลจำนวนมหาศาลและรูปแบบความสัมพันธ์ระหว่างส่วนต่าง ๆ ของภาษา

AI ไม่ได้เห็นประโยคเหมือนที่เราเห็น

เมื่อเราพิมพ์ข้อความให้ AI ระบบไม่ได้มองเห็นประโยคเป็นหน่วยความหมายแบบเดียวกับมนุษย์ทันที

ข้อความจะถูกแบ่งออกเป็นส่วนย่อยที่เรียกว่า Token

Token อาจเป็นคำเต็ม ส่วนหนึ่งของคำ เครื่องหมายวรรคตอน หรือแม้แต่อักขระบางตัว ขึ้นอยู่กับภาษาและระบบที่ใช้ ตัวอย่างเช่น ประโยคหนึ่งอาจถูกแบ่งออกเป็นหลายชิ้นก่อนส่งเข้าสู่โมเดลเพื่อประมวลผล

ลองเปรียบเทียบกับการต่อจิ๊กซอว์

มนุษย์เห็นภาพบ้านแล้วอาจนึกถึงความอบอุ่นทันที แต่ AI เริ่มจากชิ้นส่วนเล็ก ๆ แล้ววิเคราะห์ว่าชิ้นส่วนใดมักปรากฏใกล้กัน อยู่ในบริบทแบบใด และมีความสัมพันธ์กับชิ้นอื่นอย่างไร

มันไม่ได้อ่านข้อความเหมือนหนังสือที่มีความหมายติดอยู่ในแต่ละคำ

แต่มันแปลงภาษาเป็นตัวเลข แล้ว

หัวใจสำคัญคือ "การคาดการณ์สิ่งที่ควรตามมา"

โมเดลภาษาประเภท GPT ถูกฝึกด้วยเป้าหมายหลักให้คาดการณ์ Token ถัดไปจากสิ่งที่ปรากฏก่อนหน้า

สมมติว่าเราให้ประโยคว่า

"ฝนกำลังตก อย่าลืมพก…"

คำที่น่าจะตามมาอาจเป็น "ร่ม"

ไม่ใช่เพราะ AI เคยเปียกฝน แต่เพราะจากข้อมูลจำนวนมาก คำว่า "ฝนตก" "อย่าลืมพก" และ "ร่ม" มีรูปแบบความสัมพันธ์ที่เกิดขึ้นร่วมกันบ่อย

ในระดับพื้นฐาน โมเดลจึงคำนวณความน่าจะเป็นว่า Token ใดควรปรากฏเป็นลำดับถัดไป จากนั้นจึงทำกระบวนการนี้ต่อเนื่องไปทีละส่วน จนกลายเป็นประโยค ย่อหน้า หรือบทความที่สมบูรณ์

งานวิจัย GPT-3 อธิบายโมเดลว่าเป็นระบบภาษาชนิด Autoregressive ซึ่งสร้างข้อความโดยอาศัยบริบทก่อนหน้า และแสดงให้เห็นว่าเมื่อขยายขนาดโมเดลและข้อมูล โมเดลสามารถทำงานหลายประเภทจากคำสั่งหรือตัวอย่างเพียงเล็กน้อยได้ โดยไม่ต้องฝึกใหม่สำหรับทุกงาน

แต่คำว่า "คาดการณ์คำถัดไป" อาจฟังดูธรรมดาเกินไป เพราะสิ่งที่เกิดขึ้นภายในโมเดลมีความซับซ้อนมากกว่าการเปิดพจนานุกรมหาคำที่มักอยู่ติดกัน

Transformer ทำให้ AI มองเห็นความสัมพันธ์ของคำทั้งประโยค

จุดเปลี่ยนสำคัญของโมเดลภาษาสมัยใหม่มาจากสถาปัตยกรรมที่เรียกว่า Transformer

งานวิจัย Attention Is All You Need ซึ่งเผยแพร่ในปี 2017 เสนอระบบที่ใช้กลไก Attention เพื่อพิจารณาความสัมพันธ์ระหว่างส่วนต่าง ๆ ของข้อความ โดยไม่จำเป็นต้องอ่านข้อมูลเรียงตามลำดับแบบระบบรุ่นก่อนทั้งหมด

ตัวอย่างเช่น ในประโยคว่า

"ดาววางแก้วลงบนโต๊ะ เพราะมันหนักเกินไป"

คำว่า "มัน" อาจหมายถึง "แก้ว"

โมเดลต้องพิจารณาคำอื่นในประโยคเพื่อประเมินความสัมพันธ์ ไม่ใช่ดูเฉพาะคำที่อยู่ติดกัน

กลไก Attention ช่วยให้โมเดลให้น้ำหนักกับส่วนต่าง ๆ ของบริบท ว่าคำใดเกี่ยวข้องกับคำที่กำลังประมวลผลมากน้อยเพียงใด

เมื่อผ่านการฝึกจากข้อความจำนวนมาก โมเดลจึงไม่ได้เรียนรู้เพียงว่าคำใดมักตามหลังคำใด แต่ยังเรียนรู้รูปแบบที่ซับซ้อน เช่น

• โครงสร้างของประโยค
• รูปแบบการอธิบายเหตุผล
• น้ำเสียงที่เหมาะกับสถานการณ์
• ความสัมพันธ์ของแนวคิด
• รูปแบบคำถามและคำตอบ
• ลักษณะของบทความ จดหมาย เรื่องสั้น หรือบทสนทนา

แล้วคำตอบที่ดูเห็นอกเห็นใจมาจากไหน?

ด้วยเหตุนี้ การคาดการณ์ Token ถัดไปจึงสามารถสร้างผลลัพธ์ที่ดูมีเหตุผลและเชื่อมโยงกันอย่างน่าประหลาดใจ

กลับมาที่ข้อความว่า

"วันนี้ฉันรู้สึกว่าตัวเองทำอะไรก็ไม่ดีพอ"

AI อาจพบรูปแบบจากข้อมูลและกระบวนการปรับแต่งว่า ข้อความลักษณะนี้เกี่ยวข้องกับความผิดหวัง ความเหนื่อยล้า หรือการตำหนิตัวเอง

ระบบจึงประเมินว่าคำตอบแบบให้กำลังใจ รับฟังโดยไม่ตัดสิน และหลีกเลี่ยงถ้อยคำรุนแรง มีแนวโน้มเหมาะสมกว่าคำตอบเชิงข้อมูลแห้ง ๆ

กล่าวอีกแบบคือ AI ไม่จำเป็นต้องมีความรู้สึกแบบมนุษย์เพื่อสร้างถ้อยคำที่มนุษย์รับรู้ว่าเต็มไปด้วยความเข้าใจ

เหมือนนักแสดงที่สามารถถ่ายทอดความเศร้าบนเวทีได้อย่างลึกซึ้ง แม้เหตุการณ์ในเรื่องจะไม่ได้เกิดขึ้นกับเขาจริงในขณะนั้น

อย่างไรก็ตาม การเปรียบเทียบนี้ก็ยังไม่สมบูรณ์ เพราะนักแสดงเป็นมนุษย์ที่มีประสบการณ์และความรู้สึก ส่วนโมเดลภาษาเป็นระบบคำนวณที่เรียนรู้รูปแบบจากข้อมูล

เราจึงไม่ควรสรุปง่าย ๆ ว่า AI "แค่เดาคำ"

คำอธิบายว่า AI เป็นเพียงเครื่องทำนายคำถัดไปนั้นถูกต้องในแง่เป้าหมายการฝึกพื้นฐาน แต่ก็อาจทำให้เราเข้าใจความสามารถของโมเดลต่ำเกินไป

นักวิชาการยังถกเถียงกันว่า ความสามารถซึ่งเกิดขึ้นจากการเรียนรู้รูปแบบภาษาในระดับมหาศาล ควรถูกเรียกว่า "ความเข้าใจ" หรือไม่

มีฝ่ายหนึ่งเตือนว่า โมเดลอาจสร้างข้อความที่ลื่นไหลโดยไม่เชื่อมโยงกับประสบการณ์ ความตั้งใจ หรือความหมายแบบมนุษย์ จึงไม่ควรตีความความคล่องทางภาษาเป็นหลักฐานว่าระบบมีความเข้าใจเหมือนเรา

ขณะเดียวกัน นักวิจัยอีกฝ่ายเสนอว่า การลดทอน LLM ให้เหลือเพียง "เครื่องคาดเดาคำ" อาจไม่ครอบคลุมพฤติกรรมซับซ้อนที่เกิดขึ้น เพราะโมเดลสามารถเรียนรู้โครงสร้าง แก้โจทย์ และปรับตัวตามบริบทได้หลายรูปแบบ แม้กลไกการฝึกเริ่มจากการทำนาย Token ก็ตาม

ดังนั้นคำตอบที่ระมัดระวังที่สุดอาจไม่ใช่

"AI เข้าใจทุกอย่าง"

และไม่ใช่

"AI ไม่เข้าใจอะไรเลย"

แต่คือ

AI ประมวลผลและสร้างภาษาในลักษณะที่แตกต่างจากความเข้าใจของมนุษย์อย่างมาก แม้ผลลัพธ์บางครั้งจะดูคล้ายกัน

ปัญหาเกิดขึ้นเมื่อเรามอง "ความคล่อง" เป็น "ความจริง"

มนุษย์มีแนวโน้มเชื่อคนที่พูดชัดเจน ใช้ภาษามั่นใจ และอธิบายเป็นระบบ

AI สามารถทำสิ่งเหล่านี้ได้ดีมาก

แต่ประโยคที่เรียบเรียงดีไม่ได้รับประกันว่าข้อมูลภายในจะถูกต้อง

โมเดลเรียนรู้ว่าคำตอบที่ดี "ควรมีหน้าตาอย่างไร" แต่ไม่ได้ตรวจสอบโลกจริงทุกครั้งโดยอัตโนมัติ เว้นแต่ระบบจะเชื่อมต่อกับฐานข้อมูล เครื่องมือค้นหา หรือกระบวนการตรวจสอบเพิ่มเติม

งานวิจัย GPT-3 เองรายงานทั้งความสามารถที่แข็งแรงและข้อจำกัดในหลายงาน รวมถึงปัญหาที่เกิดจากการเรียนรู้ผ่านข้อมูลขนาดใหญ่จากอินเทอร์เน็ต

นี่คือเหตุผลที่ AI สามารถสร้างข้อมูลที่ผิด แต่เขียนออกมาอย่างเป็นธรรมชาติและมั่นใจได้

เพราะหน้าที่พื้นฐานของมันคือสร้างคำตอบที่เหมาะสมกับรูปแบบและบริบท ไม่ใช่รับประกันว่าทุกข้อความเป็นข้อเท็จจริง

วิธีใช้ AI โดยไม่หลงคิดว่ามันเข้าใจทุกอย่าง

เราไม่จำเป็นต้องหยุดใช้ AI เพียงเพราะมันไม่ได้เข้าใจโลกเหมือนมนุษย์

ตรงกันข้าม การเข้าใจข้อจำกัดของมันจะช่วยให้เราใช้ได้ดีขึ้น

เมื่อต้องการระดมความคิด เรียบเรียงข้อความ สรุปแนวคิด หรือสำรวจมุมมองเบื้องต้น AI สามารถเป็นผู้ช่วยที่มีประโยชน์มาก

แต่เมื่อคำตอบเกี่ยวข้องกับเรื่องสำคัญ เช่น

• สุขภาพ
• กฎหมาย
• การเงิน
• ความปลอดภัย
• ข่าวสารปัจจุบัน
• ชื่อบุคคล ตัวเลข และวันที่
• การตัดสินใจที่มีผลต่อผู้อื่น

เราควรถามต่อว่า

ข้อมูลนี้มาจากไหน?

มีหลักฐานหรือไม่?

ตรวจสอบกับแหล่งต้นทางแล้วหรือยัง?

มีบริบทใดที่ AI อาจมองไม่เห็น?

เพราะ AI อาจพูดเหมือนคนที่เข้าใจ แต่ความรับผิดชอบในการตัดสินใจยังอยู่กับมนุษย์

หลักคิดจาก Lookkidd

อย่าวัดความน่าเชื่อถือของ AI จากน้ำเสียง ให้วัดจากเหตุผล หลักฐาน และความสามารถในการตรวจสอบ

AI อาจไม่ได้เข้าใจคำว่า "เหนื่อย" ผ่านร่างกายและชีวิตแบบที่เราเข้าใจ

แต่มันเรียนรู้ว่า เมื่อมนุษย์พูดคำนี้ คำแบบใดมักช่วยให้บทสนทนาดำเนินต่อไปอย่างเหมาะสม

นี่คือทั้งความมหัศจรรย์และข้อจำกัดของมัน

ความมหัศจรรย์ คือระบบคำนวณสามารถใช้ภาษาได้ใกล้เคียงมนุษย์จนเรารู้สึกว่ากำลังคุยกับบางสิ่งที่เข้าใจเรา

ข้อจำกัด คือความรู้สึกนั้นอาจทำให้เรามอบความไว้วางใจให้ระบบมากกว่าหลักฐานที่มันมีอยู่จริง

ดังนั้นก่อนให้ AI เข้าใจเรา เราอาจต้องเริ่มต้นจากการเข้าใจ AI เสียก่อน

คำถามชวนคิดท้ายตอน

• คุณเคยได้รับคำตอบจาก AI ที่ทำให้รู้สึกว่า "มันเข้าใจฉันจริง ๆ" หรือไม่
• และในตอนนั้น คุณเชื่อคำตอบเพราะมีหลักฐาน หรือเพราะมันเลือกใช้คำได้ตรงใจ?