วิธีลดความเสี่ยงจาก Hallucination ของ Claude

Hallucination คือกรณีที่ Claude ให้ข้อมูลผิดหรือทำให้เข้าใจผิด เช่น ระบุวันที่คลาดเคลื่อน แต่งรายละเอียดหรือแหล่งอ้างอิง หรือสรุปเกินกว่าหลักฐานที่มี แม้ Claude จะช่วยค้นคว้าและวิเคราะห์ข้อมูลได้ แต่ไม่มีวิธีตั้งพรอมป์ที่รับประกันว่าคำตอบจะถูกต้องทุกครั้ง บทความนี้จาก ComSiam แนะนำวิธีลดความเสี่ยงและตรวจคำตอบก่อนนำไปใช้งาน

สาเหตุที่ Claude อาจตอบผิด

Claude อาจตอบคลาดเคลื่อนได้จากหลายสาเหตุ เช่น

• คำถามกว้างหรือกำกวม ทำให้ตีความเป้าหมายผิด
• ข้อมูลที่ให้มามีไม่ครบ แต่คำถามต้องการรายละเอียดมากกว่าหลักฐาน
• ข้อมูลเปลี่ยนแปลงตามเวลา แต่ไม่ได้ค้นจากแหล่งปัจจุบัน
• เอกสารมีตาราง ภาพ หรือบริบทที่อ่านไม่ครบ
• แหล่งข้อมูลที่นำมาใช้มีคุณภาพต่ำหรือขัดแย้งกัน
• Claude เชื่อมโยงข้อมูลจนเกิดข้อสรุปที่ไม่มีหลักฐานตรงรองรับ

Anthropic แนะนำให้ผู้ใช้ตรวจสอบคำตอบและแหล่งอ้างอิง โดยเฉพาะเรื่องสำคัญ เพราะคำตอบอาจผิดหรือทำให้เข้าใจผิดได้

① ระบุขอบเขตคำถามให้ชัด

ระบุหัวข้อ ช่วงเวลา พื้นที่ กลุ่มเป้าหมาย และรูปแบบคำตอบที่ต้องการ แทนการถามกว้าง ๆ เช่น “เล่าทุกอย่างเกี่ยวกับ…” ให้แยกเป็นคำถามที่ตรวจสอบได้

ตัวอย่าง

สรุปข้อกำหนดเกี่ยวกับ [เรื่อง] ในประเทศไทย โดยใช้ข้อมูลที่มีผล ณ [วันที่] แยกข้อกำหนดหลัก ข้อยกเว้น และเอกสารต้นทาง หากไม่พบข้อมูลในแหล่งทางการให้ระบุว่าไม่พบ

② กำหนดให้ใช้หลักฐานและบอกเมื่อไม่ทราบ

สั่งให้ Claude แยกข้อเท็จจริงออกจากการตีความ และไม่เติมช่องว่างด้วยการคาดเดา การสั่งให้บอกว่า “ไม่ทราบ” เมื่อหลักฐานไม่พอช่วยลดคำตอบที่ฟังดูมั่นใจแต่ไม่มีที่มารองรับ

พรอมป์ตัวอย่าง

ตอบโดยใช้เฉพาะข้อมูลจากไฟล์หรือแหล่งที่ระบุ

• แนบหลักฐานหรือ citation กับข้อเท็จจริงแต่ละข้อ
• แยกข้อเท็จจริงออกจากการอนุมาน
• ถ้าหาหลักฐานไม่พบหรือข้อมูลไม่พอ ให้เขียนว่า “ยังยืนยันไม่ได้”
• ห้ามแต่งชื่อเอกสาร ตัวเลข วันที่ คำพูด หรือลิงก์ขึ้นเอง

คำสั่งลักษณะนี้ช่วยกำหนดมาตรฐานคำตอบ แต่ไม่ได้กำจัดความผิดพลาดทั้งหมด จึงยังต้องตรวจสอบผลลัพธ์

③ แนบเอกสารต้นฉบับเมื่อมีแหล่งข้อมูลอยู่แล้ว

หากมีรายงาน คู่มือ หรืองานวิจัยฉบับเต็ม ให้แนบไฟล์และถามจากเอกสารนั้นโดยตรง ระบุให้ Claude บอกชื่อไฟล์ หัวข้อ ตาราง หรือเลขหน้าที่รองรับคำตอบ

พรอมป์ตัวอย่าง

ตอบคำถามจากเอกสารที่แนบเท่านั้น สำหรับทุกข้อสรุป ให้ระบุชื่อไฟล์และตำแหน่งที่พบหลักฐาน หากไม่พบข้อความที่รองรับ ให้แจ้งว่าไม่พบ อย่าใช้ความรู้ทั่วไปเติมคำตอบ

เปิดไฟล์ตรวจข้อความหรือตารางที่อ้างถึงด้วยตนเอง เพราะการสรุปอาจละบริบทหรือจับความหมายผิดได้

④ เปิด Web Search เมื่อข้อมูลต้องเป็นปัจจุบัน

เรื่องข่าว ราคา กฎระเบียบ คุณสมบัติผลิตภัณฑ์ และข้อมูลที่เปลี่ยนตามเวลา ควรให้ Claude ค้นเว็บและแสดง citations เพื่อเปิดตรวจต่อ อย่าใช้คำตอบจากความจำของโมเดลเพียงอย่างเดียวกับข้อมูลลักษณะนี้

พรอมป์ตัวอย่าง

ใช้ Web Search ค้นข้อมูลล่าสุดจากแหล่งทางการก่อน ตอบพร้อม citations ที่รองรับแต่ละข้อ ระบุวันที่ของข้อมูล และแจ้งหากแหล่งข้อมูลไม่ตรงกัน

ถ้าต้องค้นหลายมุมหรือรวบรวมข้อมูลจากหลายแหล่ง สามารถใช้ Research หากมีให้เลือก แต่ควรเปิดอ่านแหล่งที่ Claude อ้างจริง ไม่ควรถือว่ามี citation แล้วแปลว่าข้อสรุปถูกต้องแน่นอน

⑤ ตรวจ citation กับเนื้อหาต้นฉบับ

เมื่อได้คำตอบแล้ว ให้เปิด citation และตรวจว่าแหล่งนั้นรองรับข้อความที่ Claude เขียนจริงหรือไม่ ตรวจวันที่ เงื่อนไข และบริบทที่อยู่รอบข้อความด้วย

จุดที่ตรวจ	คำถาม
แหล่งที่มา	เป็นเว็บไซต์หรือเอกสารจากผู้รับผิดชอบข้อมูลโดยตรงหรือไม่
หลักฐาน	ข้อความหรือตัวเลขในแหล่งรองรับคำตอบจริงหรือไม่
วันที่	ข้อมูลยังเป็นฉบับที่ใช้ได้ ณ เวลาที่ต้องการหรือไม่
บริบท	มีข้อยกเว้นหรือเงื่อนไขที่คำตอบไม่ได้กล่าวถึงหรือไม่
ความสอดคล้อง	มีแหล่งต้นฉบับอื่นที่ให้ข้อมูลต่างกันหรือไม่

หากลิงก์เปิดไม่ได้ หรือหน้าเว็บไม่พบข้อมูลตามที่อ้าง ให้ถือว่าข้อนั้นยังต้องตรวจเพิ่ม อย่าอ้างต่อโดยไม่ยืนยัน

⑥ ตรวจคำตอบอีกรอบด้วยคำถามท้าทาย

หลังได้คำตอบรอบแรก ลองถามให้ Claude หาจุดอ่อนของคำตอบ เช่น มีข้อไหนที่ไม่มีหลักฐาน มีข้อยกเว้นใดที่ตกหล่น หรือข้อมูลส่วนใดอาจล้าสมัย

พรอมป์ตรวจทาน

ตรวจคำตอบก่อนหน้าอย่างเป็นกลาง แยกข้อกล่าวอ้างที่มีหลักฐานตรง ข้อที่อนุมาน และข้อที่ไม่มีหลักฐาน ระบุส่วนที่อาจผิด ล้าสมัย หรือมีบริบทตกหล่น พร้อมบอกว่าควรตรวจจากแหล่งใดเพิ่มเติม

การให้ Claude ตรวจคำตอบตัวเองช่วยชี้ประเด็นที่ควรทบทวน แต่ไม่ใช่การยืนยันอิสระ เพราะยังเป็นการให้ระบบเดียวกันประเมินคำตอบของตน

⑦ แยกงานใหญ่เป็นคำถามย่อย

คำถามที่รวมหลายเรื่องไว้ในครั้งเดียวทำให้ตรวจหลักฐานยาก แบ่งงานเป็นขั้น เช่น ตรวจขอบเขตข้อมูลก่อน สรุปหลักฐานทีละประเด็น แล้วจึงค่อยสังเคราะห์ภาพรวม

ตัวอย่างลำดับงาน:

1. ระบุแหล่งข้อมูลที่เกี่ยวข้อง
2. สรุปข้อเท็จจริงจากแต่ละแหล่งแยกกัน
3. เปรียบเทียบข้อมูลที่ตรงกันและขัดแย้งกัน
4. สรุปเฉพาะสิ่งที่หลักฐานรองรับ
5. ทำรายการคำถามที่ยังหาคำตอบไม่ได้

ข้อควรระวังในงานสำคัญ

เรื่องสุขภาพ กฎหมาย การเงิน ความปลอดภัย หรือการตัดสินใจที่มีผลกระทบสูง ไม่ควรใช้ Claude เป็นแหล่งความจริงเพียงแหล่งเดียว ตรวจข้อมูลกับหน่วยงานต้นทางหรือผู้เชี่ยวชาญ และพิจารณาความเสี่ยงก่อนลงมือทำตามคำแนะนำ

หากนำคำตอบไปเผยแพร่ ควรตรวจชื่อบุคคล ตัวเลข วันที่ คำพูดอ้างอิง ลิงก์ และข้อสรุปทุกจุด รวมถึงแก้ไขถ้อยคำที่สื่อความมั่นใจเกินหลักฐาน

สรุป

ลดความเสี่ยงจาก Hallucination ได้ด้วยการถามให้ชัด จำกัดแหล่งข้อมูล ขอหลักฐานกำกับแต่ละข้อ และเปิดตรวจแหล่งต้นฉบับ โดยเฉพาะข้อมูลปัจจุบันหรือเรื่องที่มีผลกระทบสูง หาก Claude ไม่พบหลักฐาน ให้ถือว่ายังยืนยันไม่ได้ ComSiam แนะนำให้ใช้ Claude เป็นผู้ช่วยค้นคว้าและจัดระเบียบข้อมูล พร้อมตรวจทานข้อเท็จจริงก่อนนำคำตอบไปใช้ทุกครั้ง