ปัญญาประดิษฐ์ที่อธิบายได้ (Explainable AI / XAI)

ผลลัพธ์ของ AI ถูกแปลให้ผู้ใช้ทั่วไปเข้าใจได้ผ่านชั้นคำอธิบายทางภาพ: Heatmap ซ้อนทับลงบนรูปภาพต้นฉบับ

หมวด แนวคิดและเทคนิคต้นฉบับ concepts/explainable-ai.md
XAIHeatmapheatmapoverlaytransparency

ปัญญาประดิษฐ์ที่อธิบายได้ (XAI)

ผลลัพธ์ของ AI ถูกแปลให้ผู้ใช้ทั่วไปเข้าใจได้ผ่านชั้นคำอธิบายทางภาพ: Heatmap ซ้อนทับลงบนรูปภาพต้นฉบับ

ปัญหาที่ XAI แก้ไข

คะแนนความเสี่ยงตัวเลขเปล่า (เช่น "72%") บอกผู้ใช้ว่าระบบ พบ สิ่งผิดปกติ แต่ไม่บอกว่า ที่ไหน หรือ ทำไม หากไม่มีคำอธิบาย ผู้ใช้ก็ไม่มีเหตุผลที่จะเชื่อหรือดำเนินการตามผลลัพธ์ XAI ปิดช่องว่างนี้

Heatmap

Heatmap คือภาพแผนที่ความร้อนที่แสดงบริเวณที่โมเดลตรวจพบความผิดปกติ โดยบริเวณที่เสี่ยงสูงจะแสดงเป็นโทนร้อนและบริเวณที่ปกติจะแสดงเป็นโทนเย็น

การทำงานในระบบนี้:

  1. หลังจากที่ concepts/ai-model-segformer สร้าง segmentation mask ระดับพิกเซล ค่าความเชื่อมั่นของแต่ละพิกเซลจะถูกแปลงเป็น color gradient
  2. บริเวณที่มีความเสี่ยงสูง → แสดงเป็น สีแดง/โทนร้อน
  3. บริเวณที่ปลอดภัย → แสดงเป็น สีน้ำเงิน/โทนเย็น
  4. Heatmap ถูกผสม (blend) ด้วยค่าความโปร่งใสทับลงบนรูปภาพต้นฉบับ
  5. ภาพ overlay ที่ได้ถูกเก็บใน {LOCAL_UPLOAD_DIR}/heatmaps/ และเสิร์ฟผ่าน FastAPI /uploads

การแสดงผลบนแอป

บนหน้าจอผลลัพธ์ของ Mobile App:

  • ผู้ใช้เห็น รูปภาพต้นฉบับ พร้อม Heatmap ซ้อนทับ
  • สามารถ toggle เปิด/ปิด Heatmap เพื่อเปรียบเทียบ
  • แอปแสดงป้ายกำกับภาษาธรรมดาสำหรับบริเวณที่ถูก flag (เช่น "บริเวณข้อความที่ถูกดัดแปลง", "รูปแบบพิกเซลที่ผิดปกติ")

KPI (UAT protocol): ผู้ใช้ >= 80% จากกลุ่มตัวอย่าง 100 คน (สุ่มแบบ stratified ตามช่วงอายุ/ความคุ้นเคยสมาร์ทโฟน จากผู้ใช้ทดสอบที่ยินยอม) ต้องสามารถระบุบริเวณที่น่าสงสัยจาก Heatmap ได้โดยไม่ต้องมีพื้นฐานทางเทคนิค — วิธีวัด: ให้ดู overlay แล้วชี้บริเวณเสี่ยง เทียบกับ mask จริง (นับถูกเมื่อทับซ้อนบริเวณ flag ≥ 50%)

ความสัมพันธ์กับ SegFormer

โมเดล SegFormer สร้าง Segmentation Mask — แผนที่พิกเซล binary ที่ 1 = บริเวณที่น่าจะถูกดัดแปลง และ 0 = พิกเซลดั้งเดิม ชั้น XAI แปลง mask นี้เป็น heatmap ค่าต่อเนื่อง แล้วแต่งสีและ overlay ทับรูป ดูรายละเอียดสถาปัตยกรรมโมเดล

ภาพสังเคราะห์จาก AI กับ XAI

สำหรับภาพที่สร้างจาก AI ทั้งหมด ไม่มี "บริเวณที่ถูกตัดต่อ" แบบเฉพาะเจาะจง เพราะทั้งภาพถูกสังเคราะห์มา ในกรณีนี้ ผลลัพธ์ XAI จะเปลี่ยนไปแสดง feature ระดับ global ที่บ่งชี้ Generative AI แทน และคำอธิบายระบุว่า "ภาพมีลักษณะเป็น AI-Generated" แทนที่จะชี้บริเวณเฉพาะ

ประเด็นสำคัญ

  • Heatmap คือเทคนิค XAI หลักที่ใช้ในระบบ
  • Heatmap overlay คือ UX element สำคัญที่แยกแอปนี้ออกจากเครื่องมือที่แสดงแค่คะแนนตัวเลข
  • ออกแบบให้ผู้ใช้ทั่วไปเข้าใจได้โดยไม่ต้องมีความรู้นิติวิทยาศาสตร์
  • ภาพ overlay ถูกสร้างล่วงหน้าและเก็บไว้ ไม่ต้องคำนวณซ้ำตอนแสดงผล

หน้าที่เกี่ยวข้อง