Spot Instance คืออะไร? เหมาะกับงานแบบไหนและมีความเสี่ยงอะไร

Spot Instance คือทรัพยากรประมวลผล Cloud ราคาพิเศษที่ใช้กำลังประมวลผลส่วนเกินของผู้ให้บริการ แลกกับเงื่อนไขที่ผู้ให้บริการอาจเรียกคืนทรัพยากรได้เมื่อจำเป็น ชื่อบริการและรายละเอียดแตกต่างกันตามแต่ละ Cloud เช่น Spot Instances, Spot Virtual Machines หรือ Spot VMs

Spot เหมาะกับงานที่ทนต่อการหยุดชั่วคราวและเริ่มทำต่อได้ เช่น งานประมวลผลเป็นชุด การทดสอบ หรือการเรนเดอร์ แต่ไม่เหมาะกับระบบที่ต้องพร้อมใช้งานตลอดและสูญเสียงานระหว่างประมวลผลไม่ได้ การประหยัดจึงขึ้นอยู่กับการออกแบบให้ระบบรับมือกับการถูกเรียกคืนได้

❶ Spot Instance ทำงานอย่างไร

ผู้ให้บริการจัดสรรกำลังประมวลผลที่ยังว่างให้ในราคาตามเงื่อนไขของ Spot เมื่อจำเป็นต้องนำกำลังประมวลผลกลับมา ทรัพยากรอาจถูกหยุดหรือยกเลิกตามนโยบายของบริการนั้น

① สิ่งที่ควรรู้

  • ราคาหรือส่วนลดแตกต่างตามผู้ให้บริการ ประเภทเครื่อง และ Region
  • ความพร้อมใช้งานไม่เหมือนเครื่อง On-demand ทั่วไป
  • ผู้ให้บริการอาจเรียกคืนเครื่องได้ตามเงื่อนไข
  • บางบริการส่งสัญญาณเตือนก่อนหยุด แต่มีเวลาจำกัด
  • ดิสก์หรือ Storage ที่แยกจากเครื่องอาจยังมีค่าใช้จ่ายต่อ แม้เครื่องถูกหยุด

ตัวอย่างเช่น AWS EC2 อาจส่งเหตุการณ์แจ้งเตือนก่อน Spot Instance ถูกขัดจังหวะประมาณ 2 นาที ส่วน Google Cloud แนะนำให้ใช้ Spot VM กับงานที่ทนต่อการถูก Preempt ได้

❷ Spot เหมาะกับงานแบบไหน

งานที่เหมาะควรแบ่งเป็นหน่วยย่อย ทำซ้ำได้ หรือบันทึกความคืบหน้าไว้แล้วกลับมาทำต่อได้เมื่อเครื่องใหม่พร้อมใช้งาน

① ตัวอย่างงานที่เหมาะสม

  • ประมวลผลข้อมูลจำนวนมากแบบ Batch
  • ทดสอบซอฟต์แวร์หรือรันงาน CI/CD
  • เรนเดอร์ภาพ วิดีโอ หรือแอนิเมชัน
  • งานวิเคราะห์ข้อมูลที่แบ่งเป็นหลายชุด
  • งานคำนวณที่บันทึก Checkpoint ได้
  • Worker สำหรับคิวงานที่สามารถส่งงานกลับเข้าคิวเมื่อเครื่องหยุด

ควรกระจายงานไปยังหลายเครื่องหรือหลายกลุ่มทรัพยากร เพื่อไม่ให้การหยุดเครื่องเดียวทำให้งานทั้งหมดหยุดตามไปด้วย

❸ งานที่ไม่ควรพึ่ง Spot เพียงอย่างเดียว

Spot อาจไม่เหมาะกับบริการที่ต้องรักษาสถานะในเครื่อง หรือหยุดไม่ได้โดยไม่มีแผนสำรอง

① ตัวอย่างงานที่ควรระวัง

  • ฐานข้อมูลหลักที่ไม่มีระบบสำรองหรือ Replication
  • ระบบชำระเงินหรือธุรกรรมที่ต้องทำรายการให้เสร็จต่อเนื่อง
  • เซิร์ฟเวอร์ที่เก็บข้อมูลสำคัญไว้เฉพาะใน Local Disk
  • แอปพลิเคชันที่เชื่อมโยงเครื่องหลายตัวแบบแน่นหนา
  • ระบบที่ต้องรักษาเวลาตอบสนองหรือความพร้อมใช้งานตาม SLA
  • งานที่ใช้เวลานานแต่ไม่สามารถบันทึกและกู้ความคืบหน้าได้

AWS ระบุว่า Spot ไม่เหมาะกับงานที่มีสถานะในเครื่อง ทนต่อความผิดพลาดไม่ได้ หรือผูกการทำงานของหลายเครื่องเข้าด้วยกันอย่างแน่นหนา

❹ เตรียมแอปพลิเคชันให้รับมือกับการหยุดเครื่อง

ก่อนใช้ Spot ให้ปรับระบบให้สามารถหยุดและเริ่มใหม่ได้โดยไม่ทำข้อมูลเสียหาย เป้าหมายคือให้เครื่องหายไปได้โดยงานยังกลับมาทำต่อหรือถูกส่งให้เครื่องอื่นได้

① แนวทางออกแบบ

  • แยกข้อมูลสำคัญออกจาก Local Disk และเก็บในระบบจัดเก็บถาวร
  • ใช้คิวงานเพื่อแจกงานให้ Worker และส่งงานกลับเข้าคิวเมื่อทำไม่สำเร็จ
  • บันทึก Checkpoint เป็นระยะสำหรับงานที่ใช้เวลานาน
  • ออกแบบแอปให้ทำงานซ้ำได้โดยไม่สร้างข้อมูลซ้ำหรือธุรกรรมซ้ำ
  • ตั้ง Auto Scaling หรือกลไกสร้างเครื่องทดแทน
  • ตรวจเหตุการณ์แจ้งเตือนและปิดงานอย่างปลอดภัยเมื่อมีเวลา
  • ทดสอบการหยุดเครื่องจำลองก่อนใช้งานจริง

❺ เปรียบเทียบต้นทุนจริงก่อนเลือก

ราคาต่อเครื่องที่ต่ำกว่าไม่ได้รับประกันว่าต้นทุนรวมจะต่ำกว่าเสมอ ควรรวมเวลาที่งานต้องเริ่มใหม่ ค่า Storage ค่าเครือข่าย และเวลาของทีมที่ต้องดูแลระบบด้วย

① รายการที่ควรนำมาเปรียบเทียบ

  • ราคา Spot กับ On-demand สำหรับ Region และขนาดเครื่องเดียวกัน
  • จำนวนครั้งที่งานอาจถูกหยุดและต้องเริ่มใหม่
  • ค่าใช้จ่ายของดิสก์ Snapshot และข้อมูลสำรอง
  • ค่าใช้จ่ายของ Load Balancer หรือระบบสำรอง
  • ผลกระทบจากเวลาที่งานไม่เสร็จตามกำหนด
  • ความคุ้มค่าเมื่อกระจายงานหลาย Region หรือหลายประเภทเครื่อง

ใน Azure Spot VM สามารถกำหนดนโยบายเมื่อเครื่องถูก Evict เช่น Deallocate หรือ Delete ซึ่งส่งผลต่อการคงอยู่ของทรัพยากรประกอบและต้นทุน จึงควรตรวจการตั้งค่าก่อนใช้งาน

❻ วิธีเริ่มใช้ Spot อย่างปลอดภัย

เริ่มจากงานที่ไม่ใช่ระบบหลักและมีข้อมูลสำรอง จากนั้นทดลองให้เครื่องหยุดระหว่างประมวลผล เพื่อดูว่าระบบกู้คืนและทำงานต่อได้จริงหรือไม่

① ขั้นตอนแนะนำ

  1. เลือกงานที่ทนต่อการหยุดได้
  2. แยกข้อมูลถาวรออกจากเครื่อง Spot
  3. เปิดระบบบันทึก Checkpoint หรือใช้คิวงาน
  4. กำหนดวิธีสร้างเครื่องใหม่และส่งงานต่อ
  5. ทดสอบการหยุดเครื่องและตรวจความถูกต้องของผลลัพธ์
  6. เปรียบเทียบต้นทุนจริงกับ On-demand
  7. ขยายการใช้งานเมื่อระบบผ่านเกณฑ์ด้านความเสถียรและต้นทุน

ComSiam แนะนำให้ทดลองกับงานประมวลผลที่ไม่กระทบผู้ใช้ก่อน และบันทึกอัตราการหยุด เวลาที่งานเสียไป และค่าใช้จ่ายรวม เพื่อประเมินความคุ้มค่าจากข้อมูลจริง

❼ เช็กลิสต์ก่อนนำ Spot ไปใช้

  • งานสามารถหยุดและเริ่มใหม่ได้หรือไม่
  • มีการบันทึกข้อมูลและ Checkpoint ที่จำเป็นหรือยัง
  • ระบบไม่พึ่งข้อมูลสำคัญบน Local Disk เพียงจุดเดียวหรือไม่
  • มีคิวงานหรือเครื่องทดแทนเมื่อถูกหยุดหรือไม่
  • ทดสอบการหยุดเครื่องแล้วหรือยัง
  • ตรวจค่าใช้จ่ายของดิสก์และทรัพยากรประกอบแล้วหรือไม่
  • ระบบหลักยังมีความพร้อมใช้งานตามที่ธุรกิจกำหนดหรือไม่

Spot Instance ช่วยลดต้นทุนได้กับงานที่ยืดหยุ่นและทนต่อการหยุด แต่ต้องออกแบบให้ข้อมูลปลอดภัยและงานกลับมาทำต่อได้ อย่าใช้ราคาที่ต่ำกว่าเป็นเกณฑ์ตัดสินเพียงอย่างเดียว ควรชั่งน้ำหนักความเสี่ยง เวลาที่เสียไป และค่าใช้จ่ายประกอบทั้งหมด

ComSiam แนะนำให้ใช้ Spot เป็นส่วนหนึ่งของสถาปัตยกรรมสำหรับงานที่รับมือกับการถูกเรียกคืนได้ พร้อมคงทรัพยากร On-demand ไว้รองรับบริการที่ต้องทำงานต่อเนื่อง