วิธีออกแบบระบบ Cloud ให้รองรับผู้ใช้จำนวนมาก

การออกแบบระบบ Cloud ให้รองรับผู้ใช้จำนวนมาก ต้องวางแผนมากกว่าการเพิ่มขนาดเซิร์ฟเวอร์ ควรประเมินปริมาณการใช้งาน กระจายคำขอ ลดงานซ้ำที่ไม่จำเป็น และตรวจหาคอขวดในแอปกับฐานข้อมูล การทดสอบก่อนเปิดใช้งานช่วยให้รู้ว่าระบบรับโหลดได้ระดับใดและควรเพิ่มทรัพยากรตรงไหน

❶ ประเมินรูปแบบการใช้งาน

① คาดการณ์จำนวนผู้ใช้และคำขอช่วงปกติ
② ระบุช่วงที่คาดว่าจะมีผู้ใช้สูง เช่น แคมเปญหรือวันเปิดตัว
③ แยกฟังก์ชันที่มีผู้ใช้มากออกจากงานเบื้องหลัง
④ กำหนดเวลาในการตอบสนองและระดับความพร้อมใช้งานที่ต้องการ
⑤ คาดการณ์การเติบโตของข้อมูลและจำนวนการเชื่อมต่อฐานข้อมูล

ควรใช้ข้อมูลจากการใช้งานจริงหรือแผนธุรกิจประกอบการประมาณ แทนการเลือกเครื่องขนาดใหญ่โดยไม่มีตัวเลขรองรับ

❷ กระจายคำขอและเพิ่มกำลังประมวลผล

① ใช้ Load Balancer กระจายคำขอไปยังแอปหลายชุด
② ออกแบบแอปให้เพิ่มจำนวนเครื่องหรือ Instance ได้
③ ใช้ Autoscaling ตามตัวชี้วัดที่สะท้อนภาระงาน
④ กำหนดขนาดต่ำสุดและสูงสุดเพื่อควบคุมทั้งความพร้อมใช้งานและค่าใช้จ่าย
⑤ ตรวจสุขภาพของแอปก่อนส่งคำขอไปยัง Instance

การขยายระบบแบบเพิ่มจำนวนเครื่องเรียกว่า Horizontal Scaling ส่วนการเพิ่มทรัพยากรให้เครื่องเดิมเป็น Vertical Scaling ระบบอาจใช้ทั้งสองวิธีตามข้อจำกัดของแอป

❸ ลดภาระที่ไม่จำเป็นด้วย Cache และ CDN

① ใช้ CDN ส่งไฟล์ภาพ CSS, JavaScript และเนื้อหาคงที่จากจุดที่ใกล้ผู้ใช้
② ใช้ Cache กับข้อมูลที่ถูกเรียกซ้ำบ่อยและไม่เปลี่ยนตลอดเวลา
③ กำหนดอายุ Cache และวิธีล้าง Cache เมื่อข้อมูลเปลี่ยน
④ หลีกเลี่ยงการ Cache ข้อมูลส่วนตัวหรือข้อมูลที่ต้องแสดงเฉพาะผู้ใช้
⑤ ตรวจผลกระทบต่อฐานข้อมูลและเวลาในการตอบสนองหลังเปิด Cache

การ Cache ช่วยลดงานซ้ำได้ แต่ต้องเลือกข้อมูลให้เหมาะ ไม่เช่นนั้นผู้ใช้อาจเห็นข้อมูลเก่าหรือข้อมูลของผู้ใช้อื่น

❹ ออกแบบฐานข้อมูลและงานเบื้องหลัง

① ตรวจ Query และดัชนีที่ใช้บ่อย
② จำกัดจำนวนการเชื่อมต่อพร้อมกันให้เหมาะกับฐานข้อมูล
③ แยกงานที่ใช้เวลานานไปทำใน Queue หรือ Worker
④ แบ่งข้อมูลหรือปรับโครงสร้างเมื่อข้อมูลโตจนเริ่มเป็นคอขวด
⑤ สำรองข้อมูลและทดสอบการกู้คืน

เพิ่มจำนวนเว็บเซิร์ฟเวอร์อย่างเดียวอาจไม่ช่วย หากคอขวดอยู่ที่ Query ฐานข้อมูลหรือบริการภายนอก ควรติดตามเวลาและปริมาณงานของแต่ละส่วนแยกกัน

❺ ทำให้ระบบรับมือกับโหลดและความขัดข้อง

① กำหนด Timeout และจำนวนครั้งที่ลองเรียกซ้ำ
② ใช้ Backoff เมื่อต้องเรียกบริการที่ตอบช้าหรือมีข้อผิดพลาดชั่วคราว
③ จำกัดคำขอหรือใช้ Rate Limit เมื่อมีปริมาณเกินกำลัง
④ แยกส่วนประกอบเพื่อให้ปรับขนาดและแก้ปัญหาได้เป็นส่วน ๆ
⑤ วางแผนการทำงานเมื่อบริการภายนอกหรือบาง Instance ใช้งานไม่ได้

ComSiam แนะนำให้ทดสอบ Load ในสภาพแวดล้อมที่เหมาะสมก่อนเปิดระบบจริง และติดตามทั้งเวลาในการตอบสนอง อัตราข้อผิดพลาด และค่าใช้จ่ายขณะทดสอบ

❻ ติดตามผลและปรับระบบต่อเนื่อง

① สร้าง Dashboard สำหรับ CPU, หน่วยความจำ, Network และฐานข้อมูล
② ตั้ง Alert เมื่อเวลาในการตอบสนองหรือข้อผิดพลาดเกินเกณฑ์
③ ตรวจ Log เพื่อหาสาเหตุของคำขอที่ล้มเหลว
④ ทดสอบโหลดหลายรูปแบบ รวมถึงช่วงที่มีคำขอเพิ่มขึ้นเร็ว
⑤ ปรับระบบทีละจุดและเปรียบเทียบผลก่อนกับหลัง

❼ สรุป

ระบบ Cloud ที่รองรับผู้ใช้จำนวนมากควรกระจายโหลด เพิ่มทรัพยากรได้ตามความต้องการ ลดคำขอซ้ำ และเตรียมฐานข้อมูลกับงานเบื้องหลังให้รองรับปริมาณงาน ควรทดสอบและตรวจ Metrics, Log, ค่าใช้จ่าย และจุดคอขวดอย่างต่อเนื่อง เพื่อปรับระบบตามการใช้งานจริง