Đọc metrics của giải pháp predictive scaling
Predictive Scaling
Từ những lượng truy cập, công việc mà hệ thống mà chúng ta sẽ nhận và gửi đi mỗi ngày, thì ASG có thể “dự đoán” được lượng truy cập, công việc đó trong khoảng nhiều ngày tới, từ đó giúp cho ASG sẽ phản ứng tốt hơn trong việc khởi tạo và huỷ các instances đi. Thông thường thì Predictive Scaling sẽ dược dùng với các loại scaling khác.
Tiến hành cấu hình
Giống ở phần trước, thì mình vẫn sẽ thực hiện scale in thủ công với ASG và chờ cho ASG xoá hết các instances mà dịch vụ này đã tạo.
Sau đó là xoá đi chính sách scaling tự động để tránh việc ảnh hưởng tới phần test này.
Tiếp theo, vào trong tab Activity, kéo xuống phần Predictive scaling policies và ấn Create predictive policy để tạo mới.
Trong biểu mẫu này, chúng ta sẽ cấu hình như sau:
- Policy details
- Name:
PredictCPUUtilizationAt15Percent(có thể đặt tên bất kì)
- Name:
- Turn on scaling: bật Scale based on forecast. Với chính sách scaling mang tính dự đoán, thì về bản chất là nó chỉ có dự đoán, nhưng mà chúng ta cũng có thể dùng nó để khởi tạo các instances.
Tiếp theo, trong phần Metric and target utilization
- Metrics: chọn Custom metric pair.
- Load metric: chọn Custom CloudWatch metric.
- Scaling metric: chọn Custom CloudWatch metric.
Các bạn sẽ thêm các custom metric json như sau
- Với Load metric
{
"CustomizedLoadMetricSpecification": {
"MetricDataQueries": [
{
"Label": "Total CPU Utilization in ASG",
"Id": "cpu_sum",
"MetricStat": {
"Metric": {
"MetricName": "WSCustomCPUUTILIZATION",
"Namespace": "FCJ Management Custom Metrics",
"Dimensions": [
{
"Name": "AutoScalingGroupName",
"Value": "FCJ-Management-ASG"
}
]
},
"Stat": "Sum"
},
"ReturnData": true
}
]
}
}
- Với Scaling metric
{
"CustomizedScalingMetricSpecification": {
"MetricDataQueries": [
{
"Label": "Average CPU Utilization in ASG",
"Id": "cpu_avg",
"MetricStat": {
"Metric": {
"MetricName": "WSCustomCPUUTILIZATION",
"Namespace": "FCJ Management Custom Metrics",
"Dimensions": [
{
"Name": "AutoScalingGroupName",
"Value": "FCJ-Management-ASG"
}
]
},
"Stat": "Average"
},
"ReturnData": true
}
]
}
}
Tiếp theo là tích chọn Add custom capacity metric.
Và tương tự như 2 bước ở trên, mình sẽ thêm custom metric json cho Capacity metric
{
"CustomizedCapacityMetricSpecification": {
"MetricDataQueries": [
{
"Label": "Number of instances in ASG",
"Id": "capacity_avg",
"MetricStat": {
"Metric": {
"MetricName": "WSCustomGroupInstances",
"Namespace": "FCJ Management Custom Metrics",
"Dimensions": [
{
"Name": "AutoScalingGroupName",
"Value": "FCJ-Management-ASG"
}
]
},
"Stat": "Average"
},
"ReturnData": true
}
]
}
}
Nếu như bạn có cấu hình ở bước 2.6 - Prepare metrics for predictive scaling trước đó, thì sau khi cấu hình xong, bạn sẽ thấy được 2 biểu đồ được hiển thị.
Ở phần Pre-launch instances trong phần Additional scaling settings - optional, chỉnh xuống 1 minutes. Ấn Create để tạo.
Giống với Dynamic, thì thông số Pre-launch instances này cũng sẽ ảnh hưởng tới thời điểm mà các instances sẽ được khởi tạo. Ví dụ như ASG dự đoán là lúc 23:00 giờ cao điểm, thì ASG sẽ dựa vào thông số này và tạo instance vào lúc 22:59 phút, theo như cấu hình.
Kiểm tra lại kết quả
Đọc metric từ dữ liệu mẫu
Vào trong chính sách đó, chúng ta sẽ đọc được 2 biểu đồ là Load và Capacity. Biểu đồ này cung cấp cho chúng ta về dữ liệu của các lưu lượng cũng như là số các instance đã dùng trong các ngày trước đó, từ đó thì nó đưa ra được dự đoán của các ngày tiếp theo, đươc biểu diễn bằng đường màu tím.
Biểu đồ được lấy theo giờ UTC + 0, và chúng ta đang ở múi giờ +7 nên chúng ta sẽ cần phải thêm 7 khi đọc các biểu đồ này.
Trước tiên, tập chung vào biểu đồ ở bên trái trước, vào thời điểm 15:00 (theo giờ của Việt Nam là 22:00) thì lượng chịu tải tổng là 164.546.
Và để hiểu được thông số trên là của cái gì thì chúng ta nhìn qua biểu đồ bên phải.
Chúng ta có thể thấy là vào thời điểm đó thì dự đoán sẽ có 13 instance được khởi tạo, và lượng tải dữ liệu kia sẽ tương ứng với số các instance đó.
Chúng ta có thể xem các thời điểm khác.
Nếu bạn có thể chờ được thời điểm được dự báo, thì vào trong phần tab Activity của ASG, chúng ta sẽ thấy được là ASG khởi tạo một instance mới vào lúc 21:59, 1 phút trước thời điểm 22:00 như đã dự đoán ở trên.
Kết luận
Chúng ta có thể kết hợp Predictive scaling với Dynamic scaling hoặc là các loại scaling khác để tăng độ linh hoạt cho ASG cũng như là độ tin cậy của hệ thống. Hệ thống nào cho lượng tải đồng đều theo thời gian thì sử dụng predictive để dự đoán cũng rất hợp lý.