- vừa được xem lúc

Câu chuyện cân bằng tải trên AWS

0 0 19

Người đăng: Pham Hieu

Theo Viblo Asia

Load Balancing trên AWS

Cân bằng tải - Load balancing là gì?

Load Balances có thể hiểu là các máy chủ phục vụ việc chuyển các requests (forward traffic) tới các đích đến khác nhau, ở đây có thể hiểu là các servers khác đang cung cấp dịch vụ (Ví dụ các máy chủ Amazon EC2).

what-is-load-balance

Vậy các bộ cân bằng tải có tác dụng gì?

Mặc dù có rất nhiều ứng dụng, tuy nhiên ở giai đoạn mở đầu, chúng ta có thể hiểu rằng cân bằng tải sẽ giúp phân phối các request từ người dùng đến các máy chủ khác nhau, nhằm tránh tình trạng một cụm server hoạt động như nhau nhưng server A thì bị quá tải trong khi các server khác thì lại đang dư thừa tài nguyên. Giống như một đầu mối phân chia công việc cho team, các bộ cân bằng tải sẽ đảm bảo cho không "nhân viên" nào phải nghỉ việc vì quá tải, cũng như không trả lương cho ông nào chỉ để ngồi chơi.

Tại sao nên sử dụng các bộ cân bằng tải?

Ở phần trên, có lẽ chúng ta cũng nắm được cơ bản ý tưởng vì sao cần dùng đến các bộ cân bằng tải, tuy nhiên về mặt kỹ thuật thì chúng có thể làm được những gì?

Các bộ cân bằng tải nói chung có thể thực hiện được nhiều công việc hơn là chỉ đơn thuần là một đầu mối phân phối các requests. Thông thường, một bộ cân bằng tải có thể đảm nhiệm được các vai trò như sau:

  • Phân phối các requests tới các máy chủ/instances khác nhau (Forward traffic), nhằm đảm bảo hệ thống có thể hoạt động bình thường khi lượng traffic tăng lên đột ngột (đạt đỉnh - peak) hoặc khi một số máy chủ bị lỗi, đồng thời đảm bảo việc sử dụng tài nguyên một cách hiệu quả, tránh lãng phí.
  • Cân bằng tải theo các thuật toán khác nhau, ví dụ như Round Robin, Least Connection, Least Time, IP Hash, ... nhằm tối ưu hóa theo bài toán mà doanh nghiệp gặp phải.
  • Expose ra một điểm truy cập duy nhất cho ứng dụng. Điều này có thể được hiểu là khi chúng ta cần gắn domain cho ứng dụng, bạn đơn giản là trỏ domain tới bộ cân bằng tải. Sau đó bộ cân bằng tải sẽ phân phối các requests tới các máy chủ/instances khác nhau. Điều này giúp chúng ta có thể nhanh chóng thực hiện chuyển đổi dự phòng khi một server gặp vấn đề, hay đơn giản là chuyển sang một server mới với ít thời gian downtime hơn so với việc cấu hình record DNS một cách thủ công.
  • Cung cấp các tính năng healthcheck, bảo mật như SSL termination (HTTPS), Sticky sessions, ... cũng như điều phối lưu lượng một cách hợp lý giữa các nhóm traffic khác nhau (Ví dụ các Public Traffic và Private Traffic).
  • Là một phần không thể thiếu khi thưc hiện các chiến lược High Availability & Scalability trên AWS.

Healthcheck là gì?

healthcheck

Healthcheck là một tính năng quan trọng của các bộ cân bằng tải. Nó cho phép chúng ta kiểm tra sức khỏe của các máy chủ/instances đang được cân bằng tải. Khi một máy chủ/instance nào đó không còn khả năng phục vụ các requests nữa, bộ cân bằng tải sẽ ngừng phân phối các requests tới máy chủ/instance đó, tránh làm request bị lỗi.

Healthcheck thực thi như thế nào?

Các bộ cân bằng tải sẽ định kỳ gửi các requests (gọi là request healthcheck) tới các máy chủ/instances đang được cân bằng tải. Nếu máy chủ/instance đó trả về response với HTTP status code 200, bộ cân bằng tải sẽ tiếp tục phân phối các requests tới máy chủ/instance đó. Ngược lại, nếu máy chủ/instance đó trả về response với HTTP status code khác 200 hoặc không phản hồi, bộ cân bằng tải sẽ ngừng phân phối các requests tới máy chủ/instance đó. Các API được gọi đến này thường được gọi là API Healthcheck, thường có path là /health hoặc /healthcheck, tuy nhiên chúng có thể được tùy biến dễ dàng.

Elastic Load Balancer (ELB) trên AWS là gì?

Elastic Load Balancer là các bộ cân bằng tải được cung cấp và quản lý bởi chính AWS. AWS sẽ đảm bảo chúng sẽ được hoạt động liên tục, cũng như chịu trách nhiệm upgrades, maintainance và giải quyết các bài toán high availability.
Chính vì được AWS quản lý từ A - Z như vậy nên AWS cũng chỉ cung cấp một số lượng hạn chế các cấu hình mà người dùng có thể tùy biến. Tuy nhiên trong đa phần các trường hợp, các cấu hình này là đủ dùng.

Nhìn chung, chi phí để setup một bộ cân bằng tải là không nhiều khi đem so sánh với các lợi ích mà nó đem lại.

Đối với các bộ Elastic Load Balancer trên AWS, chúng được AWS trang bị cho khả năng làm việc với hầu hết các dịch vụ phổ biến trên AWS, có thể kể đến các nhóm dưới đây:

  • EC2, EC2 Auto Scaling Groups, Amazon ECS.
  • AWS Certificate Manager (ACM), CloudWatch.
  • Route 53, AWS WAF, AWS Global Accelerator.

Layer - lớp mạng là gì?

Ở phần tiếp theo, chúng ta sẽ vài lần đã nhắc đến các lớp mạng - Layer trong các bộ cân bằng tải. Vậy các lớp mạng này có thể hiểu như thế nào?

  • Layer 1 - Physical Layer: là lớp mạng thấp nhất, nó đảm nhiệm việc truyền dữ liệu qua các kết nối vật lý như cáp, đường truyền, ...
  • Layer 2 - Data Link Layer: là lớp mạng bao gồm các quá trình phân giải MAC Address, các quá trình kiểm soát lỗi, và cả các dạng công nghệ như Ethernet hay Wifi được triển khai trên hạ tầng phần cứng.

Thông thường, Layer 1 và 2 liên quan đến các hệ thống nhúng (embedded systems) và các thiết bị mạng (network devices) như switch, router, ... nên không mấy quan trọng khi làm việc với AWS, ngoại trừ việc mất Internet.

  • Layer 3 - Network Layer: là lớp mạng đảm nhiệm việc định tuyến (routing) các gói tin dữ liệu. Các giao thức như IP, ICMP, ARP, ... đều hoạt động ở lớp này. Gateway Load Balancer (GWLB) cũng là bộ cân bằng tải duy nhất hoạt động ở Layer 3.
  • Layer 4 - Transport Layer: Là lớp mạng đảm bảo tính an toàn, ổn định của việc truyền tài dữ liệu trên mạng. Lớp này bao gồm các giao thức TCP (Transmission Control Protocol) và UDP (User Datagram Protocol). Classic Load Balancer (CLB)Network Load Balancer (NLB) là các bộ cân bằng tải hoạt động trên lớp này.
  • Layer 5 - Session Layer: Là lớp mạng quản lý các session hoặc quản lý quá trình giao tiếp giữa các ứng dụng trên các thiết bị khác nhau. Chúng đảm nhiệm việc Establishes, duy trì cũng như ngắt các session nói trên.
  • Layer 6 - Presentation Layer: Là lớp mạng đảm nhiệm việc mã hóa, giải mã, nén, giải nén, ... các dữ liệu trước khi chúng được truyền đi.
  • Layer 7 - Application Layer: Là lớp mạng đảm nhiệm việc xử lý các dữ liệu trên các ứng dụng. Các giao thức như HTTP (Hypertext Transfer Protocol), SMTP (Simple Mail Transfer Protocol) ... đều hoạt động ở lớp này. Classic Load Balancer (CLB)Application Load Balancer (ALB) là các bộ cân bằng tải hoạt động trên lớp này.

Các loại cân bằng tải trên AWS

Elastic Load Balancer là khái niệm chung để chỉ các bộ cân bằng tải trên AWS.

Từ trước đến nay, AWS cung cấp cho chúng ta 4 loại Load Balancers khác nhau (trong đó có 3 loại vẫn còn đang được sử dụng), mỗi loại có những ưu điểm và hạn chế riêng và được phân chia theo các lớp mạng mà chúng hoạt động.

  • Classic Load Balancer (CLB) (v1 - thế hệ cũ) – 2009: Cân bằng tải ở lớp TCP, cho phép điều phối các request dạng HTTP, HTTPS, TCP, SSL (secure TCP). Loại cân bằng tải này đã bị loại bỏ và được thay thế bởi các thế hệ kế tiếp ở phía dưới. Đây cũng là ALB phổ biến và hay được sử dụng nhất.
  • Application Load Balancer (ALB) (v2 - thế hệ mới) – 2016: Được sinh ra để thay thế và là thế hệ tiếp sau của CLB, ALB hoạt động tương tự như CLB, chúng hoạt động ở lớp ứng dụng, giúp điều phối các request dạng HTTP, HTTPS, WebSocket.
  • Network Load Balancer (NLB) (v2 - thế hệ mới) – 2017: Khác với ALB, NLB được sinh ra để hoạt động ở lớp các giao thức mạng, cho phép điều phối các request ở tầng thấp hơn như TCP, TLS (secure TCP), UDP.
  • Gateway Load Balancer (GWLB) - 2020: GWLB chủ yếu hoạt động ở Layer 3 (Network Layer) - hay nói cách khác là hoạt động ở các lớp mạng (IP Protoco).

Về Security Groups cho các bộ cân bằng tải

sec-groups

Thông thường, các bộ cân bằng tải nên được gắn vào các security groups riêng biệt, và chúng cũng được cấu hình tương tự như khi làm việc với security group của các dịch vụ khác trên AWS.

Một điểm cần lưu ý là đối với các máy chủ/instances được kết nối tới các bộ cân bằng tải, chúng nên được cấu hình Security Group sao cho Allow traffic only from Load Balancer, điều này giúp các bộ cân bằng tải có thể hoạt động hiệu quả nhất, tránh các trường hợp ngoài ý muốn có thể xảy đến.

Bình luận

Bài viết tương tự

- vừa được xem lúc

PDF Export, cẩn thận với những input có thể truyền vào

Giới thiệu. Dạo gần đây mình tình cờ gặp rất nhiều lỗi XSS, tuy nhiên trang đó lại có sử dụng dữ liệu người dùng input vào để export ra PDF.

0 0 66

- vừa được xem lúc

Giới thiệu về AWS Batch

Khi sử dụng hệ thống cloud service, điều chúng ta thường phải quan tâm đến không chỉ là hiệu suất hoạt động (performance) mà còn phải chú ý đến cả chi phí bỏ ra để duy trì hoạt động của hệ thống. Chắn hẳn là hệ thống lớn hay nhỏ nào cũng đã từng phải dùng đến những instance chuyên để chạy batch thực

0 0 143

- vừa được xem lúc

Tìm hiểu về AWS KMS

1. AWS KMS là gì. Ở KMS bạn có thể lựa chọn tạo symetric key (khóa đối xứng) hoặc asymetric key (khóa bất đối xứng) để làm CMK (Customer Master Key). Sau khi tạo key thì có thể thiết đặt key policy để control quyền access và sử dụng key.

0 0 66

- vừa được xem lúc

AWS VPC cho người mới bắt đầu

Tuần này, tôi trình bày lại những gì tôi đã học được về Virtual Private Cloud (VPC) của Amazon. Nếu bạn muốn xem những gì tôi đã học được về AWS, hãy xem Tổng quan về DynamoDB và Tổng quan về S3. VPC là gì. Những điều cần lưu ý:.

0 0 84

- vừa được xem lúc

AWS Essentials (Phần 6): Guildline SNS Basic trên AWS

Tiếp tục với chuỗi bài viết về Basic AWS Setting, chúng ta tiếp tục tìm hiểu tiếp tới SNS (Simple Notification Service). Đây là một service của AWS cho phép người dùng setting thực hiện gửi email, text message hay push notification tự động tới mobile device dựa trên event người dùng setting phía AWS

0 0 145

- vừa được xem lúc

Sử dụng Amazon CloudFront Content Delivery Network với Private S3 Bucket — Signing URLs

Trong nhiều trường hợp, thì việc sử dụng CDN là bắt buộc. Mình đã trải nghiệm với một số CDN nhưng cuối cùng mình lựa chọn sử dụng AWS CloudFront.

0 0 118