Thêm các hàm vào hàng đợi bằng Cloud Tasks


Các hàm hàng đợi tác vụ tận dụng Cloud Tasks của Google để giúp ứng dụng của bạn chạy các tác vụ tốn thời gian, tốn nhiều tài nguyên hoặc bị giới hạn băng thông một cách không đồng bộ, bên ngoài luồng ứng dụng chính.

Ví dụ: giả sử bạn muốn tạo bản sao lưu cho một nhóm lớn các tệp hình ảnh hiện đang được lưu trữ trên một API có giới hạn về tốc độ. Để trở thành một người dùng có trách nhiệm của API đó, bạn cần phải tuân thủ giới hạn tỷ lệ của họ. Ngoài ra, loại công việc chạy trong thời gian dài này có thể dễ gặp lỗi do hết thời gian chờ và giới hạn bộ nhớ.

Để giảm bớt sự phức tạp này, bạn có thể viết một hàm hàng đợi tác vụ đặt các lựa chọn cơ bản cho tác vụ như scheduleTimedispatchDeadline, sau đó chuyển hàm này sang một hàng đợi trong Cloud Tasks. Môi trường Cloud Tasks được thiết kế riêng để đảm bảo các chính sách kiểm soát tình trạng tắc nghẽn và thử lại hiệu quả cho các loại hoạt động này.

Firebase SDK cho Cloud Functions for Firebase phiên bản 3.20.1 trở lên tương tác với Firebase Admin SDK phiên bản 10.2.0 trở lên để hỗ trợ các chức năng hàng đợi tác vụ.

Việc sử dụng các hàm hàng đợi tác vụ với Firebase có thể dẫn đến các khoản phí xử lý Cloud Tasks. Hãy xem phần Giá của Cloud Tasks để biết thêm thông tin.

Tạo các hàm hàng đợi tác vụ

Để sử dụng các hàm hàng đợi tác vụ, hãy làm theo quy trình sau:

  1. Viết một hàm hàng đợi tác vụ bằng cách sử dụng SDK Firebase cho Cloud Functions.
  2. Kiểm thử hàm bằng cách kích hoạt hàm đó bằng một yêu cầu HTTP.
  3. Triển khai hàm bằng CLI Firebase. Khi triển khai hàm hàng đợi tác vụ lần đầu tiên, CLI sẽ tạo một hàng đợi tác vụ trong Cloud Tasks với các lựa chọn (giới hạn tốc độ và thử lại) được chỉ định trong mã nguồn của bạn.
  4. Thêm các tác vụ vào hàng đợi tác vụ mới tạo, truyền các tham số để thiết lập lịch thực thi nếu cần. Bạn có thể thực hiện việc này bằng cách viết mã bằng Admin SDK và triển khai mã đó đến Cloud Functions for Firebase.

Viết các hàm hàng đợi tác vụ

Sử dụng onDispatch để bắt đầu viết các hàm hàng đợi tác vụ. Một phần quan trọng của việc viết hàm hàng đợi tác vụ là thiết lập cấu hình giới hạn tốc độ và số lần thử lại cho mỗi hàng đợi. Các mẫu mã trên trang này dựa trên một ứng dụng thiết lập dịch vụ sao lưu tất cả hình ảnh từ Hình ảnh thiên văn học trong ngày của NASA:

Định cấu hình các hàm hàng đợi tác vụ

Các hàm hàng đợi tác vụ đi kèm với một bộ chế độ cài đặt cấu hình mạnh mẽ để kiểm soát chính xác giới hạn tốc độ và hành vi thử lại của hàng đợi tác vụ:

exports.backupApod = functions
    .runWith( {secrets: ["NASA_API_KEY"]})
    .tasks.taskQueue({
      retryConfig: {
        maxAttempts: 5,
        minBackoffSeconds: 60,
      },
      rateLimits: {
        maxConcurrentDispatches: 6,
      },
    }).onDispatch(async (data) => {
  • retryConfig.maxAttempts=5: Mỗi tác vụ trong hàng đợi tác vụ sẽ tự động được thử lại tối đa 5 lần. Điều này giúp giảm thiểu các lỗi tạm thời như lỗi mạng hoặc sự cố gián đoạn dịch vụ tạm thời của một dịch vụ bên ngoài, phụ thuộc.
  • retryConfig.minBackoffSeconds=60: Mỗi tác vụ được thử lại ít nhất 60 giây sau mỗi lần thử. Điều này giúp tạo ra một khoảng đệm lớn giữa mỗi lần thử lại để chúng ta không vội vàng sử dụng hết 5 lần thử lại quá nhanh.
  • rateLimits.maxConcurrentDispatch=6: Tại một thời điểm nhất định, có tối đa 6 tác vụ được gửi đi. Điều này giúp đảm bảo luồng yêu cầu ổn định cho hàm cơ bản, đồng thời giúp giảm số lượng phiên bản đang hoạt động và lượt khởi động nguội.

Kiểm thử các hàm hàng đợi tác vụ

Trong hầu hết các trường hợp, trình mô phỏng Cloud Functions là cách tốt nhất để kiểm thử các hàm hàng đợi tác vụ. Hãy xem tài liệu về Emulator Suite để tìm hiểu cách đo lường ứng dụng của bạn cho hoạt động mô phỏng các chức năng hàng đợi tác vụ.

Ngoài ra, các hàm hàng đợi tác vụ được hiển thị dưới dạng các hàm HTTP đơn giản trong Firebase Local Emulator Suite. Bạn có thể kiểm thử một hàm tác vụ được mô phỏng bằng cách gửi yêu cầu HTTP POST kèm theo tải trọng dữ liệu json:

 # start the Firebase Emulators
 firebase emulators:start

 # trigger the emulated task queue function
 curl \
  -X POST                                            # An HTTP POST request...
  -H "content-type: application/json" \              # ... with a JSON body
  http://localhost:$PORT/$PROJECT_ID/$REGION/$NAME \ # ... to function url
  -d '{"data": { ... some data .... }}'              # ... with JSON encoded data

Triển khai các hàm hàng đợi tác vụ

Triển khai hàm hàng đợi tác vụ bằng Giao diện dòng lệnh (CLI) của Firebase:

$ firebase deploy --only functions:backupApod

Khi triển khai hàm hàng đợi tác vụ lần đầu tiên, CLI sẽ tạo một hàng đợi tác vụ trong Cloud Tasks với các lựa chọn (giới hạn tốc độ và thử lại) được chỉ định trong mã nguồn của bạn.

Nếu bạn gặp lỗi về quyền khi triển khai các hàm, hãy đảm bảo rằng các vai trò IAM thích hợp được chỉ định cho người dùng chạy các lệnh triển khai.

Thêm các hàm hàng đợi tác vụ vào hàng đợi

Bạn có thể xếp hàng các hàm hàng đợi tác vụ trong Cloud Tasks từ một môi trường máy chủ đáng tin cậy như Cloud Functions for Firebase bằng cách sử dụng Firebase Admin SDK cho Node.js. Nếu bạn mới sử dụng Admin SDK, hãy xem phần Thêm Firebase vào một máy chủ để bắt đầu.

Trong một quy trình thông thường, Admin SDK sẽ tạo một tác vụ mới, đưa tác vụ đó vào hàng đợi trong Cloud Tasks và đặt cấu hình cho tác vụ:

exports.enqueueBackupTasks = functions.https.onRequest(
async (_request, response) => {
  const queue = getFunctions().taskQueue("backupApod");
  const enqueues = [];
  for (let i = 0; i <= 10; i += 1) {
    // Enqueue each task with i*60 seconds delay. Our task queue function
    // should process ~1 task/min.
    const scheduleDelaySeconds = i * 60 
    enqueues.push(
        queue.enqueue(
          { id: `task-${i}` },
          {
            scheduleDelaySeconds,
            dispatchDeadlineSeconds: 60 * 5 // 5 minutes
          },
        ),
    );
  }
  await Promise.all(enqueues);
  response.sendStatus(200);

});
  • scheduleDelaySeconds: Mã mẫu cố gắng phân tán việc thực thi các tác vụ bằng cách liên kết độ trễ N phút cho tác vụ thứ N. Điều này có nghĩa là bạn sẽ kích hoạt khoảng 1 tác vụ/phút. Xin lưu ý rằng bạn cũng có thể sử dụng scheduleTime nếu muốn Cloud Tasks kích hoạt một tác vụ vào một thời điểm cụ thể.
  • dispatchDeadlineSeconds: Khoảng thời gian tối đa mà Cloud Tasks sẽ chờ một tác vụ hoàn tất. Cloud Tasks sẽ thử lại tác vụ theo cấu hình thử lại của hàng đợi hoặc cho đến khi đạt đến thời hạn này. Trong mẫu, hàng đợi được định cấu hình để thử lại tác vụ tối đa 5 lần, nhưng tác vụ sẽ tự động bị huỷ nếu toàn bộ quy trình (bao gồm cả các lần thử lại) mất hơn 5 phút.

Khắc phục sự cố

Bật tính năng ghi nhật ký Cloud Tasks

Nhật ký từ Cloud Tasks chứa thông tin chẩn đoán hữu ích, chẳng hạn như trạng thái của yêu cầu liên kết với một tác vụ. Theo mặc định, nhật ký từ Cloud Tasks sẽ bị tắt do số lượng lớn nhật ký mà nó có thể tạo trên dự án của bạn. Bạn nên bật nhật ký gỡ lỗi trong khi đang tích cực phát triển và gỡ lỗi các hàm hàng đợi tác vụ. Xem phần Bật tính năng ghi nhật ký.

Quyền IAM

Bạn có thể thấy lỗi PERMISSION DENIED khi xếp hàng các tác vụ hoặc khi Cloud Tasks cố gắng gọi các hàm hàng đợi tác vụ của bạn. Đảm bảo rằng dự án của bạn có các liên kết IAM sau:

gcloud projects add-iam-policy-binding $PROJECT_ID \
  --member=serviceAccount:${PROJECT_ID}@appspot.gserviceaccount.com \
  --role=roles/cloudtasks.enqueuer
  • Danh tính dùng để xếp hàng các tác vụ vào Cloud Tasks cần có quyền sử dụng tài khoản dịch vụ được liên kết với một tác vụ trong Cloud Tasks.

    Trong mẫu này, đây là tài khoản dịch vụ mặc định App Engine.

Hãy xem tài liệu về IAM của Google Cloud để biết hướng dẫn về cách thêm tài khoản dịch vụ mặc định App Engine làm người dùng của tài khoản dịch vụ mặc định App Engine.

gcloud functions add-iam-policy-binding $FUNCTION_NAME \
  --region=us-central1 \
  --member=serviceAccount:${PROJECT_ID}@appspot.gserviceaccount.com \
  --role=roles/cloudfunctions.invoker