A10 AI Gateway sẽ thành lớp điều khiển hoạt động AI doanh nghiệp

Theo Gateway, A10 AI Gateway sẽ mang đến khả năng định tuyến hợp nhất, quản lý chi phí và quản trị trên toàn bộ các tác tử AI (AI agent), ứng dụng và mô hình ngôn ngữ lớn (LLM) mà doanh nghiệp đang sử dụng.

Giải pháp cũng giúp tập trung hóa khả năng giám sát mức độ sử dụng AI, tối ưu chi phí, kiểm soát truy cập và tăng cường bảo mật, qua đó hỗ trợ doanh nghiệp khai thác AI hiệu quả và an toàn hơn.

Trong bối cảnh AI ngày càng được ứng dụng rộng rãi, các doanh nghiệp đang đẩy nhanh việc tích hợp tác tử AI và năng lực AI tạo sinh vào những ứng dụng nghiệp vụ. Song song đó, việc sử dụng cùng lúc nhiều nhà cung cấp và nhiều mô hình AI khiến tổ chức ngày càng khó nắm được mô hình nào đang được dùng, chi phí bao nhiêu, và liệu các cơ chế quản trị cũng như bảo mật đã được thiết lập phù hợp hay chưa.

Chưa kể, các tổ chức sẽ có những yêu cầu gửi tới AI rất khác nhau, từ những tác vụ xử lý đơn giản cho đến khối lượng công việc đòi hỏi khả năng suy luận nâng cao. Vì vậy, doanh nghiệp cần một nền tảng quản lý có thể tối ưu hiệu năng AI, giảm độ trễ, tinh gọn vận hành bảo mật và kiểm soát chi phí liên quan đến AI.

Đứng trước những thách thức đó, A10 AI Gateway sẽ hợp nhất toàn bộ hoạt động sử dụng AI của tổ chức về một nền tảng quản lý duy nhất, tạo ra môi trường để doanh nghiệp vận hành AI một cách hiệu quả và an toàn.

A10 AI Gateway sẽ là lớp điều khiển thông minh cho toàn bộ hoạt động AI của doanh nghiệp

Cụ thể, thì A10 AI Gateway là lớp điều khiển thông minh cung cấp khả năng định tuyến hợp nhất, quản lý chi phí và quản trị trên toàn bộ tác tử AI, ứng dụng và mô hình ngôn ngữ lớn mà tổ chức đang sử dụng.

Giải pháp lựa chọn mô hình AI phù hợp dựa trên nội dung của từng yêu cầu và các chính sách được áp dụng, đồng thời tập trung hóa khả năng giám sát mức độ sử dụng và chi phí AI. Nhờ đó, doanh nghiệp có thể tối ưu hiệu năng, kiểm soát chi phí, củng cố bảo mật và triển khai quản trị, trong khi đội ngũ phát triển cùng người dùng vẫn tiếp cận được đúng mô hình AI mà họ cần.

Để có thể làm được điều này, A10 AI Gateway đã được trang bị loạt tính năng như:

Trước hết, truy cập AI dựa trên danh tính: Đồng bộ với hệ thống thư mục (directory) sẵn có của doanh nghiệp để áp dụng chính sách truy cập và định tuyến theo từng người dùng hoặc từng nhóm. Chẳng hạn, tổ chức có thể thiết lập các mô hình AI và chính sách sử dụng khác nhau cho bộ phận kỹ thuật và bộ phận tài chính.

Tiếp theo, định tuyến thông minh: Vượt lên trên các chính sách định tuyến tĩnh và cơ chế đo đếm yêu cầu đơn thuần, A10 AI Gateway đánh giá mức độ phức tạp và loại hình của từng yêu cầu. Hệ thống tự động chuyển những tác vụ đơn giản đến các mô hình tiết kiệm chi phí hơn, và chuyển những tác vụ đòi hỏi suy luận nâng cao đến các mô hình có năng lực cao hơn.

Cùng với đó, quản lý tập trung lưu lượng và chi phí: Với vai trò lớp điều khiển trung tâm, A10 AI Gateway cung cấp khả năng theo dõi chi phí theo từng yêu cầu theo thời gian thực (tính bằng USD); quản lý ngân sách token theo từng mô hình và từng nhóm với giới hạn cứng cùng cảnh báo ngưỡng mềm; và kiểm soát mức sử dụng (TPM/RPM) theo khóa truy cập hoặc theo nhóm. Điều này giúp tập trung hóa khả năng giám sát mức độ sử dụng cũng như chi phí AI, đồng thời hỗ trợ công tác quản trị hiệu quả.

Bên cạnh đó, tích hợp với danh mục giải pháp bảo mật AI của A10: A10 AI Gateway bổ trợ cho danh mục giải pháp bảo mật AI hiện có của A10, bao gồm TrojAI, A10 AI Firewall và ThreatX. Giải pháp hỗ trợ bảo mật xuyên suốt vòng đời AI, từ khâu kiểm thử trước triển khai, bảo vệ trong lúc vận hành, cho đến các biện pháp kiểm soát ở lớp mạng và lớp API.

Cuối cùng, triển khai linh hoạt ngay trong hạ tầng của khách hàng: A10 AI Gateway được cung cấp dưới dạng phần mềm độc lập hoặc đi kèm phần cứng tích hợp, và có thể vận hành hoàn toàn trong môi trường của chính khách hàng, bao gồm hạ tầng tại chỗ (on-premises), đám mây riêng và cả môi trường cô lập hoàn toàn (air-gapped). Nhờ đó, doanh nghiệp duy trì quyền kiểm soát đối với mô hình, dữ liệu và chính sách của mình, đồng thời bảo đảm chủ quyền dữ liệu – lợi thế mà các giải pháp gateway chạy trên đám mây hoặc giới hạn ở biên mạng không thể đáp ứng.

Đánh giá về A10 AI Gateway, ông Dhrupad Trivedi, Chủ tịch kiêm Tổng Giám đốc A10 Networks, cho biết: "Các doanh nghiệp hiện phải vừa triển khai AI thật nhanh, vừa giữ được quyền kiểm soát. Việc sử dụng AI đang lan rộng nhanh hơn tốc độ mà các đội ngũ có thể phát hiện, quản trị hay bảo vệ, khiến chi phí tăng lên và không còn một đầu mối duy nhất để thiết lập quy tắc. A10 AI Gateway mang đến cho tổ chức một lớp điều khiển thông minh duy nhất để nhìn rõ AI đang được sử dụng ra sao, quản trị việc ai được truy cập mô hình nào, và khớp mỗi yêu cầu với đúng mô hình ở đúng mức chi phí. Danh mục giải pháp tích hợp của chúng tôi mang lại cho khách hàng một phương thức trọn vẹn và tự chủ để đưa AI vào vận hành ở quy mô lớn. Đó là cách doanh nghiệp ứng dụng AI một cách tự tin, thay vì phải đánh đổi tốc độ lấy quyền kiểm soát."

A10 AI Gateway dự kiến được đưa ra thị trường từ quý 4/2026.

Theo tạp chí Điện tử và Ứng dụng