Cisco và NVIDIA ra mắt Secure AI Factory, rút ngắn triển khai AI từ tháng xuống tuần

Theo Cisco, giải pháp Secure AI Factory kết hợp cùng NVIDIA sẽ mang đến cho khách hàng một khuôn khổ triển khai AI trên toàn bộ hạ tầng, từ các trung tâm dữ liệu đến các môi trường biên nơi dữ liệu được tạo và các quyết định được đưa ra.

Theo đó, các doanh nghiệp, nhà cung cấp neocloud, sovereign cloud và các nhà cung cấp dịch vụ hiện có thể đưa AI từ giai đoạn thử nghiệm sang triển khai ở quy mô sản xuất mà không cần phải ghép nối các hệ thống rời rạc. Giải pháp này giúp rút ngắn thời gian triển khai từ vài tháng xuống còn vài tuần, đồng thời tích hợp các yếu tố bảo mật ngay khi bắt đầu.

Kiến trúc cho phép doanh nghiệp triển khai AI quy mô lớn trên toàn hệ thống, từ trung tâm dữ liệu đến sản xuất, với hiệu năng cao và bảo mật đảm

“Phần lớn các tổ chức đều nhận thấy tiềm năng của AI trong việc chuyển đổi hoạt động kinh doanh, tuy nhiên vẫn đang tìm cách triển khai công nghệ này một cách an toàn và ở quy mô lớn. Thông qua hợp tác với NVIDIA, chúng tôi đang giải quyết thách thức này bằng một kiến trúc thiết lập mới với tiêu chuẩn cao hơn về hiệu năng, đồng thời giúp việc triển khai, vận hành và bảo mật hạ tầng AI trở nên đơn giản hơn.” Ông Chuck Robbins, Chủ tịch kiêm Tổng Giám đốc Cisco, cho biết.

Bên cạnh đó, ông Jensen Huang, Nhà sáng lập kiêm Tổng Giám đốc NVIDIA chia sẻ rằng: “Các nhà máy AI (AI factory) đang thúc đẩy quá trình chuyển đổi trong mọi ngành công nghiệp, và yếu tố bảo mật cần được tích hợp ở mọi lớp – từ phần cứng đến phần mềm – nhằm bảo vệ dữ liệu, ứng dụng và hạ tầng. NVIDIA và Cisco đang cùng xây dựng nền tảng hạ tầng AI an toàn từ lõi đến biên (core-to-edge), giúp doanh nghiệp tự tin mở rộng năng lực AI.”

Khi AI ở khắp mọi nơi, thì hoạt động suy luận AI (AI inference) sẽ diễn ra tại chính nơi dữ liệu được tạo ra và các quyết định cần được đưa ra ngay lập tức, từ khu vực điều trị trong bệnh viện cho đến việc phân tích video theo thời gian thực tại nhà máy, nhằm đảm bảo an toàn cho người lao động. Thực tế này đang định hình lại cách xây dựng hạ tầng công nghệ, khi các tác vụ suy luận AI cần được vận hành ngay tại chỗ, gần hơn với dữ liệu, thiết bị và ngay tại thời điểm cần đưa ra quyết định. Điều đó giúp:

Thúc đẩy chuyển đổi tại biên của doanh nghiệp, việc hỗ trợ GPU NVIDIA RTX PRO™ 4500 Blackwell Server Edition trên các nền tảng Cisco UCS và Cisco Unified Edge sẽ giúp doanh nghiệp vận hành các khối lượng công việc AI quan trọng ngay tại biên, mà không cần hạ tầng phần cứng quy mô trung tâm dữ liệu tiêu tốn nhiều năng lượng và không gian.

Thúc đẩy chuyển đổi tại biên của nhà cung cấp dịch vụ. Các thiết kế tham chiếu Cisco AI Grid với NVIDIA cho thấy, kết hợp sức mạnh của Cisco Mobility Services Platform (Tạm dịch: Nền tảng Dịch vụ Di động Cisco) cùng GPU NVIDIA RTX PRO Blackwell Series. Giải pháp này cho phép các nhà cung cấp dịch vụ tận dụng hạ tầng mạng hiện có để cung cấp các dịch vụ quản lý cho ứng dụng AI tại biên, với độ tin cậy đạt chuẩn nhà mạng và đảm bảo yêu cầu về chủ quyền dữ liệu.

Để nâng cao hiệu năng và hiệu quả vận hành cho các nhà máy AI với quy mô lớn các hệ thống mới ra mắt gần đây đã được trang bị Cisco Silicon One G300 cho kiến trúc scale-out (Tạm dịch: Mở rộng theo chiều ngang) và P200 cho kiến trúc scale-across (Tạm dịch: Mở rộng đa hệ thống/ kết nối nhiều cụm hạ tầng), Cisco tiếp tục nâng cao hiệu năng hạ tầng, đồng thời đơn giản hóa và tăng tốc quá trình triển khai. Điều đó giúp:

Gia tăng hiệu năng thế hệ mới: Các bộ chuyển mạch tốc độ cao mới nhất của Cisco được thiết kế để đáp ứng những khối lượng công việc AI đòi hỏi cao nhất, bao gồm mẫu Cisco N9100 mới với băng thông 102.4 Tbps, được trang bị chip chuyển mạch Ethernet NVIDIA Spectrum-6. Được bổ sung vào dòng N9100 800G, hiện thiết bị này đã được thương mại hóa rộng rãi, sử dụng chip chuyển mạch Ethernet NVIDIA Spectrum-4.

Triển khai nhanh chóng: Cisco Nexus Hyperfabric, hiện là một phần của Cisco Nexus One, sẽ hỗ trợ các bộ chuyển mạch Cisco N9000 Series, bao gồm dòng N9100 sử dụng chip Ethernet NVIDIA Spectrum-X. Nhờ đó, các tổ chức có thể đơn giản hóa quá trình tích hợp hạ tầng vốn phức tạp với nhiều nhà cung cấp, đồng thời chuyển sang giải pháp toàn diện (full-stack), và rút ngắn thời gian triển khai và giảm gánh nặng vận hành cho đội ngũ CNTT.

Các khách hàng đang xây dựng nhà máy AI quy mô lớn có thể lựa chọn một trong hai lộ trình triển khai đã được kiểm chứng để lựa chọn, đó là nhà máy AI dựa trên kiến trúc tham chiếu tuân thủ chương trình NVIDIA Cloud Partner (NCP), hoặc Cisco Cloud Reference Architecture được xây dựng trên nền tảng Cisco Silicon One, tuân theo cùng các nguyên tắc thiết kế.

Cả hai lựa chọn này từ Cisco đều được tích hợp cơ chế bảo mật ngay trong kiến trúc Secure AI Factory kết hợp cùng NVIDIA nhằm bảo vệ hệ thống trước cả các mối đe dọa từ bên ngoài lẫn những hành vi bất thường từ các AI agent, bao gồm:

Bảo vệ hạ tầng AI: Mức độ an toàn của AI phụ thuộc trực tiếp vào phần cứng vận hành nó – và các tác nhân tấn công hiểu rất rõ điều này. Cisco Hybrid Mesh Firewall cung cấp các chính sách bảo mật nhất quán trên nhiều điểm thực thi khác nhau, từ các bộ chuyển mạch mạng, các tác nhân trên khối lượng công việc cho đến nhiều thành phần khác. Phạm vi bảo vệ rộng hơn đồng nghĩa với việc giảm thiểu các lỗ hổng mà kẻ tấn công có thể khai thác.

Hiện Cisco đang mở rộng giải pháp Cisco Hybrid Mesh Firewall nhằm cho phép thực thi chính sách bảo mật trên các DPU NVIDIA BlueField được tích hợp trong các máy chủ GPU NVIDIA kết nối với hạ tầng Cisco Nexus One. Nhờ đó, các mối đe dọa có thể được chặn ngay ở cấp độ máy chủ trước khi tiếp cận dữ liệu của tổ chức. Kết quả là các khối lượng công việc AI có thể được bảo vệ từ bên trong hệ thống, mà không ảnh hưởng đến hiệu năng vận hành.

Bảo mật tác nhân AI: Cisco AI Defense cung cấp các năng lực bảo mật cho mô hình AI, kiểm thử lỗ hổng tự động, đồng thời bổ sung các cơ chế rào chắn bảo vệ, được thiết kế riêng cho các tác nhân AI hoạt động tại edge thông qua tích hợp với NVIDIA NeMo Guardrails, một thành phần của bộ phần mềm NVIDIA AI Enterprise. Điều này giúp các nhà phát triển AI và đội ngũ bảo mật chủ động ứng phó với các mối đe dọa mới, đồng thời duy trì sự tin cậy đối với các hệ thống AI.

Trong bối cảnh sự triển khai AI ngày càng mang tính phân tán, các tác nhân tại các điểm edge thường tương tác với các tác nhân ở lõi hệ thống để hoàn thành tác vụ và thực thi quy trình. AI Defense, với vai trò là một phần của Cisco Secure AI Factory kết hợp với NVIDIA, nay được mở rộng nhằm bảo mật cả các tương tác agent-to-agent (A2A) này.

Ngoài ra, Cisco cũng tăng cường bảo mật cho quá trình phát triển tác nhân AI trong doanh nghiệp thông qua Cisco AI Defense và OpenShell của NVIDIA.

Thông qua việc liên tục giám sát và xác thực mọi công cụ cũng như hành động mà một tác nhân AI thực hiện, Cisco AI Defense giúp các doanh nghiệp có thể tự tin triển khai các tác nhân để quản lý các quy trình và tác vụ quan trọng mà vẫn đảm bảo an toàn bảo mật. Sự tích hợp này giúp thu hẹp khoảng cách giữa đổi mới công nghệ và rủi ro, cho phép các tổ chức tin tưởng rằng các hệ thống tự động của mình có thể vận hành ổn định và an toàn.

Thông tin thêm về Cisco Secure AI Factory with NVIDIA, truy cập tại đây

Theo tạp chí Điện tử và Ứng dụng