Keysight AI Data Centre Builder: giải pháp tối ưu hóa kiến trúc mạng và thiết kế máy chủ

Bùi Hiển
16/04/2025 08:31
D

Keysight AI (KAI) Data Centre Builder, bộ phần mềm tiên tiến có chức năng giả lập các ứng dụng thực tế để đánh giá tác động cải thiện hiệu năng huấn luyện AI của các thuật toán, linh kiện và giao thức mới.

Keysight ra mắt Máy phát tham chiếu quang học để xác nhận hợp chuẩn truyền dữ liệu thế hệ tiếp theo Keysight ra mắt Máy phát tham chiếu quang học để xác nhận hợp chuẩn truyền dữ liệu thế hệ tiếp theo
Keysight mở rộng giải pháp Vision Network Packet Brokers (NPBs), với tính năng AI Keysight mở rộng giải pháp Vision Network Packet Brokers (NPBs), với tính năng AI
Keysight cách mạng hóa quá trình đo kiểm thu phát quang cho các trung tâm dữ liệu AI Keysight cách mạng hóa quá trình đo kiểm thu phát quang cho các trung tâm dữ liệu AI

Theo Keysight, tính năng giả lập ứng dụng của KAI Data Centre Builder tích hợp mô hình ngôn ngữ lớn (LLM) và các ứng dụng huấn luyện mô hình trí tuệ nhân tạo (AI) khác vào quá trình thiết kế và xác nhận các cấu phần của hạ tầng AI - mạng, máy chủ host và các bộ tăng tốc. Giải pháp này tạo ra sự cộng lực chặt chẽ hơn giữa thiết kế phần cứng, các giao thức, kiến trúc và các thuật toán huấn luyện AI, giúp cải thiện hiệu năng hệ thống.

Keysight AI Data Centre Builder: giải pháp tối ưu hóa kiến trúc mạng và thiết kế máy chủ

Keysight AI (KAI) Data Centre Builder giả lập các ứng dụng thực tế để xác nhận hiệu năng của cơ sở hạ tầng AI

Các nhà khai thác AI sử dụng nhiều chiến lược xử lý song song, còn được gọi là phân vùng mô hình, để tăng tốc huấn luyện mô hình AI. Phân vùng mô hình phù hợp với topo và cấu hình cụm AI giúp nâng cao hiệu năng huấn luyện AI. Trong giai đoạn thiết kế cụm AI, các câu hỏi trọng yếu nhất nên được giải quyết thông qua thực nghiệm. Nhiều câu hỏi tập trung vào hiệu suất truyền dữ liệu giữa các bộ xử lý đồ họa (GPU). Các điểm cần lưu ý chính bao gồm:

  • Thiết kế nâng cấp kết nối liên kết GPU trong máy chủ host và giá máy AI.
  • Thiết kế mở rộng mạng, bao gồm băng thông trên GPU và topo mạng.
  • Cấu hình cân bằng tải và kiểm soát tắc nghẽn trên mạng.
  • Tinh chỉnh các tham số của khung huấn luyện.

Giải pháp giả lập ứng dụng KAI Data Centre Builder tái tạo các mẫu hình kết nối mạng của các nhiệm vụ huấn luyện AI thực tế để đẩy nhanh thử nghiệm, rút ngắn thời gian cần học để thuần thục và giúp hiểu sâu hơn về các nguyên nhân suy giảm hiệu năng, là những kết quả khó đạt được khi chỉ đơn thuần thực hiện các nhiệm vụ huấn luyện AI. Khách hàng của Keysight có thể tiếp cận thư viện ứng dụng LLM như GPT và Llama, với một số phương thức phân vùng mô hình đã được lựa chọn như Data Parallel (DP), Fully Sharded Data Parallel (FSDP), và xử lý song song 3 chiều three-dimensional (3D) parallelism.

Các nhà khai thác AI có thể sử dụng ứng dụng giả lập tải công việc trong KAI Data Center Builder để:

  • Thử nghiệm các tham số xử lý song song, bao gồm kích thước phân vùng và phân bổ của các phân vùng trên hạ tầng AI khả dụng (lập lịch).
  • Tìm hiểu tác động của kết nối trong và giữa các phân vùng đối với thời gian hoàn thành nhiệm vụ (JCT) tổng thể.
  • Xác định các hoạt động tập thể hiệu năng thấp, phân tích sâu để phát hiện các điểm tắc nghẽn.
  • Phân tích mức độ sử dụng mạng, độ trễ đuôi và tắc nghẽn để hiểu rõ tác động của các giá trị này tới JCT.

Năng lực giả lập ứng dụng mới của KAI Data Centre Builder giúp các nhà khai thác AI, các nhà cung cấp đám mây GPU và các nhà cung cấp thiết bị cơ sở hạ tầng đưa các ứng dụng AI thực tế vào môi trường phòng thí nghiệm của họ để xác nhận các thiết kế thường xuyên thay đổi của các cụm AI và các cấu phần mới. Họ cũng có thể thử nghiệm để tinh chỉnh các phương thức, tham số và thuật toán, giúp tối ưu hóa hạ tầng và cải thiện hiệu năng ứng dụng AI.

Ram Periakaruppan, Phó Chủ tịch kiêm Tổng Giám đốc, bộ phận Giải pháp đo kiểm & an ninh mạng, Keysight, cho biết: "Khi quy mô và độ phức tạp của cơ sở hạ tầng AI đều tăng, khả năng xác nhận và tối ưu hóa toàn bộ giao thức trở thành nhu cầu thiết yếu. Để tránh chậm trễ và làm lại, cần thực hiện xác nhận ngay từ những giai đoạn đầu tiên của quá trình thiết kế và chu kỳ sản xuất. Tính năng giả lập ứng dụng của KAI Data Centre Builder đưa đến cho quá trình thiết kế linh kiện và hệ thống AI một cấp độ hiện thực mới, tối ưu hóa ứng dụng để đạt hiệu năng đỉnh cao.”

KAI Data Centre Builder là nền tảng của kiến trúc Keysight Artificial Intelligence (KAI), một danh mục các giải pháp toàn diện được thiết kế trợ giúp khách hàng nâng cao năng lực xử lý trí tuệ nhân tạo trong các trung tâm dữ liệu bằng cách giả lập ứng dụng AI thực tế để xác nhận các cấu phần của cụm AI.

Theo tạp chí Điện tử và Ứng dụng

Bình luận

Tối thiểu 10 chữ Tiếng việt có dấu Không chứa liên kết

Gửi bình luận

Tin cùng chuyên mục

Việt Nam sẽ thử nghiệm 6G năm 2030

Việt Nam sẽ thử nghiệm 6G năm 2030

Huawei tăng cường bảo mật mạng lưới 5G tại Việt Nam

Huawei tăng cường bảo mật mạng lưới 5G tại Việt Nam

Cùng 'Case 404' nhập vai ‘Thám tử an ninh mạng’

Cùng 'Case 404' nhập vai ‘Thám tử an ninh mạng’

Foxconn xây siêu máy tính AI 10.000 GPU NVIDIA Blackwell tại Đài Loan

Foxconn xây siêu máy tính AI 10.000 GPU NVIDIA Blackwell tại Đài Loan

Internet vệ tinh Seacom 8/9/10: Hệ sinh thái thông tin liên lạc toàn diện cho ngành hàng hải

Internet vệ tinh Seacom 8/9/10: Hệ sinh thái thông tin liên lạc toàn diện cho ngành hàng hải

Công nghệ đám mây thay đổi cách sản xuất truyền hình

Công nghệ đám mây thay đổi cách sản xuất truyền hình

Starlink Direct to Cell: Biến điện thoại 4G thành thiết bị liên lạc vệ tinh

Starlink Direct to Cell: Biến điện thoại 4G thành thiết bị liên lạc vệ tinh

Sandbox: Từ môi trường thử nghiệm đến công cụ thúc đẩy đổi mới

Sandbox: Từ môi trường thử nghiệm đến công cụ thúc đẩy đổi mới

MediaTek mang gì đến Computex 2025?

MediaTek mang gì đến Computex 2025?

MobiSafe giúp người dùng tự do kết nối trong thời đại số

MobiSafe giúp người dùng tự do kết nối trong thời đại số

Doanh nghiệp Việt có thêm lựa chọn chữ ký số MobiFone CA

Doanh nghiệp Việt có thêm lựa chọn chữ ký số MobiFone CA

Cisco tiếp tục tái định nghĩa bảo mật trong kỷ nguyên AI

Cisco tiếp tục tái định nghĩa bảo mật trong kỷ nguyên AI

Tin mới cập nhật

Việt Nam sẽ thử nghiệm 6G năm 2030

Việt Nam sẽ thử nghiệm 6G năm 2030

TCL tổ chức thành công Hội nghị Khách hàng toàn quốc

TCL tổ chức thành công Hội nghị Khách hàng toàn quốc

Hộ kinh doanh 'chạy đua' trước Nghị định 70 của Chính phủ

Hộ kinh doanh 'chạy đua' trước Nghị định 70 của Chính phủ

Tối ưu hóa mạng 5G hỗ trợ triển khai dịch vụ công

Tối ưu hóa mạng 5G hỗ trợ triển khai dịch vụ công

Kỹ năng tiếng Anh quyết định thành bại trong ‘thời đại AI’

Kỹ năng tiếng Anh quyết định thành bại trong ‘thời đại AI’

Samsung Việt Nam đẩy mạnh tuyển dụng kỹ sư công nghệ, tìm kiếm nhân tài cho các dự án R&D

Samsung Việt Nam đẩy mạnh tuyển dụng kỹ sư công nghệ, tìm kiếm nhân tài cho các dự án R&D

Hội REV khẳng định vai trò thúc đẩy hạ tầng số Việt Nam

Hội REV khẳng định vai trò thúc đẩy hạ tầng số Việt Nam

ASUS trình làng hệ sinh thái AI toàn diện tại Computex 2025

ASUS trình làng hệ sinh thái AI toàn diện tại Computex 2025

FPT dẫn đầu Top 50 công ty đại chúng uy tín nhất Việt Nam 2025

FPT dẫn đầu Top 50 công ty đại chúng uy tín nhất Việt Nam 2025

Đại biểu đề nghị dừng luật Đấu thầu, Bộ trưởng nói sẽ 'hỗn loạn'

Đại biểu đề nghị dừng luật Đấu thầu, Bộ trưởng nói sẽ 'hỗn loạn'

Giảm giá thành nhà ở xã hội để người dân có nhu cầu ở thực mua được

Giảm giá thành nhà ở xã hội để người dân có nhu cầu ở thực mua được

Xét công nhận đạt GS, PGS 2025: 5 ngành chuyên môn kê khai hồ sơ trực tuyến trước 30/6

Xét công nhận đạt GS, PGS 2025: 5 ngành chuyên môn kê khai hồ sơ trực tuyến trước 30/6

Tin đọc nhiều

Việt Nam sẽ thử nghiệm 6G năm 2030

Việt Nam sẽ thử nghiệm 6G năm 2030

Huawei tăng cường bảo mật mạng lưới 5G tại Việt Nam

Huawei tăng cường bảo mật mạng lưới 5G tại Việt Nam

Cùng 'Case 404' nhập vai ‘Thám tử an ninh mạng’

Cùng 'Case 404' nhập vai ‘Thám tử an ninh mạng’

Foxconn xây siêu máy tính AI 10.000 GPU NVIDIA Blackwell tại Đài Loan

Foxconn xây siêu máy tính AI 10.000 GPU NVIDIA Blackwell tại Đài Loan

Internet vệ tinh Seacom 8/9/10: Hệ sinh thái thông tin liên lạc toàn diện cho ngành hàng hải

Internet vệ tinh Seacom 8/9/10: Hệ sinh thái thông tin liên lạc toàn diện cho ngành hàng hải

Công nghệ đám mây thay đổi cách sản xuất truyền hình

Công nghệ đám mây thay đổi cách sản xuất truyền hình

Starlink Direct to Cell: Biến điện thoại 4G thành thiết bị liên lạc vệ tinh

Starlink Direct to Cell: Biến điện thoại 4G thành thiết bị liên lạc vệ tinh

Sandbox: Từ môi trường thử nghiệm đến công cụ thúc đẩy đổi mới

Sandbox: Từ môi trường thử nghiệm đến công cụ thúc đẩy đổi mới

MediaTek mang gì đến Computex 2025?

MediaTek mang gì đến Computex 2025?

ITU Digital World 2020: Doanh nghiệp kỳ vọng vào các cơ hội mới

ITU Digital World 2020: Doanh nghiệp kỳ vọng vào các cơ hội mới

Video xem nhiều

Đại học Miami tạo ra cảm biến chất lượng không khí phát hiện Covid-19

Đại học Miami tạo ra cảm biến chất lượng không khí phát hiện Covid-19

Ford F-150 Lightning 2022 ra mắt: Bán tải chạy điện giá khởi điểm chưa đến 40 nghìn USD

Ford F-150 Lightning 2022 ra mắt: Bán tải chạy điện giá khởi điểm chưa đến 40 nghìn USD

Thông điệp lan tỏa mùa dịch COVID-19

Thông điệp lan tỏa mùa dịch COVID-19

Geneva Motor Show 2020: Bentley hé lộ siêu xe Bacalar triệu đô

Geneva Motor Show 2020: Bentley hé lộ siêu xe Bacalar triệu đô

Cỗ xe lai phản lực tăng tốc từ 0 - 1010 km/h trong 50 giây tham vọng phá kỷ lục thế giới

Cỗ xe lai phản lực tăng tốc từ 0 - 1010 km/h trong 50 giây tham vọng phá kỷ lục thế giới

Pretzel - Bánh quy cây: Biểu tượng văn hoá châu Âu với nhiều tranh cãi về nguồn gốc

Pretzel - Bánh quy cây: Biểu tượng văn hoá châu Âu với nhiều tranh cãi về nguồn gốc

Làm thế nào để nâng cao tương tác giữa loa và phòng nghe hiệu quả

Làm thế nào để nâng cao tương tác giữa loa và phòng nghe hiệu quả

Trực tiếp: Apple ra mắt Iphone 11 tại Cupertino, California, Mỹ

Trực tiếp: Apple ra mắt Iphone 11 tại Cupertino, California, Mỹ

Vết thương hở mau lành nhờ chiếu tia lạnh Plasma

Vết thương hở mau lành nhờ chiếu tia lạnh Plasma

"Gã khổng lồ" công nghệ Apple đã chính thức phát hành thẻ tín dụng có tên Apple Card

"Gã khổng lồ" công nghệ Apple đã chính thức phát hành thẻ tín dụng có tên Apple Card

Những gì bạn muốn biết về 5G

Những gì bạn muốn biết về 5G

5G thay đổi tương lai của bạn như thế nào?

5G thay đổi tương lai của bạn như thế nào?

Bàn về tầm nhìn và các trụ cột của công nghệ thông tin di động 6G
04/03/2022
Chip xử lý A15 Bionic của Apple có gì mới
15/09/2021
Sex Education mùa 3 được Netflix công chiếu vào 17/9
14/09/2021
iPhone 13 không thay đổi nhiều về ngoại hình, camera được nâng cấp mạnh
13/09/2021
Cách xem trực tiếp sự kiện ra mắt iPhone 13 và Apple Watch 7
10/09/2021
VNEID của Bộ Công an khác các ứng dụng đang được vận hành?
10/09/2021
'Cái tôi' thời 4.0 và tính hai mặt của mạng xã hội
04/09/2021
'Muôn màu' cảm xúc của trẻ trong ngày khai giảng online
24/08/2021
Chủ tịch Chu Ngọc Anh giải toả 'ách tắc' về Giấy đi đường cho người dân Thủ đô
10/08/2021
Hàng loạt Macbook M1 tự dưng vỡ màn hình, Apple có đồng ý bảo hành?
02/08/2021
6 bộ phim hay nhất để xem trên VieON
29/01/2021
Bắc Ninh: Không ký kết triển khai dự án Owifi 5G với CSE Singapore
27/06/2020
Bị World Bank cấm dự thầu 7 năm, công ty Sao Bắc Đẩu thừa nhận sai sót
27/06/2020
Wefinex - Mô hình hoạt động đa cấp "đội lốt" đầu tài chính trên mạng internet
10/06/2020
Khai trừ MISA khỏi Câu lạc bộ Chữ ký số và Giao dịch điện tử Việt Nam
27/05/2020
Chuyển đổi số - Nên hiểu như thế nào cho đúng
25/05/2020
Chống thất thu thuế là thách thức lớn đối với nền kinh tế số
29/04/2020
Cách chuyển tập tin sang máy tính mới
10/11/2019
VNPT, MobiFone, VTC sẽ hoàn thành cổ phần hóa trước năm 2021
20/08/2019
5G thay đổi tương lai của bạn như thế nào?
26/07/2019
Nhận diện hành vi lừa đảo trên không gian mạng
25/07/2019
Truyền hình OTT - Hướng đi mới của các “nhà Đài”
24/07/2019