Dell XE8640 - Sản phẩm Dell AI HPC phân tích với hiệu suất vượt trội

  • 26-03-2024
  • Thế hệ Dell AI XE8640 cho SMEs

    Trí tuệ nhân tạo

    Trí tuệ nhân tạo (AI - Artificial Intelligence), Học máy (ML - Machine Learning) và Học sâu (DL - Deep Learning) là những khái niệm đang ngày càng trở nên phổ biến và là một yếu tố “trendy” trong lĩnh vực công nghệ. 

    Trong đó, AI (Artificial Intelligence) là một khái niệm chung được biết đến từ những năm 1950, nó ám chỉ tất cả những thiết bị máy móc có khả năng bắt chước được hành vi và suy nghĩ của con người.

    Dell AI

    ML (Machine Learning) là khái niệm nằm bên trong AI. ML là một trong những cách thức để đạt được AI. Với ML, con người sẽ kết hợp các giải thuật (algorithm) và các mô hình thống kê (statistical model) để giúp các thiết bị máy móc học được từ những dữ liệu có sẵn và những điều đã xảy ra trong quá khứ để tự biết cách xử lý những vấn đề sẽ xảy ra trong tương lai thay vì phải lập trình một cách chính xác cho thiết bị biết phải xử lý như thế nào.

    Dell AI

    Còn DL (Deep Learning) là một trong nhiều cách để tiếp cận ML bên cạnh các hình thức khác như cây học tập quyết đinh (decision tree learning), lập trình logic quy nạp (inductive logic programming), phân cụm (clustering), học tăng cường (reinforcement learning), v.v… DL phương pháp mô phỏng lại cách thức hoạt động của các tế bào não, thực hiện phân tích suy luận qua nhiều lớp và tương tác qua lại lẫn nhau.

    GPUs NVIDIA sự đổi mới và hiệu quả cho Trí Tuệ Nhân Tạo

    Trước tiên, hãy bắt đầu bằng việc đề cập đến tình huống nếu bạn muốn huấn luyện các mô hình cơ bản ngày nay, như ChatGPT chẳng hạn, thì NVIDIA H100 80GB SXM5 vẫn là lựa chọn hàng đầu. Khi mô hình cơ bản đã được huấn luyện, việc tùy chỉnh mô hình dựa trên dữ liệu chuyên ngành hoặc thực hiện các công việc dự đoán thường có thể được thực hiện trên các phần vật lý có chi phí và công suất điện tiêu thụ thấp hơn nhiều.

    Dell AI

    Dell Technologies cung cấp nhiều lựa chọn máy chủ được tối ưu hóa khả năng tăng tốc với danh mục máy tăng tốc phong phú có GPUs NVIDIA. 

    Trong thiết kế này, SSN giới thiệu ba máy chủ Dell PowerEdge được thiết kế riêng cho mục đích sáng tạo AI:

    - Server AI PowerEdge R760xa, có khả năng hỗ trợ tới bốn GPU NVIDIA H100 hoặc bốn GPU NVIDIA L40

    - Server AI PowerEdge XE8640, hỗ trợ 4 GPU NVIDIA H100

    - Server AI PowerEdge XE9680, hỗ trợ 8 GPU NVIDIA H100

      NVIDIA H100 SXM GPU NVIDIA H100 PCIe GPU NVIDIA L40 PCIe GPU
    Supported latest PowerEdge servers (and maximum number of GPUs) Server AI PowerEdge XE9680 (8)

     

    Server AI PowerEdge XE8640 (4)

    Server AI PowerEdge R760xa (4)

     

    Server AI PowerEdge R760 (2)

    Server AI PowerEdge R760xa (4)

     

    Server AI PowerEdge R760 (2)

    GPU memory 80 GB 80 GB 48 GB
    Form factor SXM PCIe (dual width, dual slot) PCIe (dual width, dual slot)
    GPU interconnect 900 GB/s PCIe 600 GB/s NVLink Bridge supported in PowerEdge R760xa 

     

    128 GB/s PCIe Gen5

    None
    Multi-instance GPU support Up to 7 MIGs Up to 7 MIGs None
    Decoders 7 NVDEC

     

    7 JPEG

    7 NVDEC

     

    7 JPEG

    3 NVDEC

     

    3 NVENC

    Max thermal design power (TDP) 700 W 350 W 300 W
    NVIDIA AI Enterprise Add-on Included with H100 PCIe Add-on
    Most applicable use cases Generative AI training

     

    Large-scale distributed training

    Discriminative/Predictive AI Training and Inference

     

    Generative AI Inference

    Small scale AI

     

    Visual computing

    Discriminative/Predictive AI Inference

    Giới thiệu Dell AI PowerEdge XE8640

    Đây là máy chủ rack 4U, 2 socket mới nhất của Dell được thiết kế để chạy các khối lượng công việc phức tạp, tính toán chuyên sâu bằng cách sử dụng công nghệ tăng tốc mới nhất của ngành, cũng như các tùy chọn mạng, I/O và bộ nhớ có khả năng mở rộng cao.

    Máy có kích thước và trọng lượng phù hợp để lắp đắt, bố trí gọn gàng tại nơi làm việc với:

    - Chiều cao: 6,86 inch (174,3 mm)
    - Chiều rộng: 18,97 inch (481,91 mm )
    - Chiều sâu: 35,48 inch (901,4 mm) có viền và 34,07 inch (865,54 mm) không có
    - Trọng lượng: 135,36 pound (61,4 kg)

    Cấu hình thiết kế Dell AI PowerEdge XE8640 chi tiết

    Mặt trước Hệ thống

    Dell AI

    Dell AI

    Mặt sau Hệ thống

    XE8640 Với thiết kế cổng (ổ cắm) cơ bản bao gồm:

    1 x OCP 3.0
    2 x 1GbE LOM
    1 x cổng iDRAC Direct (Micro-AB USB)
    1 x USB 2.0
    1 x USB 3.0
    1 x VGA
    1 x cổng ethernet RJ45 iDRAC9

    Dell AI

    Thiết kế bên trong trung tâm dữ liệu
    Dell AI

    Dell AI

    Phân tích Bộ Xử lý Dell AI PowerEdge XE8640

    Nhóm bộ xử lý có khả năng mở rộng Intel Xeon thế hệ thứ 4 là bộ xử lý trung tâm dữ liệu thế hệ tiếp theo với những cải tiến hiệu suất tăng lên đáng kể, khả năng tăng tốc tích hợp cũng như bộ bớ và I/O giúp tối ưu hóa khối lượng công việc một cách đáng kể.

    Cùng Máy Chủ Việt tìm hiểu các tính năng và chức năng chính có trong bộ xử lý có khả năng mở rộng Intel:

    - Bộ xử lý lên tới 56 Cores

    - UPI nhanh hơn với tối đa bốn Intel Ultra Path Interconnect (Intel UPI) với tốc độ lên tới 16 GT/s, tăng băng thông nhiều ổ cắm.

    - Nhiều I/O hơn, cùng với PCl Express 5 giúp nhanh hơn lên tới 80 làn (mỗi ổ cắm).

    - Hiệu suất bộ nhớ nâng cao với sự hỗ trợ DDR5 và tốc độ bộ nhớ lên tới 4800 MT/s trong một DIMM trên mỗi kênh (1DPC) và 4400 MT/s ở hai DIMM trên mỗi kênh (2DPC).-

    - Bộ tăng tốc tích hợp mới để phân tích dữ liệu, kết nối mạng, lưu trữ và nén dữ liệu.

    Đặc điểm nổi bật Dell AI PowerEdge XE8640

    Dòng sản XE8640 với những tính năng ưu việt, giúp hỗ trợ và thúc đẩy các ứng dụng mô phỏng HPC và AI truyền thống với thông lượng điện toán tối ưu và tăng tốc để tự động hóa thông tin chuyên sâu về kết quả. Phát triển và triển khai các mô hình Machine learing, tối đa hóa các sáng kiến AI với GPU Nvidia mới nhất có kiến trúc 4 chiều.

    Ưu điểm vượt trội ở sản phẩm này có thể kể đến như:

    - Thúc đẩy khối lượng công việc AI với hai bộ xử lý Intel Xeon thế hệ thứ 4 mạnh mẽ và 4 GPU Nvidia H100 được kết nối với NVLink. Đảm bảo đạt được hiệu suất vượt trội trong hình ảnh, ứng dụng,…

    - Tăng hiệu suất, mở rộng quy mô hỗ trợ tới 32 khe DIMM với bộ nhớ DDR5, tối đa 8 ổ đĩa và 4 khe cắm PCle Gen 5.

    - Hỗ trợ các công nghệ có công suất cao, nhiệt độ môi trường lên tới 35 độ C với thiết kế làm mát 4U.

    - Xử lý dữ liệu liên tục và hiệu suất I/O nhanh hơn với việc truyền bộ lưu trữ trực tiếp GPU, bỏ qua CPU máy chủ.

    Kết luận

    Trên đây là những thông tin về sản phẩm XE8640 mới của Dell, dòng máy chủ 16G với hiệu năng vượt trội, hỗ trợ doanh nghiệp một cách tốt nhất.

    Siêu Siêu Nhỏ cung cấp đa dạng các Server AI đáp ứng yêu cầu cho Doanh Nghiệp

    Server HPE

    Server DELL

    Server THINKSYSTEM

    Tham khảo các ưu đãi: https://www.sieuthimaychu.vn/index.php/Uu_Dai/

    Ngoài ta bạn có thể tham khảo thêm 1 số bài viết liên quan tại đây

    Liên hệ Bộ phận Kinh doanh để nhận được giá tốt nhất:
    ✓ TP HCM: (028) 7307 3776 
    ✓ Hà Nội: (024) 7307 3776
    Siêu Thị Máy Chủ - Sự lựa chọn tốt nhất về Server với chi phí hợp lý, sản phẩm đáng tin cậy, phục vụ chuyên nghiệp!

      Bài viết liên quan