Learning Machine Solution

Các ứng dụng AI không chỉ cần các dịch vụ backend phức tạp, môi trường Runtime cần phải được tối ưu hoá rất nhiều để có thể phù hợp với các yêu cầu điều kiện về GPU cho các giải pháp về AI, do phải xử lý các tác vụ với cycle thời gian rất ngắn. Các ứng dụng tối ưu GPU có nhiệm vụ phân bố các task cần nhiều CPU cho GPU xử lý và để các task “nhẹ nhàng” cho CPU đảm nhiệm.

Đáp ứng các yêu cầu về hạ tầng hệ thống để hỗ trợ ứng dụng AI

Hỗ trợ framework hiện tại

Hạ tầng của NTC hỗ trợ các ứng dụng AI trên nền framework như TensorFlow, Caffe, Theano và Torch.

Môi trường tối ưu GPU

Một hệ thống tốt cần phải đảm bảo mọi tác vụ AI đều phải được thực hiện. Do đó phải hỗ trợ môi trường GPU để cung cấp tối đa sức mạnh tính toán.

Các công cụ và môi trường quản lý

Một trong những thách thức khi vận hành các ứng dụng AI là chúng ta còn thiếu các công cụ quản lý các framework AI. Nên vậy, việc tìm ra giải pháp cho giao thức giao tiếp giữa AI framework và hạ tầng bên dưới là thật sự cần thiết, để đảm bảo sự cân bằng và duy trì performance tuyệt đối.

Dịch vụ tích hợp hạ tầng cho AI

NTC không chỉ cung cấp hạ tầng phần cứng phải có và không chỉ hỗ trợ AI, còn cung cấp thêm cả những dịch vụ tích hợp AI, xem đây như là phần trung tâm của combo hạ tầng và dịch vụ. Và cũng có thể xem NTC đang cung cấp dịch vụ hạ tầng AI-denfined Infrastructure – hạ tầng được định nghĩa (xây dựng) cho AI, sẽ không chỉ giúp các dịch vụ và ứng dụng cloud trở nên “thông minh” hơn, mà còn dễ dàng cho khách hàng setup và vận hành hạ tầng dành cho AI.

LIÊN HỆ CHÚNG TÔI ĐỂ CÓ GIẢI PHÁP TỐI ƯU VÀ GIÁ TỐT NHẤT

NVIDIA® Tesla® V100

BASIC (2 Host + 1 SAN)

Intel® Xeon® Gold 5120 Dual Intel® Xeon® Silver 4114 Dual Intel® Xeon® Silver 4110
CPU (vCores) 112 80 64
RAM (GB) 256 256 256
GPU 2 x Volta GV100 2 x Volta GV100 2 x Volta GV100
Memory GPU 32GB HBM2 32GB HBM2 32GB HBM2
NVIDIA Tensor Cores 2 x 640 2 x 640 2 x 640
NVIDIA CUDA Cores 2 x 5120 2 x 5120 2 x 5120
Memory bandwidth 900 GB/sec 900 GB/sec 900 GB/sec
Storage (TB) 5 5 5
Hypervisor VMware VMware VMware
Starting at Liên hệ Liên hệ Liên hệ

ADVANCE (3 Host + 1 SAN)

Intel® Xeon® Gold 5120 Dual Intel® Xeon® Silver 4114 Dual Intel® Xeon® Silver 4110
CPU (vCores) 168 120 96
RAM (GB) 384 384 384
GPU 3 x Volta GV100 3 x Volta GV100 3 x Volta GV100
Memory GPU 32GB HBM2 32GB HBM2 32GB HBM2
NVIDIA Tensor Cores 3 x 640 3 x 640 3 x 640
NVIDIA CUDA Cores 3 x 5120 3 x 5120 3 x 5120
Memory bandwidth 900 GB/sec 900 GB/sec 900 GB/sec
Storage (TB) 10 10 10
Hypervisor VMware VMware VMware
Starting at Liên hệ Liên hệ Liên hệ

SCALE UP

Intel® Xeon® Gold 5120 Dual Intel® Xeon® Silver 4114 Dual Intel® Xeon® Silver 4110
CPU (vCores) 56 40 32
RAM (GB) 128 128 128
GPU 1 x Volta GV100 1 x Volta GV100 1 x Volta GV100
Memory GPU 32GB HBM2 32GB HBM2 32GB HBM2
NVIDIA Tensor Cores 1 x 640 1 x 640 1 x 640
NVIDIA CUDA Cores 1 x 5120 1 x 5120 1 x 5120
Memory bandwidth 900 GB/sec 900 GB/sec 900 GB/sec
Hypervisor VMware VMware VMware
Starting at Liên hệ Liên hệ Liên hệ

NVIDIA® Tesla® P100

BASIC (2 Host + 1 SAN)

NVIDIA Tesla P100 Dual Intel® Xeon® Gold 5120 Dual Intel® Xeon® Silver 4114 Dual Intel® Xeon® Silver 4110
CPU (vCores) 112 80 64
RAM (GB) 256 256 256
GPU 2 x Pascal GP100 2 x Volta GV100 2 x Volta GV100
Memory GPU 16GB HBM2 16GB HBM2 16GB HBM2
NVIDIA CUDA Cores 2 x 3584 2 x 3584 2 x 3584
Memory bandwidth 720 GB/sec 720 GB/sec 720 GB/sec
Storage (TB) 10 10 10
Hypervisor VMware VMware VMware
Starting at Liên hệ Liên hệ Liên hệ

ADVANCE (3 Host + 1 SAN)

NVIDIA Tesla P100 Dual Intel® Xeon® Gold 5120 Dual Intel® Xeon® Silver 4114 Dual Intel® Xeon® Silver 4110
CPU (vCores) 168 120 96
RAM (GB) 384 384 384
GPU 3 x Pascal GP100 3 x Pascal GP100 3 x Pascal GP100
Memory GPU 16GB HBM2 16GB HBM2 16GB HBM2
NVIDIA CUDA Cores 3 x 3584 3 x 3584 3 x 3584
Memory bandwidth 720 GB/sec 720 GB/sec 720 GB/sec
Storage (TB) 10 10 10
Hypervisor VMware VMware VMware
Starting at Liên hệ Liên hệ Liên hệ

SCALE OUT

NVIDIA Tesla P100 Dual Intel® Xeon® Gold 5120 Dual Intel® Xeon® Silver 4114 Dual Intel® Xeon® Silver 4110
CPU (vCores) 56 40 32
RAM (GB) 128 128 128
GPU 1 x Pascal GP100 1 x Pascal GP100 1 x Pascal GP100
Memory GPU 16GB HBM2 16GB HBM2 16GB HBM2
NVIDIA CUDA Cores 1 x 3584 1 x 3584 1 x 3584
Memory bandwidth 720 GB/sec 720 GB/sec 720 GB/sec
Storage (TB) 10 10 10
Hypervisor VMware VMware VMware
Starting at Liên hệ Liên hệ Liên hệ


Bạn cần tư vấn nhanh?