NVIDIA DGX H100 ابر پردازنده هوش مصنوعی

برای NVIDIA DGX H100، مشخصات سخت‌افزاری اصلی به شرح زیر است:

مشخصات سخت‌افزاری NVIDIA DGX H100

• پردازنده گرافیکی (GPU): 8 کارت NVIDIA H100 Tensor Core GPU با معماری Hopper
• حافظه GPU: هر GPU دارای 80 گیگابایت HBM3، مجموعاً 640 گیگابایت حافظه HBM3 در سیستم (در صورت 8 GPU)
• پهنای باند حافظه: حدود 2 ترابایت بر ثانیه برای هر GPU
• نکته مهم: ارتباط GPUها از طریق NVLink در نسخه‌های DGX H100، که امکان انتقال سریع داده‌ها بین GPUها را فراهم می‌کند
• پردازنده مرکزی (CPU): معمولاً پردازنده‌های AMD EPYC یا Intel Xeon در سرورها برای ارتباط با GPUها
• پورت‌ها:
  • PCIe 5.0 برای ارتباط با سرور
  • NVLink برای اتصال داخلی GPUها
  • چندین پورت Ethernet یا InfiniBand برای اتصال شبکه و ارتباطات خارجی
• سیستم خنک‌کننده: طراحی با سیستم‌های خنک‌کننده مایع و/or فن‌های پیشرفته
• مصرف انرژی: حدود 3000 وات یا بیشتر، بسته به پیکربندی و بار کاری سیستم