NVIDIA H100؛ پردازنده‌ای کلیدی در زیرساخت‌های نوین هوش مصنوعی

پردازنده خوب، کلیدی پیروزی شما در رقابت هوش مصنوعی است. یادآوری همین نکته که امروزه محدودیت صادرات پردازنده‌های گرافیکی یکی از مباحث مهم ژئوپلتیکی به شمار می‌رود و تعداد کشورهایی که می‌توانند این پردازنده‌ها را تولید کنند، از تعداد کشورهایی که می‌توانند بمب هسته‌ای بسازند کمتر است. پردازنده‌های گرافیکی یا همان GPU‌ها اگر نباشند، خبری از هیچ یک از این ابزارهای هوش مصنوعی نیست. پردازنده گرافیکی Nvidia H100 یکی قدرتمندترین پردازنده‌های جهان به شمار می‌رود. در این مقاله به بررسی این تراشه می‌پردازیم.

معرفی مختصر پردازنده NVIDIA H100

شاید حالا در سال ۲۰۲۵ پردازنذه H100 قوی‌ترین GPU شناخته نشود، اما بدون شک یکی از بهترین GPU‌هایی است که می‌توانید داشته باشید. داشتن این پردازنده نه تنها برای اشخاص و کشور‌ها، بلکه برای بسیاری از کشورها نیز یک آرزوست.

همانطور که از رسم شرکت انویدیا مشخص است، برای آشنایی بهتر با این پردازنده، باید به اسم آن دقت کنیم، حرف H ابتدای نام H100 به خاطر این است که این پردازنده مبتنی بر معماری Hopper طراحی شده است. این معماری برای پاسخ‌گویی به نیازهای روزافزون مدل‌های یادگیری عمیق، به‌ویژه مدل‌های ترنسفورمر و مدل‌های زبانی بزرگ، توسعه یافته و بهبودهای چشمگیری در سرعت، کارایی و مقیاس‌پذیری ایجاد کرده است.

پردازنده NVIDIA H100 با برخورداری از حدود ۱۶ هزار هسته CUDA و ۵۱۲ هسته تنسور نسل جدید، توان پردازشی بی‌نظیری ارائه می‌دهد.  H100 در دقت دو برابر (FP64) قادر به ارائه حدود ۶۰ ترافلاپس توان محاسباتی است و در دقت TF32 مخصوص یادگیری عمیق، بیش از ۱۰۰۰ ترافلاپس عملکرد دارد. این ویژگی‌ها باعث شده‌اند تا این پردازنده به یکی از پیشرفته‌ترین و قدرتمندترین گزینه‌ها برای اجرای مدل‌های هوش مصنوعی بزرگ و محاسبات علمی تبدیل شود.

آشنایی با معماری Hopper

معماری Hopper یکی از پیشرفته‌ترین معماری‌های پردازش موازی انویدیا است که در سال ۲۰۲۲ معرفی شد. این معماری به‌صورت اختصاصی برای سرعت بخشیدن به محاسبات هوش مصنوعی، یادگیری عمیق و پردازش‌های سنگین در مراکز داده طراحی شده است. Hopper بر پایه‌ی فناوری ۴ نانومتری شرکت TSMC ساخته شده و با دارا بودن تعداد زیادی هسته‌های تنسور و قابلیت پشتیبانی از حافظه HBM3، توان محاسباتی چشمگیری ارائه می‌دهد.

یکی از نوآوری‌های مهم در معماری Hopper، قابلیت Confidential Computing و Transformer Engine است که آن را برای پردازش مدل‌های زبانی بسیار بزرگ ایده‌آل می‌سازد. این معماری همچنین از اتصال پرسرعت NVLink و NVSwitch بهره می‌برد که امکان ساخت خوشه‌های پردازشی عظیم و مقیاس‌پذیر را فراهم می‌کند. Hopper ترکیبی از قدرت، امنیت و بهینگی انرژی را در بالاترین سطح صنعت ارائه می‌دهد و نقطه‌ی عطفی در مسیر توسعه GPUهای دیتاسنتری به‌شمار می‌آید.

این معماری به افتخار گریس هاپر (Grace Hopper)، از پیشگامان برنامه‌نویسی رایانه و توسعه زبان‌های برنامه‌نویسی سطح بالا، نام‌گذاری شده است. وی یکی از تأثیرگذارترین دانشمندان علوم رایانه در قرن بیستم بود.

موتور ترنسفورمر

همانطور که در بالا گفتیم، پردازنده H100 انویدیا از یک موتور اختصاصی به نام Transformer Engine بهره می‌برد که به‌طور ویژه برای تسریع اجرای مدل‌های ترنسفورمر طراحی شده است.

این موتور هوشمند با قابلیت سوئیچ خودکار بین دقت‌های FP8 و FP16، به‌صورت پویا دقت محاسباتی را بر اساس نیاز مدل تنظیم می‌کند. این ویژگی باعث می‌شود پردازش مدل‌های زبانی و بینایی در مقیاس بزرگ، نه‌تنها سریع‌تر، بلکه بسیار بهینه‌تر انجام شود. نتیجه این نوآوری، افزایش چندبرابری سرعت آموزش و استنتاج در مدل‌هایی مانند GPT و ViT است، بدون آن‌که دقت نهایی فدا شود.

حافظه HBM3 با ظرفیت ۸۰ گیگابایت

H100 مجهز به ۸۰ گیگابایت حافظه HBM3 است که از پنج استک حافظه با پهنای باند ۳ ترابایت بر ثانیه پشتیبانی می‌کند. این حافظه پرسرعت امکان دسترسی سریع به داده‌ها را فراهم می‌آورد و برای پردازش مدل‌های بزرگ و پیچیده مانند مدل‌های زبان طبیعی و بینایی کاملاً مناسب است.

فناوری NVLink نسل چهارم

برای اتصال چندین پردازنده H100 به یکدیگر، از فناوری NVLink نسل چهارم استفاده می‌شود. این فناوری با ارائه پهنای باند ۹۰۰ گیگابایت بر ثانیه در هر مسیر ارتباطی، امکان مقیاس‌پذیری بالا و هماهنگی مؤثر بین GPUها را فراهم می‌کند. این ویژگی به‌ویژه در خوشه‌های پردازشی بزرگ و مراکز داده با نیاز به پردازش‌های موازی گسترده اهمیت دارد. از همین رو این پردازنده یکی از مناسب‌ترین پردازنده‌ها برای دیتاسنتر هاست.

انواع مدل‌های جی پی یو H100

پردازنده NVIDIA H100 در چندین مدل مختلف عرضه شده تا متناسب با نیازهای متنوع مراکز داده، شرکت‌ها و پژوهشگاه‌ها قابل استفاده باشد. این مدل‌ها بر اساس فرم فکتور، نحوه خنک‌سازی و نوع اتصال با سیستم میزبان تفاوت دارند:

NVIDIA H100 SXM (SXM5)

• مناسب برای: استفاده در سرورهای با پشتیبانی از سوکت‌های SXM

• ویژگی برجسته: اتصال از طریق NVLink نسل چهارم با پهنای باند بسیار بالا (تا ۹۰۰ گیگابایت بر ثانیه بین GPUها)

• توان پردازشی بالاتر نسبت به سایر مدل‌ها به دلیل خنک‌سازی بهتر و مصرف انرژی بالاتر (تا ۷۰۰ وات)

NVIDIA H100 PCIe

• مناسب برای: استفاده در سرورهای رایج با اسلات PCIe Gen 5

• توان پردازشی کمتر نسبت به مدل SXM (حدود ۳۵٪ پایین‌تر)

• خنک‌سازی: هوا (Air-Cooled) یا مایع (Liquid-Cooled)

• توان مصرفی: حدود ۳۵۰ تا ۷۰۰ وات بسته به نوع خنک‌سازی

NVIDIA H100 NVL (Dual-GPU PCIe)

• ساختار: دو GPU H100 روی یک بُرد مشترک

• ویژه مدل‌های زبانی بزرگ (LLMs) با مصرف بهینه‌تر در inference

• مجهز به: پل ارتباطی NVLink داخلی برای انتقال داده بسیار سریع بین دو GPU

• مناسب برای: بارهای کاری inference با بهره‌وری بالا و حافظه ترکیبی بیشتر

NVIDIA H100 CNX

• ترکیب شده با SmartNIC (شبکه هوشمند) برای استفاده در مراکز داده مدرن و زیرساخت‌های ابری

• هدف: کاهش تأخیر شبکه و تسریع انتقال داده در محاسبات توزیع‌شده

مقایسه با پردازنده Nvidia A100

پردازنده انویدیا A100 که حدودا ۲ سال قبل از H100 معرفی شد، هنوز هم یکی از بهترین هاست و شاید بتوان آن را نسل قبلی در نظر گرفت. در جدول زیر برهی از تفاوت‌های این دو پردازنده را مرور می‌کنیم.

قیمت پردازنده Nvidia H100

جی پی یو H100 حالا یک کالای خاص حساب می‌شود. این جی پی یو حالا با محدودیت‌های صادراتی شدید ایالات متحده همراه است و از همین رو وقتی بحث قیمت آن مطرح می‌شود، ممکن است انواع مختلفی از قیمت‌ها را بشنوید که تفاوت‌های بسیاری با هم دارند. اما ویژگی همه آن‌ها گران بودن است.

بررسی‌های بازار داخل ایران نشان می‌دهد که در حال حاضر قیمت جی پی یو H100 در حدود ۳ میلیارد تومان است. ( حالا ۵۰۰ میلیون بالا و پایین دارد) پس اگر شخصی می‌خواهید کاری کنید، باید به شما بگویم که با قیمت بسیار سنگینی مواجه خواهید شد.