NVIDIA ขับเคลื่อนการนำระบบระบายความร้อนด้วยของเหลวไปใช้มากกว่า 20% ภายในปี 2568

Oct 30, 2024

ฝากข้อความ

 

อัตราการเจาะระบบระบายความร้อนด้วยของเหลวถูกกำหนดให้เพิ่มขึ้นอย่างมีนัยสำคัญ โดยกระโดดจากประมาณ 10% ในปี 2024 เป็นมากกว่า 20% ภายในปี 2025 จากการสำรวจล่าสุดของ TrendForce แพลตฟอร์ม Blackwell ของ NVIDIA คาดว่าจะจัดส่งได้ในไตรมาสที่สี่ ซึ่งจะช่วยเพิ่ม การนำโซลูชั่นระบายความร้อนด้วยของเหลวมาใช้ การรับรู้ทั่วโลกที่เพิ่มขึ้นเกี่ยวกับ ESG ควบคู่ไปกับ CSP ที่เร่งการใช้งานเซิร์ฟเวอร์ AI กำลังอำนวยความสะดวกในการเปลี่ยนจากการระบายความร้อนด้วยอากาศเป็นการระบายความร้อนด้วยของเหลว

 

NVIDIA's Blackwell platform

 

ในตลาดเซิร์ฟเวอร์ AI ทั่วโลก NVIDIA ยังคงเป็นซัพพลายเออร์ที่โดดเด่นในปีนี้ ในส่วนของเซิร์ฟเวอร์ GPU AI นั้น NVIDIA เป็นผู้นำที่มีส่วนแบ่งตลาดเกือบ 90% ในขณะที่ AMD ตามรอยที่ประมาณ 8% TrendForce ตั้งข้อสังเกตว่าแม้ว่าการจัดส่ง Blackwell ของ NVIDIA ในปัจจุบันจะมีปริมาณน้อยเนื่องจากการทดสอบห่วงโซ่อุปทานอย่างต่อเนื่อง แต่การใช้พลังงานสูงของแพลตฟอร์มใหม่ โดยเฉพาะอย่างยิ่งโซลูชันที่ติดตั้งบนชั้นวาง GB200 นั้นต้องการประสิทธิภาพการระบายความร้อนที่ดีขึ้น มีแนวโน้มว่าจะนำการระบายความร้อนด้วยของเหลวมาใช้มากขึ้น อย่างไรก็ตาม อัตราส่วนการระบายความร้อนด้วยของเหลวที่ต่ำของระบบนิเวศเซิร์ฟเวอร์ที่มีอยู่ทำให้เกิดความท้าทาย เนื่องจาก ODM จำเป็นต้องสำรวจเส้นโค้งการเรียนรู้เพื่อแก้ไขปัญหาการรั่วไหลและประสิทธิภาพการทำความเย็นอย่างมีประสิทธิภาพ TrendForce คาดการณ์ว่าภายในปี 2568 GPU มากกว่า 80% บนแพลตฟอร์ม Blackwell จะเป็นระดับไฮเอนด์ กระตุ้นให้บริษัทจ่ายไฟและทำความเย็นแข่งขันในตลาดระบายความร้อนด้วยของเหลวด้วย AI ส่งผลให้เกิดการเปลี่ยนแปลงของอุตสาหกรรมใหม่

 

 

I Google ขยายโซลูชันการทำความเย็นด้วยของเหลวอย่างจริงจัง

 

ในช่วงไม่กี่ปีที่ผ่านมา บริษัทคลาวด์รายใหญ่ในสหรัฐฯ เช่น Google, AWS และ Microsoft ได้สร้างเซิร์ฟเวอร์ AI อย่างรวดเร็วซึ่งขับเคลื่อนโดย NVIDIA GPU และ ASIC ที่เป็นกรรมสิทธิ์เป็นหลัก TrendForce รายงานว่าตู้ GB200 NVL72 ของ NVIDIA มีพลังการออกแบบการระบายความร้อน (TDP) ประมาณ 140 kW ซึ่งจำเป็นต้องใช้โซลูชันระบายความร้อนด้วยของเหลว โดยส่วนใหญ่เป็นของเหลวสู่อากาศ (L2A) สถาปัตยกรรมอื่นๆ เช่น เซิร์ฟเวอร์ HGX และ MGX Blackwell ใช้การระบายความร้อนด้วยอากาศเป็นหลักเนื่องจากมีความหนาแน่นน้อยกว่า

 

สำหรับบริษัทคลาวด์ที่พัฒนา AI ASIC ของตน TPU ของ Google ได้นำโซลูชันการระบายความร้อนด้วยอากาศและของเหลวมาใช้ ทำให้เป็นผู้นำในการระบายความร้อนด้วยของเหลวในหมู่องค์กรในสหรัฐฯ BOYD และ Cooler Master คือซัพพลายเออร์รายสำคัญของแผ่นความเย็น อาลีบาบาของจีนมีความกระตือรือร้นมากที่สุดในการขยายศูนย์ข้อมูลระบายความร้อนด้วยของเหลว ในขณะที่บริษัทคลาวด์อื่นๆ ยังคงนิยมใช้ระบบระบายความร้อนด้วยอากาศสำหรับ AI ASIC ของตน

 

TrendForce ระบุว่าบริษัทคลาวด์จะระบุซัพพลายเออร์ส่วนประกอบหลักสำหรับโซลูชันระบายความร้อนด้วยของเหลวของตู้ GB200 ซัพพลายเออร์หลักสำหรับแผ่นทำความเย็น ได้แก่ Qihong และ Cooler Master ในขณะที่ท่อร่วมมาจาก Cooler Master และ Shuanghong และ Vertiv และ Delta เป็นผู้จัดหาหน่วยจ่ายน้ำหล่อเย็น (CDU) การจัดซื้อส่วนประกอบที่สำคัญป้องกันการรั่ว เช่น การตัดการเชื่อมต่ออย่างรวดเร็ว (QD) ยังคงถูกครอบงำโดยผู้ผลิตจากต่างประเทศ เช่น CPC, Parker Hannifin, Danfoss และ Staubli

 

AI Server Key Component suppliers for Liquid Cooling Solutions

▲ ซัพพลายเออร์ส่วนประกอบหลักเซิร์ฟเวอร์ AI สำหรับโซลูชั่นระบายความร้อนด้วยของเหลว

 

 

II จะจัดการกับชิป AI ที่ร้อนเกินไปได้อย่างไร สำรวจวิธีการระบายความร้อนเซิร์ฟเวอร์ 3 วิธี

 

ก่อนที่จะเจาะลึกเข้าไปในการแข่งขันด้านการทำความเย็น จำเป็นอย่างยิ่งที่จะต้องเข้าใจวิธีการทำความเย็นเบื้องต้น ซึ่งสามารถแบ่งได้เป็นสามประเภท: การระบายความร้อนด้วยอากาศ การระบายความร้อนด้วยของเหลว และการทำความเย็นแบบจุ่ม

 

1. การระบายความร้อนด้วยอากาศ: ยังคงเป็นที่ต้องการอย่างมาก

การระบายความร้อนด้วยอากาศเป็นวิธีระบายความร้อนที่ใช้กันอย่างแพร่หลายในศูนย์ข้อมูลและห้องเซิร์ฟเวอร์ขององค์กร คล้ายกับการให้อากาศเย็นแก่เซิร์ฟเวอร์ผ่านพัดลม ตัวระบายความร้อน และท่อความร้อน เพื่อให้ได้ประสิทธิภาพการระบายความร้อนสูงสุด จำเป็นต้องมีเทคโนโลยีระบายความร้อนด้วยอากาศขั้นสูง เช่น ห้องไอ (3D VC) รวมกับท่อความร้อนและพัดลมจำนวนมาก อย่างไรก็ตาม แม้ว่าการไหลเวียนของอากาศและความเร็วที่เพิ่มขึ้นจะช่วยเพิ่มการพาความร้อน แต่เสียงรบกวนและการสั่นสะเทือนที่มากเกินไปอาจส่งผลเสียต่อสภาพแวดล้อมของเซิร์ฟเวอร์ได้ Wu Junying รองผู้จัดการทั่วไปกล่าวว่า การระบายความร้อนด้วยอากาศยังคงเป็นความต้องการของตลาดที่สำคัญ เนื่องจากชิป H100 สามารถระบายความร้อนด้วยอากาศได้อย่างเพียงพอ อย่างไรก็ตาม ด้วยการจัดส่งชิปซีรีส์ GB ความเร็วในการนำระบบระบายความร้อนด้วยของเหลวมาใช้จะเพิ่มขึ้นอย่างรวดเร็ว

 

2. การทำความเย็นด้วยของเหลว: ตลาดหลักที่ผู้ค้าทุกรายติดตาม

การระบายความร้อนด้วยของเหลวหรือที่เรียกว่าการระบายความร้อนด้วยของเหลวโดยตรง (DLC) สามารถแบ่งเพิ่มเติมได้เป็นการระบายความร้อนจากของเหลวสู่อากาศและของเหลวสู่ของเหลว

ของเหลวสู่อากาศ: วิธีนี้ใช้ท่อระบายความร้อนด้วยน้ำเพื่อนำความร้อนออกจากชิป โดยน้ำร้อนจะถูกส่งไปยังพัดลมที่ด้านหลังของตู้เพื่อกระจายความร้อน การระบายความร้อนจากของเหลวสู่อากาศเป็นการตอบสนองต่อขีดจำกัดทางกายภาพของการระบายความร้อนด้วยอากาศในศูนย์ข้อมูลที่มีอยู่ เนื่องจากต้องมีการปรับเปลี่ยนโครงสร้างพื้นฐานของห้องเซิร์ฟเวอร์เพียงเล็กน้อย เพียงเพิ่มประตูด้านหลังพัดลมก็สามารถเพิ่มประสิทธิภาพการระบายความร้อนได้ ปัจจุบัน ศูนย์ข้อมูลประมาณ 60-70% ยังคงใช้วิธีการระบายความร้อนนี้ อย่างไรก็ตาม แม้ว่าของเหลวสู่อากาศจะเป็นวิธีแก้ปัญหาที่มีประสิทธิภาพ แต่ก็ไม่ได้เหมาะสมที่สุด ผนังพัดลมที่เพิ่มเข้ามาสามารถเพิ่มระดับเสียงได้ถึง 90-100 เดซิเบล (เทียบเท่ากับถนนที่พลุกพล่านที่ประมาณ 80 เดซิเบล) ทำให้พนักงานทำงานในห้องเป็นเวลานานได้ยาก

 

ของเหลวเป็นของเหลว: วิธีนี้เกี่ยวข้องกับการปิดท่อปิดผนึกที่เต็มไปด้วยสารหล่อเย็นรอบๆ ส่วนประกอบที่สร้างความร้อนของเซิร์ฟเวอร์ ความร้อนจะถูกถ่ายโอนผ่านแผ่นทองแดงความร้อนไปยังสารหล่อเย็น ทำให้เกิดวงจรการแลกเปลี่ยนของเหลวร้อนและเย็น วิธีนี้ต่างจากของเหลวสู่อากาศ วิธีนี้ไม่จำเป็นต้องใช้ผนังพัดลมด้านหลังตู้เซิร์ฟเวอร์ ซึ่งช่วยปรับปรุงการใช้พื้นที่และลดระดับเสียงได้อย่างมาก GB200 NB072 ระดับไฮเอนด์ของ NVIDIA ใช้การระบายความร้อนจากของเหลวเป็นของเหลว

 

3. การแช่เย็นแบบจุ่ม: จอกศักดิ์สิทธิ์ในอนาคตที่เย็นลง?

การทำความเย็นแบบจุ่มเกี่ยวข้องกับการจุ่มเซิร์ฟเวอร์ทั้งหมดในของเหลวที่ไม่นำไฟฟ้า คล้ายกับอ่างน้ำร้อน การระบายความร้อนอย่างมีประสิทธิภาพไม่เพียงแต่ชิปเท่านั้น แต่ยังรวมถึง CPU หน่วยความจำ และส่วนประกอบอิเล็กทรอนิกส์อื่นๆ ภายในเซิร์ฟเวอร์ด้วย อย่างไรก็ตาม ปัญหาต่างๆ เช่น ข้อกังวลด้านสิ่งแวดล้อมที่เกี่ยวข้องกับของเหลวแช่ ผลกระทบระยะยาวต่อชิ้นส่วนอิเล็กทรอนิกส์ และการบำรุงรักษาอย่างต่อเนื่องทำให้เกิดความท้าทายที่สำคัญ ศูนย์ข้อมูลที่พิจารณาโซลูชันการแช่จะต้องประเมินความสมบูรณ์ของโครงสร้างของพื้นอาคารและโครงสร้างพื้นฐานที่สำคัญสำหรับระบบไฟฟ้าและน้ำ การใช้การทำความเย็นแบบจุ่มจำเป็นต้องมีการออกแบบโรงงานใหม่อย่างกว้างขวาง ส่งผลให้มีค่าใช้จ่ายจำนวนมาก

 

 

 

ส่งคำถาม