การระบายความร้อนด้วยของเหลวช่วยเพิ่มประสิทธิภาพและประสิทธิภาพของแพลตฟอร์ม Blackwell ของ Nvidia

Oct 14, 2024

ฝากข้อความ

การเติบโตอย่างรวดเร็วของปัญญาประดิษฐ์ (AI) โดยเฉพาะอย่างยิ่งในด้านต่างๆ เช่น Generative AI (GenAI) และโมเดลภาษาขนาดใหญ่ (LLM) ได้ขับเคลื่อนความต้องการพลังการประมวลผลอย่างที่ไม่เคยมีมาก่อน เนื่องจากโมเดล AI มีความซับซ้อนมากขึ้นและต้องการข้อมูลมากขึ้น ฮาร์ดแวร์ที่จำเป็นเพื่อรองรับความก้าวหน้าเหล่านี้จึงต้องเผชิญกับความท้าทายที่สำคัญ โดยเฉพาะอย่างยิ่งในเรื่องการกระจายความร้อน วิธีการระบายความร้อนแบบดั้งเดิม เช่น การระบายความร้อนด้วยอากาศ นั้นไม่เพียงพอต่อการจัดการการใช้พลังงานของฮาร์ดแวร์ AI ที่ล้ำสมัยอีกต่อไป และนี่คือจุดที่โซลูชันการระบายความร้อนด้วยของเหลวเข้ามามีบทบาท

เทคโนโลยีระบายความร้อนด้วยของเหลวได้รับความโดดเด่นในฐานะวิธีการที่มีประสิทธิภาพสูงในการจัดการเอาต์พุตความร้อนของศูนย์ข้อมูล AI เป็นสิ่งสำคัญอย่างยิ่งสำหรับแพลตฟอร์มเช่นสถาปัตยกรรม Blackwell ของ Nvidia ซึ่งพลังในการคำนวณจำนวนมหาศาลต้องใช้ระบบระบายความร้อนขั้นสูงเพื่อให้มั่นใจถึงประสิทธิภาพและอายุการใช้งานที่ยาวนาน

ที่ฮอตชิป 2024การประชุม NVIDIA ได้เปิดตัวโซลูชั่นที่เป็นนวัตกรรมบูรณาการน้ำอุ่นโดยตรงกับการระบายความร้อนด้วยของเหลวของชิปเทคโนโลยีพร้อมสถาปัตยกรรม Blackwell เพื่อรองรับการใช้พลังงานที่เพิ่มขึ้นและการระบายความร้อน การพัฒนานี้บ่งบอกถึงความก้าวหน้าที่สำคัญในการออกแบบฮาร์ดแวร์ AI ซึ่งช่วยลดต้นทุนการดำเนินงานและปรับปรุงประสิทธิภาพในแอปพลิเคชัน AI ขนาดใหญ่

Hot Chips Tutorial: Liquid Cooling Boosts Performance and Efficiency

▲ บทช่วยสอนชิปร้อน: การระบายความร้อนด้วยของเหลวช่วยเพิ่มประสิทธิภาพและประสิทธิผล

การเพิ่มขึ้นของเทคโนโลยีระบายความร้อนด้วยของเหลว

เทคโนโลยีระบายความร้อนด้วยของเหลวกลายเป็นองค์ประกอบสำคัญในการออกแบบศูนย์ข้อมูล AI เนื่องจากความต้องการพลังงานที่เพิ่มขึ้นของชิป AI เมื่อแอปพลิเคชัน AI เติบโตขึ้น การใช้พลังงานในศูนย์ข้อมูลก็คาดว่าจะเพิ่มขึ้นอย่างมาก โปรเซสเซอร์ AI จำนวนมาก รวมถึง H100 ของ Nvidia และตัวใหม่สถาปัตยกรรมแบล็กเวลล์ใช้พลังงานตั้งแต่ 700W ถึง 1200W การดึงพลังงานอันมหาศาลนี้ประกอบขึ้นเมื่อคลัสเตอร์ AI ซึ่งประกอบด้วย GPU หลายพันตัวทำงานพร้อมกัน

ตัวอย่างเช่นกลุ่มการฝึกอบรม AI ของ Elon Muskซึ่งใหญ่ที่สุดในโลกด้วย GPU H100 จำนวน 100,000 ตัว ระบายความร้อนด้วยของเหลวทั้งหมดเพื่อจัดการความต้องการพลังงาน 31- เมกะวัตต์ ตัวอย่างดังกล่าวแสดงให้เห็นว่าเหตุใดการเพิ่มประสิทธิภาพเทคโนโลยีทำความเย็นจึงมีความสำคัญ ไม่เพียงแต่เพื่อลดต้นทุนการดำเนินงาน แต่ยังเพิ่มประสิทธิภาพโดยรวมของระบบ AI อีกด้วย เนื่องจากความต้องการ AI ประสิทธิภาพสูงยังคงเพิ่มขึ้นอย่างต่อเนื่อง การระบายความร้อนด้วยของเหลวจะมีบทบาทสำคัญในการรักษาระบบคอมพิวเตอร์ประสิทธิภาพสูงอย่างยั่งยืน

ประโยชน์ของการระบายความร้อนด้วยของเหลวในศูนย์ข้อมูล AI

การระบายความร้อนด้วยของเหลวมีความโดดเด่นเนื่องจากความสามารถในการถ่ายเทความร้อนออกจากส่วนประกอบที่สำคัญ เช่น CPU และ GPU ได้โดยตรง ซึ่งช่วยเพิ่มการกระจายความร้อนเมื่อเทียบกับการระบายความร้อนด้วยอากาศแบบดั้งเดิม ในการระบายความร้อนด้วยของเหลวโดยตรง (DLC)สารหล่อเย็นจะสัมผัสโดยตรงกับชิป ช่วยเพิ่มประสิทธิภาพเชิงความร้อน และลดความจำเป็นในการใช้พัดลมและระบบปรับอากาศขนาดใหญ่ ส่งผลให้การใช้พลังงานในการทำความเย็นลดลง จึงช่วยลดต้นทุนการดำเนินงานทั้งหมดของศูนย์ข้อมูล

นอกจากนี้,การแช่เย็นด้วยของเหลวโดยที่เซิร์ฟเวอร์ทั้งหมดจมอยู่ในของเหลวอิเล็กทริก ทำให้เกิดโซลูชันการระบายความร้อนที่มีประสิทธิภาพมากยิ่งขึ้น วิธีการนี้ไม่เพียงแต่ทำให้ส่วนประกอบทั้งหมดยังคงความเย็น แต่ยังลดการสึกหรอทางกล ซึ่งช่วยยืดอายุการใช้งานของฮาร์ดแวร์ และลดเสียงรบกวนจากอุปกรณ์ที่เคลื่อนที่ด้วยอากาศได้อย่างมาก

ความท้าทายในการใช้พลังงานในฮาร์ดแวร์ AI

เมื่อระบบ AI ขยายตัว การใช้พลังงานก็กลายเป็นความท้าทายที่เพิ่มมากขึ้น ฮาร์ดแวร์ AI เช่นจีพียู NVIDIA H100และสถาปัตยกรรมแบล็กเวลล์เป็นที่รู้กันว่าต้องการพลังงานมาก โดยมีความต้องการพลังงานสูงถึง 1200W ต่อชิป ตัวอย่างเช่น คลัสเตอร์ AI ทั่วไปที่มี GPU H100 จำนวน 22,000 ตัว อาจต้องใช้มากถึงกำลังผลิตไฟฟ้า 31 เมกะวัตต์-เทียบเท่ากับการใช้พลังงานของเมืองเล็กๆ

ความต้องการพลังงานมหาศาลนี้ไม่เพียงแต่เพิ่มต้นทุนการดำเนินงานของศูนย์ข้อมูลเท่านั้น แต่ยังก่อให้เกิดผลกระทบต่อสิ่งแวดล้อมอย่างมีนัยสำคัญอีกด้วย เพื่อจัดการกับความท้าทายเหล่านี้ ศูนย์ข้อมูลจะต้องมุ่งเน้นไปที่ทั้งการลดการใช้พลังงานและการปรับปรุงประสิทธิภาพการทำความเย็น

สถาปัตยกรรม Blackwell ของ Nvidia และน้ำอุ่นที่ส่งตรงไปยังการระบายความร้อนของชิป

ที่การประชุม Hotchip 2024Nvidia ได้เปิดตัวโซลูชันสำหรับการบูรณาการการระบายความร้อนด้วยของเหลวเข้ากับสถาปัตยกรรม Blackwell โดยใช้เทคโนโลยีระบายความร้อนแบบ Direct to Chip ด้วยน้ำอุ่น- วิธีการนี้ใช้น้ำอุ่น (ตรงข้ามกับน้ำเย็น) เพื่อดูดซับและถ่ายเทความร้อนจากชิปโดยตรง ด้วยการใช้การระบายความร้อนด้วยน้ำอุ่น Nvidia สามารถลดการใช้พลังงานการทำความเย็นของศูนย์ข้อมูลได้มากถึง 28%

ประสิทธิภาพของโซลูชันนี้เป็นสองเท่า: ไม่เพียงแต่ช่วยลดการใช้พลังงานโดยรวมในการทำความเย็น แต่ยังช่วยให้สามารถนำความร้อนทิ้งกลับมาใช้ใหม่ได้ ซึ่งสามารถนำกลับมาใช้ใหม่สำหรับการใช้งานอื่นๆ เช่น การทำความร้อนในอาคารใกล้เคียง นอกจากนี้ การระบายความร้อนด้วยน้ำอุ่นยังช่วยยืดอายุการใช้งานของเซิร์ฟเวอร์โดยการรักษาชิปให้อยู่ในช่วงอุณหภูมิที่เหมาะสม ป้องกันความร้อนสูงเกินไป และลดการสึกหรอ

Warm-water Direct to Chip cooling solution for Nvidia's Blackwell architecture efficiently transfers heat and improves cooling performance in AI data centers.

▲น้ำอุ่นส่งตรงไปยังโซลูชันระบายความร้อนของชิป

เทคนิคการระบายความร้อนนี้มีความสำคัญอย่างยิ่งเนื่องจากแอปพลิเคชัน AI เช่น GenAI และ LLM ยังคงขับเคลื่อนพลังการคำนวณที่จำเป็นในศูนย์ข้อมูลต่อไป ความสามารถในการรักษาอุณหภูมิที่เหมาะสมจะส่งผลโดยตรงต่อประสิทธิภาพและความสามารถในการปรับขนาดของเวิร์กโหลด AI ทำให้มั่นใจได้ว่าระบบเหล่านี้สามารถรองรับความต้องการที่เข้มข้นได้

การทำความเย็นด้วยของเหลวแบบจุ่ม: ก้าวที่เหนือกว่า

นอกเหนือจากระบบระบายความร้อนด้วยของเหลวโดยตรงแล้วการแช่เย็นด้วยของเหลวยังได้รับความสนใจในฐานะโซลูชันระดับต่อไปสำหรับระบบ AI ขนาดใหญ่ วิธีการนี้จะจุ่มเซิร์ฟเวอร์ทั้งหมดลงในของเหลวอิเล็กทริกที่ไม่นำไฟฟ้า ซึ่งจะดูดซับและกระจายความร้อนจากส่วนประกอบทั้งหมดได้อย่างสมบูรณ์ ด้วยการระบายความร้อนทั้งระบบในลักษณะนี้ Immersion Liquid Cooling จึงมีข้อดีดังต่อไปนี้:

เพิ่มประสิทธิภาพการทำความเย็น: ด้วยการล้อมรอบส่วนประกอบทั้งหมดด้วยน้ำยาหล่อเย็น วิธีนี้ช่วยให้ระบายความร้อนได้สม่ำเสมอและมีประสิทธิภาพ
ค่าบำรุงรักษาที่ต่ำกว่า: เนื่องจากไม่มีชิ้นส่วนที่เคลื่อนไหว เช่น พัดลม การสึกหรอทางกลจึงน้อยลง ซึ่งช่วยลดต้นทุนการบำรุงรักษาและยืดอายุการใช้งานของอุปกรณ์
ปรับปรุงประสิทธิภาพการใช้พลังงาน: การทำความเย็นแบบจุ่มสามารถลดการใช้พลังงานได้อย่างมาก เนื่องจากไม่จำเป็นต้องใช้ระบบปรับอากาศและส่วนประกอบทำความเย็นแบบแอคทีฟอื่นๆ

Immersion Liquid Cooling system submerges servers in cooling liquid, offering efficient heat removal for AI hardware.

▲ระบบระบายความร้อนด้วยของเหลวแบบแช่

นอกจากนี้,การแช่เย็นด้วยของเหลวสามารถปรับขนาดได้สูง ทำให้เหมาะสำหรับศูนย์ข้อมูลที่จัดการปริมาณงาน AI ที่สร้างความร้อนจำนวนมาก เช่น ที่ขับเคลื่อนโดยสถาปัตยกรรม Blackwell ของ Nvidia เมื่อโมเดล AI ขนาดใหญ่เริ่มแพร่หลายมากขึ้น การทำความเย็นแบบจุ่มอาจกลายเป็นโซลูชันที่ตอบโจทย์สำหรับศูนย์ข้อมูลที่ต้องการขยายขนาดการดำเนินงาน พร้อมทั้งลดต้นทุนด้านพลังงานและผลกระทบต่อสิ่งแวดล้อม

การลงทุนของ Silicon Valley ในด้านเทคโนโลยีการทำความเย็น

ความต้องการที่เพิ่มขึ้นสำหรับโซลูชันการระบายความร้อนที่มีประสิทธิภาพมากขึ้นในศูนย์ข้อมูล AI ได้รับความสนใจจากบริษัทร่วมลงทุน โดยเฉพาะอย่างยิ่งในซิลิคอนแวลลีย์- บริษัทเหล่านี้กำลังลงทุนในสตาร์ทอัพที่เชี่ยวชาญเป็นพิเศษระบายความร้อนด้วยของเหลวเทคโนโลยี โดยตระหนักว่านวัตกรรมในสาขานี้มีความสำคัญต่ออนาคตของฮาร์ดแวร์ AI

สตาร์ทอัพที่กำลังพัฒนาโซลูชั่นการระบายความร้อนขั้นสูงไม่เพียงแต่ให้ประโยชน์ทันทีสำหรับระบบ AI รุ่นปัจจุบัน แต่ยังวางรากฐานสำหรับคลื่นลูกใหม่ของฮาร์ดแวร์ AI ซึ่งมีแนวโน้มว่าจะต้องใช้วิธีการระบายความร้อนที่ซับซ้อนยิ่งขึ้น เทคโนโลยีเหล่านี้จำเป็นต้องตอบสนองทั้งความต้องการพลังงานสูงและความท้าทายด้านความร้อนของระบบ AI ทำให้เป็นการลงทุนที่น่าดึงดูดสำหรับผู้ที่ต้องการก้าวข้ามขอบเขตของสิ่งที่เป็นไปได้ในการประมวลผลประสิทธิภาพสูง

Silicon Valley venture capital firms are investing heavily in startups developing innovative AI cooling technologies.

▲แนวโน้มการลงทุนศูนย์ข้อมูล AI

บทสรุป

ในขณะที่ฮาร์ดแวร์ AI มีการพัฒนาอย่างต่อเนื่อง ความต้องการเทคโนโลยีระบายความร้อนที่เป็นนวัตกรรมก็เพิ่มขึ้น ของ NVIDIAสถาปัตยกรรมแบล็กเวลล์อยู่ในระดับแนวหน้าของการเปลี่ยนแปลงนี้โดยใช้น้ำอุ่นตรงไปยังชิประบายความร้อนเพื่อเพิ่มประสิทธิภาพและลดต้นทุนการดำเนินงานระบายความร้อนด้วยของเหลวไม่ว่าจะด้วยวิธีการสัมผัสโดยตรงหรือการจุ่ม ก็พิสูจน์แล้วว่าเป็นวิธีที่มีประสิทธิภาพมากที่สุดในการจัดการการใช้พลังงานมหาศาลและการปล่อยความร้อนของระบบ AI สมัยใหม่

บริษัทร่วมลงทุนกำลังจับตามอง โดยมีการลงทุนจำนวนมากในสตาร์ทอัพที่สามารถนำเสนอโซลูชั่นระบายความร้อนแห่งอนาคต เนื่องจากศูนย์ข้อมูล AI มีขนาดใหญ่ขึ้นและซับซ้อนมากขึ้น ความสำคัญของระบบระบายความร้อนที่มีประสิทธิภาพและปรับขนาดได้ก็จะเพิ่มขึ้นเท่านั้น ทำให้การระบายความร้อนด้วยของเหลวเป็นรากฐานสำคัญของโครงสร้างพื้นฐานการประมวลผลประสิทธิภาพสูงในอนาคต