เมื่อเซิร์ฟเวอร์ AI ต้องการเทคโนโลยีระบายความร้อนที่สูงกว่า ทำไมเทรนด์จึงเปลี่ยนจาก "การระบายความร้อนด้วยอากาศ" มาเป็น "การระบายความร้อนด้วยของเหลว"

 

เจนเซ่น หวง ซีอีโอของ NVIDIA ปรากฏตัวเป็นพิเศษที่งาน COMPUTEX 2023 เพื่อสนับสนุนคำปราศรัยของชาร์ลส์ เหลียง ประธานบริษัท Supermicro หลิน ยู่เฉิน ประธานบริษัท Fanner ชี้ให้เห็นว่าผลิตภัณฑ์เซิร์ฟเวอร์ส่วนใหญ่ที่จัดแสดงบนเวทีเป็นโมดูลระบายความร้อนด้วยน้ำของ Fanner ซึ่งลงทุนด้านโมดูลระบายความร้อนด้วยน้ำมานานหลายปี จึงอยู่ในตำแหน่งที่ดีในการใช้ประโยชน์จากกระแส AI นี้ อย่างไรก็ตาม เนื่องจากเซิร์ฟเวอร์ AI ต้องการมาตรฐานการระบายความร้อนที่สูงขึ้นเรื่อยๆ เหตุใดกระแสนี้จึงเปลี่ยนจาก "การระบายความร้อนด้วยอากาศ" ไปเป็น "การระบายความร้อนด้วยของเหลว"

 

 

I จากการทำงานความเร็วสูงไปจนถึงการระบายความร้อนด้วยของเหลว

 

ในแง่ของเทคโนโลยีการระบายความร้อน Lin Yushen ตั้งข้อสังเกตว่าโมดูลระบายความร้อนในปัจจุบันส่วนใหญ่ใช้เทคโนโลยีระบายความร้อนแบบไฮบริดที่รวมเอาท่อระบายความร้อนเข้าไปด้วย โมดูลระบายความร้อนด้วยท่อระบายความร้อนเหล่านี้รวมเอาส่วนประกอบต่างๆ เช่น พัดลม แผ่นระบายความร้อน และท่อระบายความร้อนเข้าด้วยกันเพื่อสร้างสภาพแวดล้อมความร้อนที่สมดุลสำหรับส่วนประกอบอิเล็กทรอนิกส์ภายใน จึงช่วยเพิ่มเสถียรภาพให้กับอุปกรณ์อิเล็กทรอนิกส์ได้ อย่างไรก็ตาม เนื่องจากผลิตภัณฑ์อิเล็กทรอนิกส์ปลายทางมีฟังก์ชันหลากหลายและกะทัดรัดมากขึ้น ผู้ผลิตโมดูลระบายความร้อนจึงหันมาออกแบบโซลูชันการระบายความร้อนโดยเน้นที่ห้องระเหยและท่อระบายความร้อนแทน

 

ปัจจุบัน โมดูลระบายความร้อนแบ่งออกเป็น 2 ประเภท ได้แก่ "การระบายความร้อนด้วยอากาศ" และ "การระบายความร้อนด้วยของเหลว" การระบายความร้อนด้วยอากาศใช้อากาศเป็นตัวกลาง โดยมีวัสดุ เช่น วัสดุอินเทอร์เฟซทางความร้อน ห้องระเหย (VC) หรือท่อนำความร้อนที่นำความร้อน จากนั้นจึงกระจายความร้อนผ่านแผงระบายความร้อนหรือพัดลมผ่านการพาความร้อน ในทางตรงกันข้าม การระบายความร้อนด้วยของเหลวจะกระจายความร้อนผ่านการพาความร้อนด้วยของเหลว รวมถึงการระบายความร้อนด้วยการจุ่ม ซึ่งจะทำให้ชิประบายความร้อนได้อย่างมีประสิทธิภาพมากขึ้น อย่างไรก็ตาม เมื่อชิปสร้างความร้อนมากขึ้นและมีขนาดเล็กลง และเมื่อค่า TDP (Thermal Design Power) เพิ่มขึ้น การระบายความร้อนด้วยอากาศจะค่อยๆ ไม่เพียงพอ

 

▲ การเปรียบเทียบระหว่างเทคโนโลยีระบายความร้อนด้วยอากาศและระบายความร้อนด้วยของเหลว

 

ด้วยการเติบโตของ ChatGPT ปัญญาประดิษฐ์เชิงสร้างสรรค์ได้ผลักดันให้การจัดส่งเซิร์ฟเวอร์เพิ่มขึ้น ซึ่งส่งผลให้มีการปรับปรุงคุณลักษณะสำหรับโมดูลระบายความร้อน ผลักดันให้โมดูลระบายความร้อนเหล่านี้หันไปใช้โซลูชันระบายความร้อนด้วยของเหลวเพื่อตอบสนองความต้องการที่เข้มงวดสำหรับการระบายความร้อนและความเสถียรของเซิร์ฟเวอร์ Lin Yushen เน้นย้ำว่า Fanner เริ่มต้นด้วยเทคโนโลยีระบายความร้อนด้วยอากาศ และเมื่อ 10 ปีที่แล้ว เริ่มได้รับเทคโนโลยีระบายความร้อนด้วยของเหลวผ่านการถ่ายโอนเทคโนโลยีของ IBM พวกเขาจัดหาประตูหลังระบายความร้อนด้วยน้ำที่ช่วยให้ลูกค้าสามารถเพิ่มการระบายความร้อนด้วยน้ำในตู้ได้โดยไม่ต้องปรับเปลี่ยนโครงสร้างพื้นฐานของศูนย์ข้อมูลที่มีอยู่

 

 

II ภายในปี 2025 ยุคใหม่ของการระบายความร้อนด้วยอากาศและของเหลวพร้อมกัน

 

การพัฒนาเทคโนโลยีเซมิคอนดักเตอร์ที่เกี่ยวข้องกับแอปพลิเคชัน AI ส่งผลให้ GPT-3 ถูกนำมาใช้ใน ChatGPT ทำให้พารามิเตอร์ของอัลกอริทึม AI เพิ่มขึ้นเป็น 175 พันล้าน ส่งผลให้ต้องใช้พลังประมวลผล GPU เพิ่มขึ้นร้อยเท่า อุตสาหกรรมนี้ใช้เทคโนโลยีระบายความร้อนแบบจุ่มเฟสเดียวเป็นหลักในการระบายความร้อนด้วยของเหลวเพื่อแก้ปัญหาการกระจายความร้อนของเซิร์ฟเวอร์หรือส่วนประกอบที่มีความหนาแน่นสูง อย่างไรก็ตาม วิธีนี้มีขีดจำกัดที่ 600W ในขณะที่ความต้องการในการระบายความร้อนสำหรับ ChatGPT หรือเซิร์ฟเวอร์ขั้นสูงกว่านั้นเกิน 700W

 

▲ ภาพประกอบเทคโนโลยีทำความเย็นแบบจุ่มเฟสเดียว

 

ด้วยการพัฒนา IoT การประมวลผลแบบเอจ และแอปพลิเคชัน 5G ข้อมูล AI กำลังขับเคลื่อนพลังการประมวลผลทั่วโลกให้เข้าสู่ช่วงการเติบโตสูง การออกแบบโมดูลระบายความร้อนรุ่นต่อไปจะดำเนินไปในสองทิศทางหลัก ได้แก่ การอัปเกรดโมดูลระบายความร้อนที่มีอยู่ด้วยห้องระเหย 3 มิติ (3DVC) หรือการแนะนำระบบระบายความร้อนด้วยของเหลวที่ใช้ของเหลวเป็นตัวกลางการพาความร้อนเพื่อปรับปรุงประสิทธิภาพการระบายความร้อน ส่งผลให้จำนวนการทดสอบการระบายความร้อนด้วยของเหลวเพิ่มขึ้นอย่างมีนัยสำคัญในปี 2023 อย่างไรก็ตาม 3DVC ถือเป็นโซลูชันการเปลี่ยนผ่านในท้ายที่สุด และคาดว่าภายใน 2024-2025 ยุคของการระบายความร้อนด้วยอากาศและของเหลวพร้อมกันจะเริ่มขึ้น

 

ตามข้อมูลของ TrendForce ในปี 2022 เซิร์ฟเวอร์ AI ที่ติดตั้ง GPGPU (GPU สำหรับวัตถุประสงค์ทั่วไป) คิดเป็นประมาณ 1% ของการจัดส่งทั้งหมด อย่างไรก็ตาม คาดว่าการจัดส่งเซิร์ฟเวอร์ AI จะเติบโตขึ้น 38.4% ในปี 2023 โดยอัตราการเติบโตต่อปีแบบทบต้นของการจัดส่งเซิร์ฟเวอร์ AI ระหว่างปี 2022 ถึง 2026 จะสูงถึง 29% จากการใช้งาน ChatGPT

 

 

III “ระบบระบายความร้อนด้วยของเหลว” จะกลายเป็นกระแสหลักของชิป AI

 

เนื่องจากค่า TDP ของเซิร์ฟเวอร์รุ่นใหม่เข้าใกล้ขีดจำกัดของการระบายความร้อนด้วยอากาศ บริษัทเทคโนโลยีชั้นนำจึงเริ่มทดสอบการระบายความร้อนด้วยของเหลวหรือเพิ่มพื้นที่ในการระบายความร้อน ตัวอย่างเช่น Eagle Stream ของ Intel และ Genoa ของ AMD ที่มีค่า TDP 350-400W ได้ไปถึงขีดจำกัดของการระบายความร้อนด้วยอากาศแล้ว ทำให้การระบายความร้อนด้วยของเหลวกลายเป็นโซลูชันหลักสำหรับชิป AI NVIDIA H100 มี TDP 700W และการระบายความร้อนด้วยอากาศโดยใช้ 3DVC โดยทั่วไปต้องใช้พื้นที่มากกว่า 4U ซึ่งไม่เหมาะสำหรับสถาปัตยกรรมการใช้งานที่มีความหนาแน่นสูง

 

▲ H100 ของ NVIDIA

 

เนื่องจากระบบระบายความร้อนคิดเป็นประมาณ 33% ของการใช้พลังงานทั้งหมดในศูนย์ข้อมูล การลดการใช้พลังงานทั้งหมดและการเพิ่มประสิทธิภาพการใช้พลังงาน (PUE) จึงเกี่ยวข้องกับการปรับปรุงระบบระบายความร้อน อุปกรณ์ไอที และการใช้พลังงานหมุนเวียน เนื่องจากความสามารถในการระบายความร้อนของน้ำนั้นมากกว่าอากาศถึง 4 เท่า การใช้ระบบระบายความร้อนด้วยของเหลวจึงต้องใช้พื้นที่เพียง 1U สำหรับแผ่นระบายความร้อนด้วยของเหลว ตามการทดสอบของ NVIDIA เพื่อให้ได้พลังการประมวลผลเท่ากัน การระบายความร้อนด้วยของเหลวสามารถลดจำนวนตู้ที่ต้องใช้ลงได้ 66% การใช้พลังงานลงได้ 28% และ PUE จาก 1.6 เหลือ 1.15 และยังช่วยปรับปรุงประสิทธิภาพการประมวลผลอีกด้วย

 

 

การใช้โมดูลระบายความร้อน Fanner ของ IV Supermicro ถือเป็นสิ่งสำคัญ

 

การระบายความร้อนด้วยของเหลวยังแบ่งออกเป็น "การระบายความร้อนด้วยน้ำ" และ "การระบายความร้อนด้วยน้ำมัน" โดยในปัจจุบันการระบายความร้อนด้วยน้ำเป็นวิธีการที่ใช้กันอย่างแพร่หลายที่สุด Lin Yushen ตั้งข้อสังเกตว่าเซิร์ฟเวอร์ AI เกือบทั้งหมดในปัจจุบันใช้โซลูชันการระบายความร้อนด้วยน้ำ ตัวอย่างเช่น GH100 ของ NVIDIA ที่มี TDP เกิน 700W ต้องใช้การระบายความร้อนด้วยน้ำ แม้ว่าปัจจุบันการระบายความร้อนด้วยน้ำจะคิดเป็นสัดส่วนเล็กน้อยของรายได้ของ Fanner แต่ราคาขายเฉลี่ย (ASP) ของเซิร์ฟเวอร์ AI นั้นสูงกว่าเซิร์ฟเวอร์แบบดั้งเดิมถึง 10 เท่า ซึ่งจะช่วยเปลี่ยนแปลงโครงสร้างผลิตภัณฑ์ของ Fanner ในช่วงครึ่งหลังของปี คาดว่าเซิร์ฟเวอร์ AI อาจคิดเป็น 5-10% ของธุรกิจในปี 2023

 

Lin Yushen เน้นย้ำว่าเหตุผลสำคัญที่ Supermicro ใช้โมดูลระบายความร้อนด้วยน้ำจาก Fanner สำหรับเซิร์ฟเวอร์ที่ติดตั้ง GPU NVIDIA GH100 ก็คือ Fanner ได้ทำงานเกี่ยวกับโซลูชันระบายความร้อนด้วยของเหลวมานานกว่าทศวรรษแล้ว แม้ว่าความท้าทายในการนำระบบระบายความร้อนด้วยน้ำมาใช้จะเกี่ยวข้องกับต้นทุนและการป้องกันการรั่วไหลเป็นหลัก แต่การวิจัยของ Fanner กว่าสิบปีได้ค่อยๆ เอาชนะปัญหาการรั่วไหลเหล่านี้ได้ การลงทุนระยะยาวของ Fanner ในโมดูลระบายความร้อนด้วยน้ำทำให้พวกเขาอยู่ในตำแหน่งที่จะใช้ประโยชน์จากกระแส AI นี้

 

▲ ระบบระบายความร้อนด้วยของเหลวที่ปรับแต่งเองของ Supermicro

 

Lin Yushen เน้นย้ำว่าการเพิ่มขึ้นอย่างต่อเนื่องของ TDP ที่ขับเคลื่อนโดยการประมวลผลความเร็วสูงและความต้องการการระบายความร้อนที่เพิ่มขึ้นของเซิร์ฟเวอร์ AI ได้ผลักดันการระบายความร้อนด้วยท่อความร้อนแบบเดิมให้ถึงขีดจำกัด ซึ่งจำเป็นต้องใช้โมดูลระบายความร้อนด้วยน้ำ Fanner มีลูกค้าหลายรายแล้ว รวมถึง Supermicro และ Meta ที่นำโซลูชันของพวกเขาไปใช้ แม้ว่าการนำการระบายความร้อนด้วยน้ำมาใช้จะเร็วกว่าที่คาดไว้ แต่ก็ไม่น่าจะนำไปใช้ได้อย่างสมบูรณ์ในปี 2023 อย่างไรก็ตาม คาดว่าจะเห็นการพัฒนาที่สำคัญภายในปี 2024 โดยคาดว่าจะเติบโตอย่างก้าวกระโดดในปี 2025