1.6T OSFP InfiniBand Transceiver

ต่างที่ขนาดและความสามารถในการระบายความร้อน:

• Built for Heat: OSFP มีขนาดใหญ่กว่ารูปทรงรุ่นก่อนและออกแบบให้มีครีบระบายความร้อนติดมากับตัวโมดูลเอง ต่างจากรูปทรงอื่นที่อาศัยการระบายความร้อนผ่านช่องเสียบของอุปกรณ์เป็นหลัก
• Why It Matters Here: ที่ความเร็วระดับเทระบิต โมดูลใช้พลังงานสูงมากจนการระบายความร้อนกลายเป็นข้อจำกัดหลัก หากระบายไม่ทันโมดูลจะลดประสิทธิภาพลงเองหรือหยุดทำงาน รูปทรงนี้จึงเป็นสิ่งจำเป็นไม่ใช่ทางเลือก

เพราะเวลาที่หน่วยประมวลผลรอข้อมูลคือเวลาที่สูญเปล่า:

• GPUs Waiting Is Waste: หน่วยประมวลผลสำหรับงานปัญญาประดิษฐ์มีราคาสูงมาก ทุกวินาทีที่รอข้อมูลจากเครื่องอื่นคือทรัพยากรที่จ่ายไปแล้วแต่ไม่ได้ใช้ ในการฝึกโมเดลขนาดใหญ่ เครื่องทุกเครื่องต้องแลกเปลี่ยนผลลัพธ์กันทุกรอบการคำนวณ ซึ่งเกิดขึ้นตลอดเวลาหลายสัปดาห์ การลดเวลาสื่อสารลงแม้เล็กน้อยจึงย่นระยะเวลาฝึกและลดต้นทุนรวมได้อย่างมีนัยสำคัญ

ต้องพร้อมทั้งไฟ ความเย็น และการเดินสาย:

• Power and Cooling: ตู้ที่บรรจุระบบระดับนี้ใช้ไฟต่อตู้สูงกว่าตู้ทั่วไปหลายเท่าจนอาจเกินที่ห้องออกแบบไว้ และความร้อนที่ปล่อยออกมาอาจต้องใช้ระบบทำความเย็นแบบที่ต่างจากการเป่าลมทั่วไป
• Cabling Density: จำนวนสายต่อตู้ก็สูงมากเช่นกัน ควรวางแผนเส้นทางเดินสาย แผงจัดสาย และระบบติดป้ายไว้ก่อนติดตั้ง เพราะเมื่อสายนับพันเส้นเข้าที่แล้ว การแก้ไขภายหลังแทบเป็นไปไม่ได้