Finisar NVIDIA Mellanox 400Gbps Transceiver

สวิตช์สามารถรวมข้อมูลจากหลายเครื่องให้ระหว่างทาง:

• In-Network Processing: ในงานที่ทุกเครื่องต้องส่งผลลัพธ์มารวมกันเป็นค่าเดียว สวิตช์สามารถรวมค่าจากเครื่องที่เชื่อมอยู่ให้ก่อนส่งต่อขึ้นไป แทนที่จะส่งข้อมูลทั้งหมดไปรวมที่จุดเดียว
• Why It Helps: ผลคือปริมาณข้อมูลที่ต้องเดินทางลดลงมากและเวลาที่ใช้ในการรวบรวมสั้นลง ซึ่งมีผลโดยตรงต่อความเร็วของการฝึกโมเดล ทั้งนี้ต้องอาศัยทั้งสวิตช์ที่รองรับและซอฟต์แวร์ที่เรียกใช้ความสามารถนี้เป็น

ต้องวางแผนไฟ ความเย็น และพื้นที่ไปพร้อมกัน:

• Three Together: ตู้ที่บรรจุหน่วยประมวลผลสำหรับงานปัญญาประดิษฐ์ใช้ไฟต่อตู้สูงกว่าตู้ทั่วไปหลายเท่า ซึ่งเกินความสามารถของห้องที่ออกแบบไว้สำหรับงานทั่วไป ต้องปรับปรุงทั้งระบบจ่ายไฟและระบบทำความเย็นก่อน และอาจต้องกระจายอุปกรณ์ไปหลายตู้ซึ่งทำให้สายยาวขึ้น ควรประเมินทั้งสามด้านก่อนสั่งซื้ออุปกรณ์ ไม่ใช่หลังจากนั้น

ควรสั่งทุกอย่างพร้อมกันและเผื่ออะไหล่ตั้งแต่ต้น:

• Order Everything Together: ระบบขนาดนี้ต้องการโมดูลและสายจำนวนมหาศาล ซึ่งมักมีระยะเวลารอของยาว หากสั่งอุปกรณ์หลักก่อนแล้วค่อยสั่งสายและโมดูล โครงการจะหยุดรอโดยไม่จำเป็น ควรสั่งพร้อมกันทั้งหมดพร้อมเผื่ออะไหล่ไว้ในสัดส่วนที่เหมาะสม เพราะเมื่อมีลิงก์นับพันเส้น จะมีบางเส้นที่ต้องเปลี่ยนในช่วงติดตั้งเสมอ