NVIDIAがRubinの推論設計を詳説、GPUからラックまで「待たせない」仕組み

RubinはMoEの重み搬送や長文脈Attention、カーネル依存、NVLink同期の待ち時間を減らす。NVIDIAは推論設備の演算器を止めず、電力当たりの処理量を伸ばす設計を具体化した。