DeepSeek mengumumkan open source DeepGEMM

Deepseek mengumumkan pembukaan sumber DeepGEMM pada hari ketiga Pekan Sumber Terbuka. DeepGEMM adalah perpustakaan yang dirancang khusus untuk perkalian matriks umum (GEMM) FP8 yang ringkas dan efisien, dengan kemampuan skala yang halus, seperti yang diusulkan dalam DeepSeek-V3. Ini mendukung baik GEMM reguler maupun Mixture of Experts (MoE) yang dikelompokkan. Perpustakaan ini ditulis dalam CUDA, tidak memerlukan kompilasi selama instalasi, dan mengkompilasi semua kernel saat runtime menggunakan modul Just-In-Time (JIT) yang ringan. Perpustakaan FP8GEMM menyediakan dukungan untuk pelatihan dan inferensi V3/R1.