DeepSeek stellt TileKernels Open Source: GPU-Kernel-Bibliothek für das Training und die Inferenz großer Modelle

Gate News-Meldung, 23. April — DeepSeek hat TileKernels unter der MIT-Lizenz Open Source gestellt: eine GPU-Kernel-Bibliothek, die in TileLang geschrieben ist und für das Training und die Inferenz großer Sprachmodelle entwickelt wurde. TileLang ist eine domänenspezifische Sprache, die vom tile-ai-Team entwickelt wurde, um leistungsstarke GPU-Kernels auszudrücken in Python. DeepSeek erklärte, dass die meisten Kernels in der Bibliothek die Hardware-Leistungsgrenzen in Bezug auf Rechendichte und Speicherbandbreite erreicht haben, wobei Teile bereits in internen Trainings- und Inferenzoperationen eingesetzt werden.

Die Bibliothek umfasst sechs Kategorien von Kernels: MoE (Mixture of Experts)-Gating und Routing, einschließlich Top-k-Expertenauswahl, Token-zu-Experten-Mapping sowie gefusedes Expand/Shrink mit Weight-Normalisierung; Quantisierung, die FP8-, FP4- und E5M6-Formate unterstützt, mit Quantisierung pro Token, pro Block und pro Kanal, einschließlich gefuserter SwiGLU+Quantisierungsoperationen; Batch-Transpose; Engram-Gating mit gefusedem RMSNorm-Vorwärts-/Rückwärts-Propagation und Reduktion des Weight-Gradienten; Manifold HyperConnection mit Sinkhorn-Normalisierung und gemischtem Split/Apply; sowie High-Level-Autograd-Schnittstellen, die Low-Level-Kernels in trainierbare Layer einhüllen.

Engram und Manifold HyperConnection sind proprietäre Komponenten der Modellarchitektur von DeepSeek; Implementierungsdetails wurden erstmals öffentlich offengelegt. Die Bibliothek benötigt NVIDIA-SM90- oder SM100-Architektur-GPUs (H100/H200 oder Blackwell-Serie), CUDA Toolkit 13.1 oder höher sowie PyTorch 2.10 oder höher.

Disclaimer: The information on this page may come from third parties and does not represent the views or opinions of Gate. The content displayed on this page is for reference only and does not constitute any financial, investment, or legal advice. Gate does not guarantee the accuracy or completeness of the information and shall not be liable for any losses arising from the use of this information. Virtual asset investments carry high risks and are subject to significant price volatility. You may lose all of your invested principal. Please fully understand the relevant risks and make prudent decisions based on your own financial situation and risk tolerance. For details, please refer to Disclaimer.

Verwandte Artikel

Yun Feng Finance startet heute ein Produkt für tokenisiertes physisches Gold: Jede Einheit wird durch 1 Gramm Gold mit 99,99% Reinheit abgesichert, das von der LBMA zertifiziert ist.

Laut offizieller Ankündigung hat die Yun-Feng-You-Yu-Plattform von Yun Feng Finance heute (7. Mai) ein physisches Gold-Token-Produkt gelauncht. Das Token ist für qualifizierte professionelle Anleger ausgelegt und durch physisches Gold als zugrunde liegenden Vermögenswert abgesichert, wobei jede Einheit 1 Gramm von entspricht

GateNews7M her

DTCC-CEO: Im Juli startet ein Test für tokenisierte Wertpapiere, die Leistungsfähigkeit von L1 ist der entscheidende Engpass

Laut CoinDesk vom 6. Mai erklärte Frank La Salla, Präsident und CEO der US-amerikanischen Verwahr- und Abwicklungsstelle für Wertpapiere DTCC, am Mittwoch auf der Consensus 2026-Konferenz in Miami, dass die DTCC mit mehreren Layer-1-(L1)-Blockchain-Netzwerken zusammenarbeitet und angekündigt hat, dass das Unternehmen ab Juli 2026 mit Tests für eine Plattform für tokenisierte Wertpapiere beginnen will.

MarketWhisper45M her

Amerikanischer Bitcoin-Q1-Bericht: Die Bitcoin-Reserven steigen auf 7.021 BTC, der Nettoverlust beträgt 82 Millionen

Laut Berichten von Bloomberg und Reuters vom 7. Mai hat das von der Familie Trump unterstützte Bitcoin-Mining-Unternehmen American Bitcoin Corp. (ABTC) seine Finanzergebnisse für das erste Quartal 2026 veröffentlicht: Der Nettoverlust betrug 82 Millionen US-Dollar, verglichen mit einem Verlust von 59 Millionen US-Dollar im vierten Quartal 2025. Im Quartal betrug die Mining-Produktion 817 Bitcoin; bis zum 31. März stiegen die gesamten Bitcoin-Reserven auf 7.021.

MarketWhisper1Std her

Aave liquidiert die rsETH-Positionen des Angreifers von Kelp DAO

Die Onchain-Kreditplattform Aave hat laut einer Ankündigung vom Mittwoch die verbleibenden rsETH-Positionen des Angreifers der Kelp-DAO liquidiert – im Rahmen eines zuvor angekündigten Wiederherstellungsplans. Die liquidierte Sicherheit wird in den Recovery Guardian verschoben, eine dafür vorgesehene Multisig, die von DeFi Uni verwaltet wird

CryptoFrontier5Std her

Circles USYC erreicht 30 Milliarden US-Dollar an Vermögenswerten und wird am 7. Mai zum weltweit größten tokenisierten Geldmarkt-Fonds

Laut BlockBeats erreichte Circles USYC am 7. Mai 30 Milliarden US-Dollar an Assets under Management und wurde damit dem weltweit größten tokenisierten Geldmarktfonds. USYC tokenisiert traditionelle Geldmarktfonds on-chain und ermöglicht institutionellen Anlegern, renditeerzeugende Vermögenswerte zu halten, zu handeln und das Yield-Management zu übernehmen. Der Fonds

GateNews9Std her

Cardano startet Draper Dragon Orion-Fonds für Wachstum des Ökosystems

Cardano hat am 6. Mai 2026 den Draper Dragon Orion Fund aktiviert und damit sein erstes professionell verwaltetes Anlagevehikel eingeführt, das durch Mittel aus dem Staatshaushalt abgesichert ist, wie eine Ankündigung von Dave (@ItsDave_ADA) berichtet. Die Initiative wurde durch On-Chain-Governance genehmigt, mit Unterstützung von Delegated

CryptoFrontier11Std her
Kommentieren
0/400
Keine Kommentare