Press release

KAYTUS stellt KR1280V2 vor – ein 1U-Server mit 32 E1.S SSDs, der die I/O-Leistung für LLM-Training erhöht

0
Präsentiert von Businesswire

KAYTUS, ein führender IT-Infrastrukturanbieter, stellte auf der ISC High Performance 2024 seinen High-Density-Computing-Server KR1280V2 vor. Er unterstützt 32 E1.S SSDs und erreicht damit eine beeindruckende Flash-Speicherdichte von 512 TB in einem 1U-Formfaktor. Im Vergleich zur letzten Generation setzt der KR1280V2 auf ein Speicher- und Netzwerkdesign mit geringer Latenz, der die E/A-Leistung mit hoher Parallelität für LLM-Trainingsszenarien verdoppelt und die Effizienz des Modelltrainings verbessert.

Dieser 1U2S-Flaggschiff-Server wird von den neuesten Intel-, AMD- oder ARM-Prozessoren angetrieben. Der KR1280V2 verfügt über eine optimierte Kühlungsstrategie, um CPUs mit der höchsten TDP über alle Plattformen hinweg ohne Konfigurationseinschränkungen zu unterstützen. Außerdem führt er eine neuartige Front-I/O-Konfiguration ein, die die Skalierbarkeit mit 8 PCIe 5.0-Erweiterungskarten verbessert und die Wartungseffizienz in Rechenzentren erhöht. Der Laufwerkseinschub des Servers wurde optimiert, um eine innovative Speicherkonfiguration mit 12 SFF-Laufwerken an der Vorderseite zu bieten, die die Speicherdichte um 20 % erhöht.

Unterstützt 32 E1.S SSDs ohne Leistungseinbußen und liefert zig Millionen IOPS

Angetrieben von Intel® Xeon® Prozessoren der 5. Generation und mit einer bemerkenswerten Rechendichte unterstützt der KR1280V2 bis zu 32 All-Flash E1.S SSDs, die direkt mit CPUs in einem 1U-Formfaktor verbunden sind. Diese Konfiguration nutzt die volle I/O-Rate von PCIe 5.0, maximiert den Durchsatz zwischen CPUs und Speicher und erreicht einen Speicherdurchsatz von bis zu 160 GB/s. Durch die Lastverteilung auf zwei OCP 3.0-Karten verdoppelt sich die Netzwerkbandbreite, wodurch verschiedene Anforderungen an die Datenspeicherung und -verarbeitung erfüllt und die Gesamtleistung um 60 % gesteigert werden.

Mit ultimativer Flash-Speicherdichte verdoppelt der KR1280V2 effektiv die Leistung von LLMs mit hoher Parallelität

Der KR1280V2 erreicht in verteilten Speicherszenarien eine Leistung von mehreren zehn Millionen IOPS, was eine bemerkenswerte Verbesserung von 77 % bedeutet. Der Einsatz von KR1280V2-Servern für groß angelegte LLM-Training gewährleistet eine Verdoppelung der E/A-Leistung bei hoher Parallelität im Vergleich zur vorherigen Generation. Mit der zunehmenden Anzahl von Grafikprozessoren und einer steigenden Arbeitslast wird die Latenzkurve des KR1280V2 glatter und vorhersehbarer, so dass sich die Datenlatenz auch im Vergleich zur vorherigen Generation um beachtliche 13 % verbessert. Diese bedeutenden Fortschritte verbessern die Effizienz der Datenaufbereitung, des Modelltrainings und der Datenverwaltung bei gleichzeitiger Reduzierung des verschwendeten Speicherplatzes. Folglich bietet sie robuste Speicherkapazität und Leistung für innovative LLM-Anwendungen und unterstützt besser Java-basierte Geschäftsszenarien, die große Datenmengen, geringe Latenz und hohe Gleichzeitigkeit erfordern, wie z. B. im Finanzwesen, bei Cloud-Services, in Unternehmen und anderen Rechenzentrumsanwendungen.

Optimierte Kühltechnologien und außergewöhnliche Geschäftszuverlässigkeit und Nachhaltigkeit

In Bezug auf die Wärmeabfuhr unterstützt der KR1280V2 mehrere Kühlmethoden, darunter EVAC-Kühlkörper-Luftkühlung, Cold-Plate-Flüssigkeitskühlung und Immersionskühlung. Durch die Regulierung der Lüfterpartition, die BIOS-Optimierung per Mausklick und andere Techniken wird in 17 energieeffizienten Szenarien eine Leistungsreduzierung von 8 bis 12 % erreicht. Darüber hinaus setzt der KR1280V2 zahlreiche fortschrittliche Technologien ein, um die Stabilität und Sicherheit zu verbessern. Er führt die außergewöhnliche MUPR2.0-Speicherfehler-Früherkennungsfunktion ein, die eine umfassendere Speicher-Scrubbing-Technik zur Selbstüberprüfung und -behebung von Speicherfehlern einsetzt, wodurch ein breiterer Bereich der Fehlerkorrektur und ein höheres Maß an Systemschutz erreicht wird. Infolgedessen ist die Ausfallrate des Systems um 69 % niedriger als im Branchendurchschnitt.

Um mehr über den KAYTUS KR1280V2 High-Density-Server zu erfahren, besuchen Sie bitte unsere Website.

Über KAYTUS

KAYTUS ist ein führender Anbieter von IT-Infrastrukturlösungen, der eine breite Palette an innovativen, offenen und umweltfreundlichen Produkten für Cloud, KI, Edge Computing und andere neue Anwendungen anbietet. Mit einem kundenzentrierten Ansatz ist KAYTUS agil und reagiert durch sein anpassungsfähiges Geschäftsmodell auf die Bedürfnisse der Nutzer. Entdecken Sie mehr unter KAYTUS.com

Die Ausgangssprache, in der der Originaltext veröffentlicht wird, ist die offizielle und autorisierte Version. Übersetzungen werden zur besseren Verständigung mitgeliefert. Nur die Sprachversion, die im Original veröffentlicht wurde, ist rechtsgültig. Gleichen Sie deshalb Übersetzungen mit der originalen Sprachversion der Veröffentlichung ab.