Enterprise-SSDs: KI-bezogene Kapazität steigt auf über 45 EByte
Der zunehmende Einsatz von KI macht sich auch im Markt für Enterprise-SSDs bemerkbar. Trendforce zufolge verzeichnet das Segment einen spürbaren Anstieg der Nachfrage nach Flash-Speichern mit mehr als 16 TByte. Die KI-bezogene SSD-Beschaffungskapazität soll in diesem Jahr 45 EByte übersteigen und in den Folgejahren um durchschnittlichen 60 Prozent wachsen.
Die Nachfrage nach KI veranlasst Unternehmen ihre KI-Server besser auszustatten. TrendForce erwartet, dass Enterprise-SSDs im zweiten Halbjahr mit deutlich höherer Kapazität geordert werden. Zunehmende Aufträge für Enterprise-SSDs von KI-Server-Kunden haben dazu geführt, dass die Vertragspreise für diese Kategorie zwischen Q4/23 und Q3/24 um über 80 Prozent gestiegen sind.
Seit dem zweiten Quartal 2024 verzeichnet der Markt für KI-Server-SSDs einen deutlichen Anstieg der Nachfrage nach Produkten mit mehr als 16 TByte. Mit dem Erscheinen der NVIDIA-Produkte der Serien H100, H20 und H200 haben die Kunden begonnen, ihre Bestellungen für TLC-Enterprise-SSDs mit 4- und 8 TByte zu erhöhen.
Trendforce schätzt, dass die KI-bezogene SSD-Beschaffungskapazität in diesem Jahr 45 EByte übersteigen wird. In den nächsten Jahren erwarten die Marktforscher, dass KI-Server die SSD-Nachfrage mit einer durchschnittlichen jährlichen Wachstumsrate von über 60 Prozent antreiben werden. Dabei könnte die KI-SSD-Nachfrage potenziell von fünf Prozent des gesamten NAND-Flash-Verbrauchs im Jahr 2024 auf neun Prozent im kommenden Jahr steigen.
KI-Inferenzserver werden weiterhin SSD-Produkte mit hoher Kapazität verwenden. Die Anbieter haben bereits damit begonnen, die Prozess-Upgrades zu beschleunigen, und streben eine Massenproduktion von 2YY/3XX-Layer-Produkten ab dem ersten Quartal 2025 sowie schließlich die Herstellung von Enterprise-SSDs mit 120 TByte an.
SSD entscheidend für KI-Anwendungen
SSDs spielen eine entscheidende Rolle bei der KI-Entwicklung. Beim Training von KI-Modellen speichern SSDs in erster Linie Modellparameter, einschließlich sich entwickelnder Gewichte und Abweichungen.
Eine weitere SSD-Anwendung ist die Erstellung von Kontrollpunkten, um den Fortschritt des KI-Modelltrainings regelmäßig zu speichern und im Falle von Unterbrechungen eine Wiederherstellung von bestimmten Punkten aus zu ermöglichen. Da diese Funktionen in hohem Maße von einer schnellen Datenübertragung und einer überragenden Schreibausdauer abhängen, entscheiden sich die Kunden in der Regel für TLC-SSDs mit 4 und 8 TByte, um die anspruchsvollen Anforderungen des Trainingsprozesses zu erfüllen.
Trendforce weist darauf hin, dass SSDs, die in »AI Inference Servern« verwendet werden, bei der Anpassung und Optimierung von KI-Modellen während des Inferenzprozesses helfen. Vor allem können SSDs Daten in Echtzeit aktualisieren, um die Ergebnisse des Inferenzmodells fein abzustimmen. KI-Inferenz bietet in erster Linie Retrieval-Augmented Generation (RAG) und LLM-Dienste. SSDs speichern die Referenzdokumente und Wissensdatenbanken, die RAG und LLM verwenden, um informativere Antworten zu generieren. Da immer mehr generierte Informationen als Videos oder Bilder angezeigt werden, steigt auch die erforderliche Speicherkapazität. Die bevorzugte Wahl für KI-Inferenzanwendungen sind daher SSDs mit Kapazitäten ab 16 TByte (TLC/QLC).