pixelparticleshutterstock
Bits And SplitsShutterstock
sdecoretShutterstock
G-Stock Studioshutterstock
mrmohockshutterstock
jannoon028Shutterstock
Ruslan GrumbleShutterstock
PHENPHAYOMshutterstock
ITTIGalleryshutterstock
Große KI-Modelle wie LLMs wären ohne reduzierte numerische Präzision kaum effizient trainierbar. Formate wie FP16, BF16 und FP8 senken den Speicherbedarf erheblich und beschleunigen Berechnungen auf modernen GPUs. Gleichzeitig beeinflusst die gewählte Präzision die Stabilität und…
KI-Beschleuniger sind die Hardware hinter modernen Sprachmodellen, Bildgeneratoren und lokalen KI-Funktionen. Doch GPU, TPU, NPU und LPU verfolgen sehr unterschiedliche Ansätze: vom Training riesiger Modelle im Rechenzentrum bis zur energieeffizienten Inferenz direkt auf dem…
maxkabakovShutterstockIm Zuge der Digitalisierung rückte die Wichtigkeit von Backups ins Bewusstsein von Mitarbeitern und Entscheidungsträgern. Dabei galt die 3-2-1 Regel als Goldstandard: von jeder Datei werden zwei redundante Kopien vorgehalten. Im Zuge der technologischen Entwicklung geht der Trend…
Rawpixel.comShutterstockEines der größten Aufgabenfelder für Verantwortliche von Business-IT ist die langfristige Sicherheit von Daten, Soft- und Hardware: Wird die Business-Logik lahmgelegt, ist eine schnelle Wiederherstellung essenziell. Cloud Disaster Recovery (Cloud DR) ist ein Konzept, das sich…
CPUs und GPUs verfolgen unterschiedliche Ziele: Während CPUs auf geringe Latenz und komplexe Logik optimiert sind, liefern GPUs enorme Leistung bei parallelen Berechnungen. Unser Artikel erklärt die technischen Unterschiede bei CPUs vs. GPUs verständlich und zeigt anhand…
Ahmet MisirligulshutterstockMit Blackwell führt NVIDIA eine neue GPU-Generation ein. Gegenüber der H100 verbessert die B200 unter anderem Speicherbandbreite, Interconnect-Leistung und Effizienz pro erzeugtem Token. Unser Artikel analysiert die Unterschiede zwischen Blackwell vs. Hopper und liefert eine…
jijomathaidesignersshutterstockMehr CUDA-Cores bedeuten nicht automatisch mehr Leistung. Bei modernen Sprachmodellen, 4K-Video-Workflows und 3D-Renderings wird häufig der verfügbare VRAM zum eigentlichen Flaschenhals. In diesem Artikel erklären wir, warum Speicherkapazität und Speicherbandbreite oft wichtiger…
Titima OngkantongShutterstockNVIDIA RAPIDS gehört zu den wichtigsten Open-Source-Projekten für GPU-beschleunigte Datenverarbeitung. Die Plattform ermöglicht es, bekannte Python-Bibliotheken wie pandas, scikit-learn und NetworkX durch GPU-optimierte Varianten zu ersetzen. Dadurch lassen sich große Datensätze…
sakkmesterkeshutterstockNicht jeder KI-Workload benötigt die Leistung einer kompletten H100 oder B200. Mit NVIDIA MIG lassen sich Rechenzentrums-GPUs in mehrere unabhängige GPU-Instanzen unterteilen, die jeweils über eigene Rechen- und Speicherressourcen verfügen. Das erhöht die Auslastung teurer…
kentohShutterstockVideo-Transcoding ist ein zentraler Bestandteil von Streaming- und Medienplattformen. Dabei stehen Unternehmen vor der Wahl zwischen GPU-beschleunigten Encodern wie NVENC und klassischen Software-Encodern wie x264 oder x265. Beide Ansätze verfolgen unterschiedliche Ziele und…