Erasure Coding in Action: How Big Tech Saves Petabytes of Data
3-Second Blueprint (English)
- Erasure coding splits files into k data chunks and m Reed-Solomon parity chunks so any k surviving chunks rebuild the whole file.
- Storage overhead scales as (k+m)/k—for example, a (4,2) scheme uses 1.5x storage while surviving two simultaneous node failures.
- Cloud stores like AWS S3 and HDFS trade extra CPU encoding cost and rebuild latency for major petabyte-scale storage savings.
Erasure Coding (k, m)Reed-Solomon CodingParity Chunk ReconstructionStorage Overhead FormulaDistributed Fault Tolerance
3-Sekunden-Fazit (Deutsch)
- Erasure Coding teilt Dateien in k Daten- und m Reed-Solomon-Paritätsblöcke, sodass beliebige k Blöcke die Datei rekonstruieren.
- Der Speicher-Overhead beträgt (k+m)/k: Ein (4,2)-Schema benötigt nur das 1,5-Fache an Speicher und verkraftet zwei Knotenausfälle.
- Systeme wie AWS S3 und HDFS tauschen höhere CPU-Rechenlast und Rebuild-Latenz gegen enorme Speichereinsparungen im Petabyte-Maßstab.
Erasure Coding (k, m)Reed-Solomon-CodierungParitätsblock-RekonstruktionSpeicher-Overhead-FormelVerteilte Fehlertoleranz
Note / Hinweis: Blueprints are AI-generated educational summaries (0% Politics · 0% Religion · 0% Brainrot) and do not constitute medical, legal, or financial advice. / KI-generierte Zusammenfassung zu Bildungszwecken – ersetzt keine medizinische, rechtliche oder finanzielle Fachberatung.