Rechenbeispiel

Operation: Dezimal
a: 1
Bitbreite: 32

→ hex: 3F800000; 0 | 01111111 | 00000000000000000000000

Methode und Umfang

Float32/Float64 mit DataView, höchstwertiges Bit zuerst. Felder: Vorzeichen | Exponent | Mantisse. Dezimaleingabe akzeptiert NaN und ±Infinity; Hex/Bits benötigen exakte Breite. Die lange Dezimalzahl zeigt die gespeicherte Näherung.

(−1)ˢ × (1.f)₂ × 2^(e−bias) [normal]

Genauigkeit und Grenzen

≈ kennzeichnet Näherungen. Die Anzeige-Rundung verändert die interne Berechnung nicht.

Quellen