Rechenbeispiel

Operation: Dezimal → Bits
a: -1
Bitbreite: 8

→ 1111 1111; hex: FF; 10: −1

Methode und Umfang

Vorzeichenbehaftete Dezimalzahl codieren oder Binärfolge exakter Breite ohne Leerzeichen decodieren. Führendes Bit ist das Vorzeichen. Bereich: −2^(w−1) bis 2^(w−1)−1. Werte außerhalb werden abgelehnt.

negative x → 2ʷ + x

Genauigkeit und Grenzen

≈ kennzeichnet Näherungen. Die Anzeige-Rundung verändert die interne Berechnung nicht.