Rechenbeispiel

Operation: AND
a: 12
b: 10
Bitbreite: 8
Interpretation: Ohne Vorzeichen

→ 0000 1000; hex: 08; 10: 8

Methode und Umfang

Dezimale Ganzzahlen im gewählten Bereich eingeben. Breiten: 8, 16, 32, 64. Ergebnisse werden maskiert; links überlaufende Bits entfallen. Schiebezahl b: 0≤b<Breite. Arithmetisches Rechtsschieben wiederholt das höchste Bit.

mask = 2ʷ − 1; result = operation & mask

Genauigkeit und Grenzen

≈ kennzeichnet Näherungen. Die Anzeige-Rundung verändert die interne Berechnung nicht.