Rechenbeispiel
Operation: AND a: 12 b: 10 Bitbreite: 8 Interpretation: Ohne Vorzeichen
→ 0000 1000; hex: 08; 10: 8
Methode und Umfang
Dezimale Ganzzahlen im gewählten Bereich eingeben. Breiten: 8, 16, 32, 64. Ergebnisse werden maskiert; links überlaufende Bits entfallen. Schiebezahl b: 0≤b<Breite. Arithmetisches Rechtsschieben wiederholt das höchste Bit.
mask = 2ʷ − 1; result = operation & mask
Genauigkeit und Grenzen
≈ kennzeichnet Näherungen. Die Anzeige-Rundung verändert die interne Berechnung nicht.