Çözümlü örnek

İşlem: AND
a: 12
b: 10
Bit genişliği: 8
Yorum: İşaretsiz

→ 0000 1000; hex: 08; 10: 8

Yöntem ve kapsam

Seçilen işaretli/işaretsiz aralıkta onluk tam sayı girin. Genişlikler: 8, 16, 32, 64. Sonuç genişliğe maskelenir; sola kaydırmada taşan bitler atılır. Kaydırma b için 0≤b<genişlik. Aritmetik sağa kaydırma en soldaki işaret bitini tekrarlar.

mask = 2ʷ − 1; result = operation & mask

Hassasiyet ve sınırlar

≈ yaklaşık değeri belirtir. Görüntüleme yuvarlaması ara hesapları değiştirmez.