Çözümlü örnek
İşlem: Ondalık a: 0.125
→ 1/8
Yöntem ve kapsam
Yalnız sonlu ondalık yazım, en fazla 1.000 karakter; devirli yazım ve üs gösterimi kabul edilmez. Kesir kesindir; ondalık gösterim en fazla 16 anlamlı basamaktır.
0.125 = 125/1000 = 1/8
Hassasiyet ve sınırlar
≈ yaklaşık değeri belirtir. Görüntüleme yuvarlaması ara hesapları değiştirmez.