Rechenbeispiel
Operation: Dezimal a: 0.125
→ 1/8
Methode und Umfang
Nur endliche Dezimalzahlen, bis 1.000 Zeichen; keine Perioden- oder Exponentialschreibweise. Der Bruch ist exakt, die Dezimalanzeige hat bis zu 16 signifikante Stellen.
0.125 = 125/1000 = 1/8
Genauigkeit und Grenzen
≈ kennzeichnet Näherungen. Die Anzeige-Rundung verändert die interne Berechnung nicht.