Rechenbeispiel

Operation: Dezimal
a: 0.125

→ 1/8

Methode und Umfang

Nur endliche Dezimalzahlen, bis 1.000 Zeichen; keine Perioden- oder Exponentialschreibweise. Der Bruch ist exakt, die Dezimalanzeige hat bis zu 16 signifikante Stellen.

0.125 = 125/1000 = 1/8

Genauigkeit und Grenzen

≈ kennzeichnet Näherungen. Die Anzeige-Rundung verändert die interne Berechnung nicht.

Quellen