Rechenbeispiel
Wert: 1 Ausgangseinheit: km/h Zieleinheit: m/s Nachkommastellen: 8 Darstellung: Dezimal
→ 0.27777778 m/s
Methode und Umfang
Ein Knoten ist eine internationale Seemeile (1.852 m) pro Stunde. Periodische Faktoren werden mit 40 signifikanten Stellen berechnet.
y = x × f₁ / f₂
Genauigkeit und Grenzen
≈ kennzeichnet Näherungen. Die Anzeige-Rundung verändert die interne Berechnung nicht.