Calculul "exact" e foarte aproape de cel aproximativ.
Considerand pamantul o sfera cu perimetrul de aproximativ 40,000 km, o deplasare de un 1km pe meridian corespunde la un unghi de aproximativ
q=360/40,000 grade sau
q =2p/40,000 =1.5 x10^(-4) radiani.
Raza cercului paralel cu ecuatorul, situat la un km de pol va fi
r=R sin(q) unde R este raza pamantului, aproximativ 6,400 km. La unghiuri atat de mici putem aproxima foarte bine sinusul cu unghiul in radiani.
Rezulta r = 1 km
Perimetrul acestui cerc va fi 2 p r (6.28 km) iar 60 de grade pe acest cerc vor masura
2 p r/6= 1.05 km.
Foarte aproape valoarea de 1km, nu?
Cei 0.05 km diferenta corespund la un unghi de
360o *(0.05km/6.28km) =2.8o.
Deci meridianul de intoarcere nu va fi chiar 330 ci mai aproape de 333, daca merge doar 1km (si nu 1.05km).