Souradnice uz mate v radianech? Kazdopadne ve vzorci chybi nektere operace. Ja pouzivam:
set _d2r = (PI() / 180);
set dlng = (lng2 - lng1) * _d2r;
set dlat = (lat2 - lat1) * _d2r;
set a = pow(sin(dlat / 2), 2) + cos(lat1 * _d2r) * cos(lat2 * _d2r) * pow(sin(dlng /2), 2);
set c = 2 * atan2(sqrt(a), sqrt(1 - a));
set d = 6378.1370 * c;
Na vstupu mam souradnice ve stupnich, k prevodu na radiany dochazi pomoci nasobeni _d2r; pow() je mocnina, zbytek funkci by mel byt samovysvetlujici. (Kod je z mysql funkce.)