Tendrás que estudiar el uso de la Fórmula de Haversine . Encontrará muchos ejemplos en línea que le muestran cómo implementar la fórmula tanto en PHP como en SQL.
Google tiene un buen ejemplo para MySQL :
SELECT id, ( 3959 * acos( cos( radians(37) ) * cos( radians( lat ) ) * cos( radians( lng ) - radians(-122) ) + sin( radians(37) ) * sin( radians( lat ) ) ) ) AS distance
FROM markers HAVING distance < 25 ORDER BY distance LIMIT 0 , 20;