范晔出生在一个著名的士族家庭。高祖范晷为西晋雍州刺史，加左将军。曾祖范汪入仕东晋，官至晋安北将军、徐兖二州刺史，进爵武兴县侯。祖父范宁先后出任临淮太守、豫章太守。父范泰仕晋为中书侍郎，桓玄执政时被废黜，徙居丹徒。刘裕于京口起兵灭桓玄，控制东晋政府实权后。范泰重新被启用，出任国子博士、南郡太守、御史中丞等职。他为东阳太守时，因开仓供粮和发兵千人，助刘裕打败卢循有功，被加官为振武将军。从此，范泰受到刘裕的信任，屡被升迁，先后担任侍中、尚书常侍兼司空等职。宋代晋后，拜为金紫光录大夫散骑常侍，少帝时加位特进。