房彦谦出生于公元547年，一生先后经历了东魏、北齐、北周和隋四个王朝的更替换代。房氏原籍清河。到房彦谦七世祖房湛时期，因为做过燕国的太尉椽，随着南燕国迁都青州，也把家人带到了齐地。今济南市历城区在南北朝隋唐时期属于齐郡。从此以后，房彦谦一支就把历城当作了自己的故乡。从十六国到房彦谦时，200多年间，历城房氏家族几乎一直都为官从政，房彦谦曾祖父是齐郡和平原郡的太守，祖父则做过南朝宋的太守，父亲从州主薄（相当于今天的秘书长）起家，也做到了郡守的职务。