世出高门大族，尚书卢志之子。清敏有才思，好老庄之学，善属文。州举秀才，始任太尉椽。洛阳失陷，随父北依刘琨，俱为刘粲所掳，留谌为参军。粲败，复归刘琨。琨为司空，以谌为主簿，继转任从事中郎。谌与琨交谊密切，屡有赠答。后谌随琨投段匹磾，为幽州别驾。琨为匹磾所杀，朝廷不敢吊祭，谌上表申理，文旨甚切。辽西被石虎所得后，任命他为中书侍郎、国子祭酒、侍中、中书监等官职。后来冉闵诛石氏，灭掉后赵，卢谌在襄国遇害。