1911年生于福建省平潭县苏澳区先进乡土库村。1918年（7岁）入私塾读书，1921年秋（10岁）入平潭开宗小学，1923年（12岁）由堂兄高诚学先生带到福州，改入福州进德小学，1924年（13岁）转入福州英华中学小学部。1925年考入英华中学。1931年秋考入燕京大学哲学系，1935年毕业后升入燕京大学研究院哲学部学习。
1936年受燕京大学派遣，赴法国巴黎大学攻读语言学，在导师马伯乐的指导下，1940年完成毕业论文《汉语介词之真价值》，获博士学位。留法期间，曾参加巴黎语言学学会和亚细亚学会。
1941年回燕京大学国文系任助教，1942年任北平中法汉学研究所研究员。1945年起任燕京大学国文系教授兼系主任。1952年院系调整后，任北京大学中文系教授，兼语言教研室主任，直到病逝。1955年起任中国人民政治协商会议北京市政协委员，1957年应邀赴波兰讲学并作文化访问。曾任中国科学院语言研究所学术委员会委员，《中国语文》编委，民盟中央科技委员，民盟北京市委员兼文教委员会副主任等职。1965年1月3日，高名凯病逝于北京。