许维遹其父辈兄弟四人，以打渔为生，都是当地非常有名的好艄公，兄弟四人合开一渔行，靠勤劳致富，家业逐渐做大，因不识字，便雇佣一帐房先生，没想到年底时所有钱财被帐房先生席卷一空，于是痛下决心，一定要培养后代识文断句。

许维遹先生天资聪慧，又刻苦好学，入私塾后，很快熟读四书五经等各种典籍，十几岁时，在当地已无有师者，成年后，许维遹由父母包办，娶了一门当户对的大户人家的小姐王氏为妻，据大鱼岛村的老人讲，当年送亲的队伍延绵100多米，观者上千，轰动一时，王氏入户许家时还有两个陪嫁的丫鬟，但王氏目不识丁，又不擅持家理财，随后家道逐渐衰败。

上世纪20年代末期，许维遹到北大求学，在此期间，许维遹潜心于经史、训诂之学，经常向杨树达、冯友兰、孙人和、刘叔雅等学者、硕师请疑问难，深受师长器重。在师长们的鼓励指导下，他一面读书，一面整理古籍，编成《吕氏春秋集释》一书，1933年被列入国立清华大学整理的古籍丛刊之一印行。

《吕氏春秋》是先秦时代的一部理论散文总集，是子书（古代书籍分经、史、子、集四部分）中的重要一种。它引用了古代许多遗闻旧说，给后代学者研究古代社会提供了大量宝贵资料。但因此书流传日久，错误渐多，又因屡经传抄，难于理解之处甚多。汉代著名学者为本书作注，纠正了书中的一些错误。到了清代，毕沅、王念孙、孙诒让等经学大师又曾对本书作了校注考订。而《吕氏春秋集释》的贡献，则在于汇集了前人80余种校雠训诂，为《吕氏春秋》研究奠定了一个新的高度和起点，“使后之读此书者，得不劳而尽食以前学者整理此书之果，其利物之功宏矣。诚文信候之功臣，高诱、毕沅之畏友，而孙诒让、王先谦诸人之劲敌也”。冯友兰先生这一评价，不仅是对集释的充分肯定，也是对许维遹学识的高度评价。到目前为止，集释仍不失为研究《吕氏春秋》最好的参考书。

孙犁先生在他的《耕堂读书记》中有一节《读吕氏春秋》，对此书也评述甚高：“我过去有广益书局的高诱注普通本，后又购得许维遹集释本，线装共六册，民国二十四年，清华大学出版，白纸大字，注释详明，断句准确，读起来，明白畅晓，真能使人目快神飞。晚年眼力差，他书不愿读，每日拿出此书，展读一二篇，不只涵养性灵，增加知识，亦生活中美的消遣与享受也。”

许维遹在清华生活稳定后，曾动员妻子王氏和两个子女进京居住，但王氏坚决不从，也不让子女跟随，先生无奈之下只能作罢。后来许维遹又娶了一个留过学的新女性为妻，据说当时做大媒的人非常有势力，是许维遹所敬仰的一位尊长，许维遹推脱不掉，只能答应了这门亲事。随着后来政局的动荡，许维遹也逐渐同家人中断了联系。

抗日战争期间为保持中华教育的国脉，奉教育部命令，国立北京大学、清华大学和私立南开大学迁到湖南长沙，长沙沦陷后，再度迁至昆明，成立国立西南联合大学，当时的西南联大名师荟萃，其中如闻一多讲《诗经》，陈梦家讲《论语》，许维遹讲《左传》，刘文典讲《文选》，唐兰讲《史通》，罗庸讲《唐诗》，浦江清讲《宋词》，魏建功讲《狂人日记》，等等。老师各展所长，学生大饱耳福。联大教授阵容之强，在古今中外大学中，堪称绝无仅有。

许先生为人低调，一心学问，不善交际，不事张扬，但与朱自清、闻一多交往甚厚，也深得二人的推崇。当年许维遹在清华任教时，有一族弟许维平随从做他的书童。许维平老人为人谦和，饱读诗书，写一手娟秀的楷书，近90高龄去世，老人在跟随许维遹时，闻一多先生曾为其治了两方印章，令老人爱不释手，后来四清运动被抄家时下落不明，这是老人最大的遗憾。

许维遹先生尽管中年早逝，但研究范围很广，一生著述颇多。在语言文字、训诂方面亦多发明，诸如《韩诗外传集释》、《登州方言考》、《飨礼考》、《古器铭对扬王休解》、《释衅》、《尚书义证金藤篇》、《郝兰皋夫妇（郝懿行、王照圆）年谱》等等。对《管子》、《尚书》也颇有研究，出版有《管子集校》（郭沫若、闻一多、许维遹合著，科学出版社1956年版），这部书在建国前由许维遹纂集，闻一多校阅一部分，后来两位先生先后作古，至1953年秋，闻一多先生的夫人将此稿送到郭沫若手中，由郭沫若整理出版。