1912年4月生于江苏苏州。1933年毕业于 上海交通大学电机系后即赴美国入 康乃尔大学学习，1934年2月转入麻省理工学院攻读，1935年获硕士学位。之后即赴德国西门子工厂实习考察一年。

1936年回国在 国立中央大学电机系任教授， 并出任麻省理工学院南京校友会理事, 曾致函号召在美国麻省理工的中国留学生回中央大学任职发展祖国的教育事业。 抗战时期随校迁往 重庆， 曾兼任重庆中央工专、 重庆大学教授，组织了临时的麻省理工学院重庆校友会并出任副会长。1946年中大迁返南京时他曾留 重庆大学任教一年，1947年回 中央大学电机系继续任教，曾任无锡 江南大学电机系兼职教授。

1952年高校院系调整中大工学院组建成 南京工学院时，电机系分为电力、电信两系，吴大榕任电力系系主任，后任动力系主任，南京工学院副院长。他是 南京工学院学术委员会副主任、全国电机工程学会理事、国家科委电工组成员、教育部电机教材编审委员会副主任、江苏省电机工程学会副理事长、江苏省科协常委。1956年参加中国共产党，曾任 南京工学院第三届党委委员，江苏省第三、四届政协委员。 吴大榕，在担任系主任、副院长时期，从未脱离教学、科研工作，始终坚持在第一线辛勤耕耘。他于1951年和1952年先后编写了《交流电机》和《直流电机》教材，并参与了我国第一次电机专业教学大纲的制定。他参编的教材是我国第一批出版的统编教材，供电机及电器专业、发电厂电力网及电力系统专业和工业企业电气化专业使用。 1960年电机 教材编审委员会又委托吴大榕主持制订了新的电力类专业《电机学》教学大纲，1979年由他主编的《电机学》教材再次出版，被列入全国电力类专业的统编教材，印数达7万册。

吴大榕是一位教学经验极为丰富的老教师，担任副院长时分工抓基础课教学及师资培养工作，在60年代初、中期，学校两方面工作都开展得卓有成效。在院长刘雪初领导下，他主持制订了一整套师资培养计划，提高教学质量计划和措施，狠抓教师队伍外文水平，专业基础理论的提高以及实际动手能力的培养，当时学校教研活动活跃，学术气氛浓厚。在担任动力系主任期间，十分重视妥善处理好热、电两个专业的关系，主持系务时，专业逐步扩大发展，成立了工业热能、自动控制和计算机三个专业。以后，自控专业和计算机专业分别发展成立了两个独立的系。动力系的工业企业电气化也从专科发展为本科专业，这些都是吴大榕的努力工作的结果。 吴大榕在教学过程中主张对学生既要爱护又要严格，教师的责任在指导、鼓励、督促学生，促使学生克服困难，完成学习任务，广大学生及青年教师把听他讲课当作"艺术享受"。 吴大榕是我国电机界的元老、专家，在十年动乱中，遭到了极不公平的对待，使其身心遭受迫害致残。吴大榕1936年起40多年全心投入从中大到 南工的电机系的教学与科研工作，他创造的业绩，永留史册。

吴大榕精通英、德、俄、日四国外语，翻译出版的著作有《电机工业试验》、《感应电动机运行方式》等书，还亲自参与科研工作，他在同步电机理论研究方面造诣很深、发表过许多有实用价值的论文：《三相同步电机座标系统的变换》、《同步电机常数的理论分析》、《同步电机负序电抗》等，其中对同步电机座标系统的分析，对后人的学习和研究有较大的启发作用。当时电机学所发表的文章中，由于分析问题的出发点不同，对正方向的规定各有所不同，导致文章中列出的同步电机基本方程式各异，引起了混乱，吴大榕对此总结指明原委，为后人研究同步电机理论提供了线索。他在同步电机理论研究方面造诣较深，受到我国工程技术界和教育界人士的赞许。 撰有论文《同步机逆序电抗的物理概念》、《同步电机基本方程式中各种数量间的方向关系》，编有《直流电机》、《交流电机》、《电机学》。