大有生官宦之家，幼却家贫，清苦俭朴，讷而敏事，峻法有才，真质不俗。尝与东乡后坂士人陈咏同入军学读书。李俊甫《莆阳比事》紫气呈祥云：“辛卯（1231）试岁八月十五日夜，有仙游东乡后坂士人陈咏于试案上枕藉而卧，梦一庙宇如仙侯庙，然见一青衣神赠一联云：u2018谯楼紫气行将见，策问原来是谶诗。占得魁星属莆垒，来年夺得省元归。u2019次早，陈咏大书粘于廉前柱上，观者如堵，有后生嗔怒，何不写作状元，遂改省元字作状元，然神言岂妄，时叶大有魁解。”原来大有受陈咏幸梦偈诗启示，自是“刺股情方励，偷光思益深”，穷经究史，人一能之，己百之；人十能之，己千之，夜学晓不休，苦吟神鬼愁。为此，大有经常遭到同窗学友陈咏的嘲讽。先是大有以春秋应绍定三年（1230）乡试，名第一，自是惟日孜孜，无敢逸豫，古来百战功名地，正是鸡鸣起舞时。

　　绍定五年（232）省试，大有擢徐元杰榜进士，“谯楼紫气行将见”已成现实，莆阳士子大魁天下，卓得庆、黄桂、朱王圭、赵必遒、陈有功、李叔宏、王公瑾、方之泰、杨一夔、李日新、余君举、赵舆契、赵时木禹、陈直上，李一凤、蔡仪甫、林灏、赵时愿、赵必仁、陈梦斌同登进士第。“叶大有魁南省，其时陈咏得梦颇自负，及第三场策问，末果，有u2018谯楼紫气行将见u2019之语，与所梦合，不知是符叶大有省魁，不意神之谑人也如此。”（见《莆阳比事》）。陈咏因贪慕功名不知学而名落孙山，受到了邑人的揶揄。莆阳先贤以赋魁天下者有郑厚、刘夙、林旖、吴铸畴、郑从甫和叶大有共六人，可谓占尽天下科举风流。

　　绍定五年秋，大有授英德府教授，大新郡学，秩满，除国子录，轮对，理宗首以国计诸务为问，大有历历指陈，为理宗所知，玉音褒奖，累迁秘书郎，出知徽州。召赴阙，丁外艰，大有归莆阳守丧，三年服除，历著作佐郎，除正言兼侍读，大有力辞。理宗批曰：“擢卿言职，出自朕意，益殚忠尽自结。”主知，大有犹极力恳辞，理宗谕曰：“自卿初对，朕已识卿。”乃拜命，首疏论“储嗣、纪纲，人才为国家命脉”，反复数百言。又乞救民饥，宽民力。上嘉纳。

　　淳佑六年（1246）己酉，邑人刘克庄以太府少卿为秘书少监，寻兼国史馆编修官，实录院检讨官，与大有同朝共事。翌年二月，谏议大夫郑寀荐周坦、叶大有入台，时郑寀、赵与思及周坦、叶大有、监察御史陈垓相合为一。大有迁左司谏，奏抑内降，保直臣，罢外戚授官。大有因奏事得罪权贵，乞归，理宗慰留曰：“留卿主台纲，即当异。”迁殿中侍御史，奏今日根本之虑：“惜名器、惜财力、惜民命、惜天时”四事，不可以有警，则畏无警。寻监省试兼知举，迁侍御史。大有向理宗献备边三策，谏理宗勿因金朝灭亡而其乐陶陶，其言骄骄，其行躁躁，提醒理宗认清形势，面对大敌蒙古为邻，真像怀拥猛虎，头枕蛟龙，事变难以逆料，要提早做好准备。荐浙东宪臣蔡抗可大任。迁右谏议大夫，大有力辞，不允。因侍经筵，理宗御笔大书“教忠”等字赐之。

　　淳佑十二年（1252）秋七月，右司郎中徐霖与大有素来有隙，疏劾“谏议大夫叶大有阴柔奸黠，为群忄佥魁，不宜久长台谏。”理宗不悦。己酉，帝谕辅臣曰：“徐霖以庶官论台谏、京尹，要朕之必行，殊伤事体，以批除职予郡。”徐霖出知抚州。大有疏劾给事中赵汝腾，以其右徐霖也。牟子才上疏辨汝腾之诬及大有之欺，未几，大有罢言职。

　　宝佑元年（1253），蒙军虎视眈眈，对南宋实施侧翼包围，即位近三十载的理宗，年将花甲，身边缺乏栋梁之才，无人替自己分忧代劳，有些奸佞小人察言观色，投其所好，国事日危。理宗任命大有为刑部尚书，大有累辞其职，理宗御笔云：“卿性质醇雅，议论和平，擢之大常伯，职之大司寇，所以示优宠也。朕之待卿有加，无替。”大有力以母病辞，除宝章阁学士，知温州。行前，理宗批谕云：“朕之用卿，以其中和。”又云：“朕之念旧，难释春怀。”大有不获已，只好奉母之宫。未几，丁母忧，感疾终于家，年四十七，遗表闻，理宗为不怿者累日。

“青山是处可埋骨，白发向人羞折腰。”大有出入馆阁言路凡十余年，前后敷陈百二十余奏，皆士论所归。其见博则不迷，听聪则不惑，能辨真假，确是谏坛名臣，但其排击程公许、黄师雍、牟子才诸人，议者不以为然。大有官居刑部尚书，“执法如山，守身如玉。”