1880年1月2日出生于福冈县 小仓藩一个武士家庭。1893年4月，进入 福冈县立丰津中学学习。1898年3月，杉山元中学毕业后即应征为陆军士官后补生。同年12月调进 小仓第14步兵联队。1899年12月，杉山元进入 陆军士官学校，1900年12月21日，从 日本陆军士官学校第12期毕业。

1902年6月25日，被授予少尉军衔。1903年晋升为中尉。1904年2月，杉山元任第14步兵联队第3大队副官，随第12师团主力在仁川登陆，参加 日俄战争。在中国东北 本溪湖附近参加 沙河会战时，杉山元头部负伤，伤愈后留下终身疤痕，右眼脸下垂，这也是他的明显标志。1905年4月改任中队长，5月被任命为预备队中队长并返回国内。同年6月晋升为上尉。1906年4月，杉山元与山本清真结婚，但山本于次年死于肺结核。

1907年，杉山元考进 陆军大学22期学习。1910年毕业后调到 参谋本部情报部任职。不久即与 小川又次大将之女义子结婚，但义子亦于次年死于肺结核。1912年化装为海军中尉随日本练习舰队相继出访菲律宾和新加坡，侦查当地防务。1914年3月，杉山元晋升为少佐，调回 小仓第14步兵联队任职。1914年8月，杉山元任第14步兵联队大队长。

1915年再次出任 英属印度武官，结识了早期印度独立运动的一名领导人布斯（Rash Behari Bose，1886-1845，曾策划1912年迁都德里爆炸案），并不顾英日同盟，掩护对方逃到日本，他这样做赢得了包括 钱德拉·鲍斯等人的好感。1918年出访中东，参观了英国将领 埃德蒙·艾伦比指挥的美吉多战役，认识了飞机在第一次世界大战中的作用。随后任国际联盟空军代表随员，回国后大力鼓吹建立陆军航空兵。1918年12月，杉山元被任命为第2航空大队队长。1921年6月，晋升为大佐。1922年4月，任 陆军省军务局首任航空课长。1923年8月，改任军事课长。1925年5月1日，杉山元晋升为少将。1928年8月，调任陆军省军务局长。1930年8月，晋升为中将，被任命为陆军次官。

1931年7 月，他主持制定了《解决满蒙问题方策大纲》，明确规定日本侵略中国东北的原则、步骤和措施。9月18日清晨，九一八事变发生的消息传到东京后，杉山元紧急约见陆军省军务局长小矾国昭和 参谋本部次长二宫重治，共同决定利用这一时机扩大事态，一举实现独霸中国东北的梦想。由于杉山元等军部首脑人物的怂恿、唆使， 关东军加紧扩大侵略战争。不久，中国东北全境即全部陷入关东军的控制之下。1931年12月13日， 犬养毅政友会内阁成立，荒木中将任 陆军大臣，杉山元中将依然担任陆军次官。

就在日本侵略军同中国国民党军队作战最激烈之时，2月底，杉山元被调任驻 久留米的第12师团师团长，离开了陆军省。在任师团长的一年多里，杉山元举办讲演会，煽动人们的军国主义思想，以策应对中国的侵略。

1933月，杉山元被调任日本航空本部部长。任内重新制定航空兵操典，为日本陆军航空兵战术和航空兵教育奠定了基础。在他的不断努力下，日本陆军航空兵发展成一支有效的作战力量，他因此被称为日本陆航第一人。

杉山元是日本二战期间的晋升的陆军三元帅之一。

九一八事变后，在陆军内部，拥戴 荒木贞夫、 真崎甚三郎的激进青年军官为中心的“ 皇道派”同以 陆军省军务局长 永田铁山大佐为主体的“统制派”，在这两派斗争中，杉山元坐收渔翁之利，在同年8月的人事调动中，晋升为参谋 次长并兼 陆军大学校长，1936年 二·二六事件发生后，杉山元因受到牵连而辞去参谋次长的职务。

1936年8月，杉山元任陆军三大核心首脑之一的教育总监兼军事参议官，11月2日，晋升为陆军大将。1937年2月任 林铣十郎内阁 陆军大臣。该届内阁倒台之后，在 近卫文麿内阁里继续留任陆军大臣。

1937年7月7日，卢沟桥事变爆发。 杉山元身为陆军大臣，极力主张增加驻华兵力，扩大战争规模，他强硬的反驳不扩大派的 石原莞尔：“所谓不扩大，只是避免全面战争，而不是不顾皇军的威信。”他向 昭和天皇担保，三个月解决中国事变。7月 11日责成 陆军省和 参谋本部有关部门共同制定了《关于华北作战的协定》，向内阁提出增兵华北方案，7月18日，首相近卫文麿召开“五相会议”，身为陆相的杉山元力主增兵华北，7月23日晚，他亲自向内地 第五师团、 第六师团、 第十师团下达动员令。向华北增兵二十万，马五万匹。8月15日，日本政府发表了由杉山元起草的《对华宣战声明》，全面侵华战争被付诸实施。

杉山元于1938年6月改任军事参议官。11月，杉山元在做盲肠炎手术休养期间被调任北支派遣军司令官，接替 寺内寿一。12月，大本营向杉山下达任务：维持占领的华北地区的安定局面，努力迅速恢复河北省北部、山东省、山西省西部及内蒙地区的治安，确保主要交通线的安全。他指挥日军开展了3次以武力为中心的“治安肃正” 作战，妄图摧毁华北敌后 抗日民主根据地。

1939年9月中旬，日军调整在华日军序列，在南京设 中国派遣军总司令部，统一指挥北支派遣军、第11军、第13军和第21军，任命教育总监 西尾寿造大将为司令官，前 陆军大臣 板垣征四郎中将为参谋长。

1940年10月，昭和天皇挑选愚鲁的杉山元接替年迈的皇族闲院宫 载仁亲王出任参谋总长。杉山也成了继 上原勇作元帅之后第二个在陆军三大衙门都做过主官的军人。

1940年11月13日，杉山元以参谋总长身份出席御前会议，讨论并通过大本营提出的“中国事变处理要纲”。

1941年3月下旬到4月下旬，杉山元曾亲自前往中国南部、法属印度支那、泰国、马来西亚、印度尼西亚等地进行视察，为开战做准备工作。

1941年9月3日，杉山元提出必须规定出谈判的截止日期，否则将不利于日本的国家利益。5日下午，首相近卫文麿与杉山元、海军军令部长 永野修身一起进宫，向天皇禀报大本营联络会议的结果。杉山元颇有把握地向天皇启奏了已拟好的对马来西亚、新加坡和菲律宾的作战计划，并向天皇保证在150天占领东南亚，夺取印度尼西亚的石油。

1941年12月8日，日军偷袭美国 海军基地珍珠港，太平洋战争爆发。战争之初，参谋总长杉山元协助天皇指挥日军靠“先机”之优势，迅速侵入东南亚各国，70天攻克新加坡。100天攻克印度尼西亚，摧毁了英国、荷兰在当地的殖民统治，占领了东南亚450平方公里和西南太平洋大部分地区，比预期还要顺利的完成了全部作战计划。

1943年6月，杉山元获元帅称号 。但从1943年起日本的南进作战就面临着战局逆转的危险，美军的反攻速度之快，规模之大远远超出了日本人的想象， 瓜岛争夺战失败以后，美军机动舰队在中太平洋大举出击，直冲日本国门，面对危机的局势。

首相东条英机在1944年初，一人兼任首相、陆军大臣和参谋总长三职，创造了日本自建军以来的奇迹。杉山元则不得不辞去参谋总长的职务，转任教育总监，在元帅府和前军令部总长永野一起，就战争和战争指导为天皇提供咨询。 7月，美国海军在 马里亚纳海战中大胜，接着突破了日军绝对国防圈，占领 塞班岛，东条4个月的独裁结束，被迫辞去一切职务，7月22日，远离政治核心的朝鲜总督 小矶国昭被任命为首相。小矶和杉山是 陆军士官学校的同期生，关系极为密切。

1944年7月22日，杉山元再次被任命为陆军大臣。1945年4月5日，内困外焦的小矶内阁总辞职，枢密院议长 铃木贯太郎海军大将受命组阁。

1945年，日军在各战场上不断失利。面对日军的惨败，杉山元仍极力主张同美军顽抗，进行焦土作战。1945年4月8日，日本拆分本土防卫军，组成第1 总军和第2总军。杉山元被任命为第1总军司令官。司令部设在 东京市谷台的旧预科士官学校本部。主要负责 津轻海峡以南包括石川、 歧阜、爱知、 三重县在内的本州东部地区。第1总军下辖第2方面军、第11方面军和第13方面军，共30个步兵师团，2个坦克师团，2个高炮师团等，约有兵力70万。

杉山元身为本土作战的最高负责人之一，极力主张通过彻底抗战来抵御进攻本土的美军，并计划在对方构筑桥头堡之前，乘对方立足未稳之机，将其消灭。1945年7月26日，美英中三国发表了《 波茨坦公告》，对日本发出最后通牒，督促其立即投降。杉山元尽管主张顽抗到底，但面对天皇的投降决定无可奈何。8月15日，天皇 裕仁在“玉音广播”中宣读了《终战昭书》。至此，日本法西斯宣告战败投降。

1945年9月11日驻日盟军总部公布了第一批日本 甲级战犯名单，杉山元未列入名单中。但他自知无法幸免，于9月12日下午5时，在第1 军总司令官室开枪自杀。 当晚，杉山元的妻子，在得知丈夫自杀的消息后，在自己家里的佛堂，身着全白丧服，依照武士传统用短刀戳穿心脏自杀 。