后来阿保机果然对耶律曷鲁很器重，军机大事都向他请教。耶律曷鲁不但有谋略，也很有军事指挥才能，他曾经率领几名骑兵说服小黄 室韦部落来归附，壮大了自己部落的力量，在对外征战乌古等部落时，耶律曷鲁屡建战功。

　　此外，耶律曷鲁还善于外交辞令。在公元901年，阿保机当时是迭剌部的夷离堇（一种高级官职），领兵征讨奚部，久攻不下，阿保机很是着急，于是派耶律曷鲁带箭前去劝降对方。到了之后却被抓了起来，耶律曷鲁毫不畏惧，对首领劝道：“契丹和你们奚人的语言相同，实际如同一个国家，我们对你们怎么会有凌辱欺侮之心呢？汉人杀了你们的首领，我们的首领夷离堇也很痛恨汉人，日夜不忘为你们复仇。但又担心势力单薄，无法取胜，这才派我来你们这里求援，怕你们不信，才让我带箭来。我们的夷离堇受命于天，以恩德领导百姓，所以能有今天的强大势力。如果你们今天杀了我，便违背了天意，那将有大祸临头了。刀兵相向，战火连绵，对你们又有什么好处呢？”

　　奚部首领听了，相信了耶律曷鲁的话，率众归顺了阿保机。

　　公元903年， 契丹族的于越被反对派杀死，阿保机的处境也很危险，耶律曷鲁便不离左右地保护他，以防意外。后来，阿保机做了于越，独揽军政权力。阿保机想让耶律曷鲁做迭剌部的夷离堇，耶律曷鲁谢绝了。他想留在阿保机身边继续做他的侍卫。907年，痕德堇可汗病故，阿保机的部下们都一致推举他做联盟的可汗，耶律曷鲁便是这些人的中坚，最为积极。他为了使阿保机能达到目的，想尽各种办法，如人心、天意、祖宗等方面，都找充足的理由说服阿保机付诸行动，阿保机终于如愿以偿。

　　阿保机做了可汗，又开始向帝制迈进。这个过程中，耶律曷鲁又起了决定性的作用。在阿保机的势力扩大、部落逐渐强盛时，阿保机为了加强自己心腹力量，组织了属于他个人私有的军队，即腹心部，共有两千人，腹心部的统帅便是他极为信任的耶律曷鲁。从911年到913年，阿保机的兄弟们为了权位，和他之间发生了几次战争。耶律曷鲁和其他人一道竭尽全力来支持阿保机，为阿保机战胜兄弟们立下了汗马功劳。

　　 阿保机在和兄弟们的争斗过程中认识到迭剌部的关键作用，这也是他以后称帝的最大障碍。为了充分地控制迭剌部，阿保机便让耶律曷鲁去做迭剌部的首领，耶律曷鲁很痛快地答应了，没有像以前那样拒绝，因为他和阿保机一样，也认识到了迭剌部的重要作用。

　　到了916年的时候，耶律曷鲁认为阿保机称帝的时机已经完全成熟了，于是，联合其他人劝说阿保机称帝建国。阿保机称帝后，封给耶律曷鲁于越之职，尊号“阿鲁敦于越”，即盛名的于越，有这种称号的只有他一个人。

　　契丹建国后，耶律曷鲁知道政权巩固的关键仍然是迭剌部，在辅佐阿保机的过程中他一直在考虑这个问题，建议阿保机将迭剌部分成两个，削弱其力量。在耶律曷鲁病重时，还不忘向前来探望他的阿保机说及此事，在他死后不久，阿保机便采纳了他的意见，将迭剌部分成了五院和六院。

　　在阿保机四处征战和称帝建国的过程中，耶律曷鲁的作用是很难有其他人可以代替的，他是阿保机的重臣和忠臣，但在阿保机建成都城宴请群臣时，四十七岁的他却不幸病故。

　　阿保机听到噩耗，伤心地说：“他如果能再辅佐我三五年，我还能有更大的建树。”

　　耶律曷鲁下葬后，阿保机又给他的墓赐名“宴答”，意思是盟友，或者义兄弟。

　　《辽史》对整个辽代的功臣做过统计和比较，说得到于越这种极高荣誉的只有三人，即耶律曷鲁、耶律屋质和耶律仁先，而耶律曷鲁是第一个。

　　耶律曷鲁，字控温，一字洪隐，迭剌部人。祖匣马葛，简宪皇帝兄。父偶思，遥辇时为本部夷离堇，曷鲁其长子也。性质厚。在髫鬌，与太祖游，从父释鲁奇之曰：“兴我家者，必二儿也。”太祖既长，相与易裘马为好，然曷鲁事太祖弥谨。会滑哥弑其父释鲁，太祖顾曷鲁曰：“滑哥弑父，料我必不能容，将反噬我。今彼归罪台哂为解，我姑与之。是贼吾不忘也！”自是曷鲁常佩刀从太祖，以备不虞。居久之，曷鲁父偶思病，召曷鲁曰：“阿保机神略天授，汝率诸弟赤心事之。”已而太祖来问疾，偶思执其手曰：“尔命世奇才。吾儿曷鲁者，他日可委以事，吾已谕之矣。”既而以诸子属之。

　　太祖为挞马狘沙里，参预部族事，曷鲁领数骑召小黄室韦来附。太祖素有大志，而知曷鲁贤，军国事非曷鲁议不行。会讨越兀与乌古部，曷鲁为前锋，战有功。及太祖为迭剌部夷离堇，讨奚部，其长术里逼险而垒，攻莫能下，命曷鲁持一笴往谕之。既入，为所执。乃说奚曰：“契丹与奚言语相通，实一国也。我夷离堇于奚岂有輘轹之心哉？汉人杀我祖奚首，夷离堇怨次骨，日夜思报汉人。顾力单弱，使我求援于奚，传矢以示信耳。夷离堇受命于天，抚下以德，故能有此众也。今奚杀我，违天背德，不祥莫大焉。且兵连祸结，当自此始，岂尔国之利乎！”术里感其言，乃降。太祖为于越，秉国政，欲命曷鲁为迭剌部夷离堇。辞曰：“贼在君侧，未敢远去。”太祖讨黑车子室韦，幽州刘仁恭遣养子赵霸率众来救。曷鲁伏兵桃山，俟霸众过半而要之；与太祖合击，斩获甚众，遂降室韦。太祖会李克用于云州，时曷鲁侍，克用顾而壮之曰：“伟男子为谁？”太祖曰：“吾族曷鲁也。”

　　会遥辇痕德堇可汗殁，群臣奉遗命请立太祖。太祖辞曰：“昔吾祖夷离堇雅里尝以不当立而辞，今若等复为是言，何欤？”曷鲁进曰：“曩吾祖之辞，遗命弗及，符瑞未见，第为国人所推戴耳。今先君言犹在耳，天人所与，若合符契。天不可逆，人不可拂，而君命不可违也。”太祖曰：“遗命固然，汝焉知天道？”曷鲁曰：“闻于越之生也，神光属天，异香盈幄，梦受神诲，龙锡金佩。天道无私，必应有德。我国削弱，齮龁于邻部日久，以故生圣人以兴起之。可汗知天意，故有是命。且遥辇九营棋布，非无可立者；小大臣民属心于越，天也。昔者于越伯父释鲁尝曰：u2018吾犹蛇，儿犹龙也。u2019天时人事，几不可失。”太祖犹未许。是夜，独召曷鲁责曰：“众以遗命迫我。汝不明吾心，而亦俯随耶？”曷鲁曰：“在昔夷离堇雅里虽推戴者众，辞之而立阻午为可汗。相传十余世，君臣之分乱，纪纲之统隳。委质他国，若缀斿然。羽檄蜂午，民疲奔命。兴王之运，实在今日。应天顺人，以答顾命，不可失也。”太祖乃许。明日，即皇帝位，命曷鲁总军国事。时制度未讲，国用未充，扈从未备，而诸弟剌葛等往往觊非望。太祖宫行营始置腹心部，选诸部豪健二千余充之，以曷鲁及萧敌鲁总焉。已而诸弟之乱作，太祖命曷鲁总领军事，讨平之，以功为迭剌部夷离堇。时民更兵焚剽，日以抏敝，曷鲁抚辑有方，畜牧益滋，民用富庶。乃讨乌古部，破之。自是震慑，不敢复叛。乃请制朝仪、建元，率百官上尊号。太祖既备礼受册，拜曷鲁为阿鲁敦于越。“阿鲁敦”者，辽言盛名也。

　　后太祖伐西南诸夷，数为前锋。神册二年，从逼幽州，与唐节度使周德威拒战可汗州西，败其军，遂围幽州，未下。太祖以时暑班师，留曷鲁与卢国用守之。俄而救兵继至，曷鲁等以军少无援，退。

　　三年七月，皇都既成，燕群臣以落之。曷鲁是月得疾薨，年四十七。既葬，赐名其阡宴答，山曰于越峪，诏立石纪功。清宁间，命立祠上京。初，曷鲁病革，太祖临视，问所欲言。曷鲁曰：”陛下圣德宽仁，群生咸遂，帝业隆兴。臣既蒙宠遇，虽瞑目无憾。惟析迭剌部议未决，愿亟行之。”及薨，太祖流涕曰：“斯人若登三五载，吾谋蔑不济矣！”后太祖二十一功臣，各有所拟，以曷鲁为心云。子惕剌、撒剌，俱不仕。

　　论曰：曷鲁以肺腑之亲，任帷幄之寄，言如蓍龟，谋成战胜，可谓算无遗策矣。其君臣相得之诚，庶吴汉之于光武欤？夫信其所可信，智也，太祖有焉。故曰：惟圣知圣，惟贤知贤，斯近之矣。