吉洪诺夫1905年出生于俄罗斯帝国乌克兰哈尔科夫的一个工人阶级家庭。他于1920年代于学校毕业并于1930年开始工作。吉洪诺夫的政治生涯开始于地方工业.最初在地方工业部门的任职。1963年他被任命为苏联国家计划委员会副主席。在阿列克谢·柯西金辞职后，吉洪诺夫被选为苏联部长会议主席。在这个位置上，他没有采取有效的措施，以改革苏联经济，导致苏联于20世纪80年代进行经济改革。1989年吉洪诺夫退休。

吉洪诺夫逝世于1997年6月1日，安葬于莫斯科新处女公墓。

吉洪诺夫在他生涯之中曾获得一些奖章，包括九次列宁勋章、两次红旗劳动勋章、一次红星勋章、两次斯大林奖及一些外国奖章。

吉洪诺夫在苏联领导集团中，本来是个在政治上没有多大威望的人。虽然1980年已满七十五岁，但论政治资历，在四十年代末还仅仅是一个钢管厂的厂长，比起现任苏联部长会议第一副主席阿尔希波夫要低一大截，后者早在四十年代初就是苏联人民委员部的第一副人民委员了，同部长会议的其他领导人相比也是如此。

然而，吉洪诺夫同勃列日涅夫交往极深。早在三十年代，勃列日涅夫为扩大自己的政治势力，就在自己的家乡第聂伯罗彼得罗夫斯克结交了一批“知己”，其中多数是自己的老同学、老同事。1940年勃列日涅夫任第聂伯罗彼得罗夫斯克州委主管国防工业的书记时，吉洪诺夫就在勃的领导下担任该州工厂的负责工作。吉洪诺夫虽不是勃的老同学，但由于当时学的专业相同，又是上下级关系，便成了情投意合的好朋友。1946年夏至1947年十一月间，勃列日涅夫任扎波罗热州州委第一书记时，吉洪诺夫曾在该州钢 管制造中心尼科波尔南方钢管厂当厂长，为战后恢复和重建该州工业卖了不少力气，得到勃列日涅夫的赏识。有一次吉洪诺夫未经上级许可，擅自修建工人疗养院，花的钱超出修理费的预算两倍。当时来厂视察工作的一位苏联部长会议的部长吉沃相训斥他说； “你是什么人，洛克菲勒吗？”勃列日涅夫急忙上前为吉洪诺夫打了圆场说：“这么一座u2018别宫u2019是为自己盖的吗？”从此以后，这位厂长对勃列日涅夫感恩不尽，成了勃列日涅夫更加忠实的盟友。1950年，勃调到苏共中央工作，吉洪诺夫也从地方提拔到苏联黑色冶金工业部任总管理局局长，随后又升任副部长。1957年任第聂伯罗彼得罗夫斯克国民经济委员会主席。1960年至1965年间先后任苏联国家科学经济委员会副主席和苏联国家计划委员会副主席。

勃列日涅夫对吉洪诺夫一向有好感。他在回忆录《复兴》中谈到他过去对吉洪诺夫的印象时说，吉洪诺夫“比任何人都关心工人的生活，工厂里的工作也搞得不错。”1980年六月又说：“他早就表明自己是位出色的工业组织者。可是光说这一点未免太少了。尼古拉·亚历山德罗维奇的特点是，有高度的责任感，善于从大量的事务中抓住要点，大胆作出决定。”难怪1964年10月勃列日涅夫担任苏共中央第一书记（后改称总书记）后不久，吉洪诺夫便由苏联国家计划委员会的一名副主席被破格提拔为苏联部长会议副主席，进入柯西金主持的苏联部长会议主席团。1976年九月吉洪诺夫又取得 了苏联部长会议第一副主席的职位，填补了因波利扬斯基被黜而留下的空缺。1978年底，勃列日涅夫又把吉提拔为政治局候补委员，翌年又晋升为政治局委员。

到此并未结束。因为当时柯西金的另一名得力助手、中央政治局委员马祖罗夫也是苏联部长会议两名第一副主席中的一个，而且他比吉洪诺夫年轻九岁，马从1965年以来一直担任这个职务，并积极协助柯西金推行新经济体制。马显然是未来同吉洪诺夫争夺苏联部长会议主席职位的一名强敌。但没有过多久，到1978年11月，马祖罗夫被解除了中央政治局委员职务，事隔三天，又被解除了苏联部长会议第一副主席职务。这样一来，吉洪诺夫便成了苏联部长会议中仅余的一名第一副主席，一旦柯西金下台，他就成了苏联部长会议主席职务的当然继承者。

实际上，自1979年秋天柯西金的心脏病恶化后，吉洪诺夫已在履行部长会议主席的职务了。1980年10月勃列日涅夫在苏联最高苏维埃会议上亲自提名由吉洪诺夫 接替被迫辞职的柯西金的职务。

众所周知，吉洪诺夫不是一位经济专家，对苏联国内外的重大方针政策没有发表过什 么值得注意的独特见解，他只不过是勃列日涅夫政策的忠实执行者。七十五岁高龄的吉洪诺夫出任苏联政府首脑一事，表明了勃列日涅夫集团继控制苏联党和苏维埃大权后，又把苏联部长会议的权力掌握在自己手中。但吉洪诺夫年事已高，勃列日涅夫推举他担任繁重的政府首脑工作，也就使苏联领导集团的年龄老化问题愈益突出。

吉洪诺夫离开政坛后，于1989年去信戈尔巴乔夫，信中对他曾任部长会议主席表示遗憾。苏联共产党解散后，他长住他的乡间别墅，过着隐居的生活。从未接触公众。 他晚年的生活非常凄凉，因为他没有孩子，同时其妻子也已过世。苏联解体后，吉洪诺夫担任最高苏维埃的顾问。