安德烈·德米特里耶维奇·萨哈罗夫1921年出生于莫斯科，父亲德米特里·伊万诺维奇·萨哈罗夫（Дмитрий Иванович Сахаров）在私立学校教授物理学，也是业余钢琴家；德米特里的祖父伊万（Иван）是沙俄时期著名的律师，重视社会认知和人道主义原则，包括提倡废除死刑，德米特里其后也受到这些思想的影响。萨哈罗夫的母亲是叶卡捷琳娜·阿列克谢夫娜·萨哈罗夫（Екатерина Алексеевна Са?харов，原名索菲亚诺，有希腊血统）。萨哈罗夫的父母和祖母玛丽亚·彼得罗夫娜（Мари?я Петровна）很大程度地塑造了他的性格，虽然他的祖父是俄罗斯正教会的教士，他的母亲也曾给他洗礼，但他的父亲是无神论者，宗教对萨哈罗夫的生活影响不大，尽管他认为一个非科学的“指导原则”在管理着宇宙和人类。

1938年，萨哈罗夫入读莫斯科大学，1941年因苏德战争撤离后，他在阿什哈巴德毕业。之后他被派往乌里扬诺夫斯克的实验室工作，在这段时期，他在1943年与第一任妻子克拉夫季娅结婚，并育有一子二女，克拉夫季娅在1969年逝世[2]。萨哈罗夫在1945年返回莫斯科，在列别杰夫物理学院理论部继续学业，1947年取得哲学博士学位。

安德烈·萨哈罗夫（左）和伊戈尔·库尔恰托夫，摄于1958年第二次世界大战结束后，萨哈罗夫开始对宇宙射线的研究。1948年，他参与了伊戈尔·库尔恰托夫领导的苏联原子弹计划，苏联在1949年8月29日对研制的第一种原子装置进行了测试。1950年移居保密行政区萨罗夫（Саро?в）后，萨哈罗夫在研制氢弹的过程中扮演了重要的角色，苏联在1953年8月12日对研制的第一种核聚变装置进行了测试。同年，萨哈罗夫得到了科学博士学位，被选为苏联科学学会的会员，并获得了他的第一个社会主义劳动英雄荣誉。随后萨哈罗夫继续留在萨罗夫主导研发苏联首枚百万吨级氢弹，并在1955年进行了测试。有史以来破坏力最大的曾引爆的核武器——沙皇炸弹也是基于萨哈罗夫的设计制造的。

萨哈罗夫曾提出兴建一个受控核聚变反应堆——托卡马克，直至现在仍是大部分同类研究的基础，他和伊戈尔·塔姆曾共同提出以环面状的磁场限制高热的离子化等离子体，以控制托卡马克的核聚变。

萨哈罗夫亦曾提出感应重力，作为量子引力的替代理论。

从1950年代后期起，萨哈罗夫开始关注他工作所牵涉的道德和政治问题。他在1960年代开始活跃于政坛，反对核武器扩散。他亦推动各国停止在地面进行核试验，也参与促成了部分禁止核试验条约在1963年的签署。1965年，他重返科学界，开始研究物理宇宙学，但仍继续反对政治歧视。

1967年当反弹道导弹成为美苏关系的重要议题时，萨哈罗夫的政治生涯出现了转折点，1967年7月21日萨哈罗夫在写给苏联领导人的一封信中，他认为苏联应该接受美国的建议，双方共同放弃对反弹道导弹的研发，否则针对这项新技术的军备竞赛将增加核战的可能性。他也请求领导人批准他在苏联一份报章上发表文章，解释反弹道导弹的危险性。当局没有理会这封信，并禁止他在苏联出版书籍展开对这个议题的讨论。1968年5月，萨哈罗夫写了一篇文章，指出反弹道导弹是核战威胁的一个主要因素，这篇文章作为地下出版物被传播并在苏联境外出版后，萨哈罗夫被禁止参与与军事有关的研究。之后他返回列别杰夫物理学院修读普通理论物理学。在1970年代，他与瓦列里·查里兹和安德烈·特韦尔多赫列博夫共同创立莫斯科人权委员会，并因而面对当局更大的压力。

1972年，萨哈罗夫与同为人权行动主义者的叶连娜·邦纳（Елена Георгиевна Боннэр）结婚。1973年，萨哈罗夫获得了诺贝尔和平奖的提名；翌年他获得了奇诺·德尔杜卡世界奖（Prix mondial Cino Del Duca）。1975年，他获得了诺贝尔和平奖，但他被苏联禁止离境领奖，他的妻子叶连娜在颁奖典礼上代他宣读演讲辞。

在他的著作中，他认为“没有被禁止的事情即被容许”，否认法律以外的任何道德或文化规范的重要性和正确性。1980年1月22日，他因为示威抗议苏联入侵阿富汗而被捕，随后他被流放到一个保密行政区高尔基，即现在的下诺夫哥罗德。在1980年至1986年间，萨哈罗夫受到苏联秘密警察的严密监视，在他的回忆录中他声称他在高尔基的寓所经常被搜查和抢掠。1986年，米哈伊尔·戈尔巴乔夫展开重建和开放的政策，萨哈罗夫被释放。

在萨哈罗夫曾经流放过的高尔基市，也就是目前的下诺夫哥罗德市，当地一些市民也前往萨哈罗夫居住过的住宅楼前献花。萨哈罗夫当年的一名邻居说，在高尔基市 的7年流放生活中，萨哈罗夫为抗议当局迫害曾三次绝食，其中的一次绝食长达178天，后来当局强制把他送到医院，并强制给他灌送食物。 　这位邻居说，萨哈罗夫的一举一动当年都受到秘密警察的严密监视。她说：“萨哈罗夫的来往信件都受到检查，秘密警察想知道这些信件发自哪里，内容是什么。每当萨哈罗夫来领取信件时，他的一大堆信件都单独放在一起。”

萨哈罗夫是前苏联核武器的主要研制者，被称为苏联氢弹之父。但萨哈罗夫后来反思自己的行为，在60年代主张禁止核武器以及核试验，并积极宣传绿色环保理 念。萨哈罗夫稍后提出了“和平、进步、人权”思想，并严厉抨击苏联出兵阿富汗，这使萨哈罗夫从苏联社会主义劳动英雄、列宁勋章获得者变成了苏联人权运动的 领袖。 　在回顾自己的思想转变时，萨哈罗夫在80年代末期曾这样表示，“我当时投身核武器的研制时认为，世界需要平衡。我至今仍然坚持这一观点。但在从事核武器研制的同时我也明白和意识到，我所从事的工作是多么可怕。”

俄罗斯总统梅德韦杰夫在萨哈罗夫去世20周年之际表示，萨哈罗夫的思想深刻而且有实际意义，萨哈罗夫的思想提出了今天俄罗斯需要解决的问题。 　当年曾亲自下令释放萨哈罗夫的前苏联总统戈尔巴乔夫说，萨哈罗夫当年为争取自由和人的尊严斗争的勇气让人钦佩。今天的俄罗斯社会恰好缺乏萨哈罗夫这样的人物。他称萨哈罗夫是真正的知识分子。

1988年，萨哈罗夫获得国际人道和伦理联合会（International Humanist and Ethical Union）颁发的国际人道主义奖。之后，萨哈罗夫协助了苏联最早的一批独立政治组织的成立，并成为苏联反对势力中主要一员。1989年3月，萨哈罗夫当选为苏联人民代表大会的成员（Съезды Советов），成为民主改革势力的领导者之一。

1989年12月14日，萨哈罗夫死于心脏病发，终年68岁。他的遗体埋葬在莫斯科沃斯特里亚科夫斯科耶公墓。