黄祖洽1924年出生于湖南长沙，1944年考入西南联合大学物理系，抗战胜利后随校回迁，1948年毕业于清华大学物理系，随后留校任教并攻读研究生，师从彭桓武先生，开始从事理论物理研究。

新中国成立后，黄祖洽调入中国科学院近代物理研究所，在彭桓武的指导下开展原子核理论和反应堆理论研究。他是中国最早从事核反应堆理论研究的学者之一，在核反应堆临界理论、中子慢化和扩散理论、中子输运理论等方面做了大量奠基性工作。1955年他参与了中国原子能事业的筹建，是中苏合作第一座实验性反应堆物理设计的中方主要技术骨干之一，对反应堆的物理启动方案和实验计划制定作出了重要贡献。

1960年，中苏关系破裂后，黄祖洽被调到二机部第九研究院（核武器研究院），参与中国原子弹和氢弹的理论研究。他担任理论部副主任，与邓稼先、周光召、于敏等科学家一起，在极端困难的条件下开展核武器理论攻关。他在原子弹的中子点火、裂变反应动力学、氢弹的辐射输运和能量传递等关键理论问题上作出了重要贡献，是"两弹一星"事业的重要功臣之一。

黄祖洽在中子输运理论方面有很深的造诣。他对非定态中子输运过程、介质中的中子慢化和扩散进行了系统研究，发展了中子输运方程的近似求解方法，建立了具有中国特色的反应堆物理计算体系。他还在核反应理论、凝聚态理论等方面有重要成果。

1980年黄祖洽当选为中国科学院学部委员（院士）。同年，他调任北京师范大学教授，将主要精力转向人才培养，为本科生和研究生讲授量子力学、统计物理、核反应理论等课程，培养了一大批优秀的理论物理人才。他一生淡泊名利，治学严谨，八十多岁高龄仍坚持给学生上课，深受师生爱戴。他常说："做学问要实事求是，不能有半点虚假。"这句朴实的话语正是他一生治学精神的真实写照。