在从石器时代进展到铜器时代和铁器时代的过程中，热处理的作用逐渐为人们所认识。早在商代，就已经有了经过再结晶退火的金箔饰物。公元前770~前222年，中国人在生产实践中就已发现，铜铁的性能会因温度和加压变形的影响而 变化。白口铸铁的柔化处理就是制造农具的重要工艺。

公元前六世纪，钢铁兵器逐渐被采用，为了提高钢的硬度，淬火工艺遂得到迅速发展。中国河北省易县燕下都出土的两把剑和一把戟，其显微组织中都有马氏体存在，说明是经过淬火的。

随着淬火技术的发展，人们逐渐发现淬冷剂对淬火质量的影响。三国蜀人蒲元曾在今陕西斜谷为诸葛亮打制3000把刀，相传是派人到成都取水淬火的。这说明中国在古代就注意到不同水质的冷却能力了，同时也注意了油和尿的冷却能力。中国出土的西汉(公元前206~公元24)中山靖王墓中的宝剑，心部含碳量为0.15~0.4%，而表面含碳量却达0.6%以上，说明已应用了渗碳工艺。但当时作为个人"手艺"的秘密，不肯外传，因而发展很慢。

1863年，英国金相学家和地质学家展示了钢铁在显微镜下的六种不同的金相组织，证明了钢在加热和冷却时，内部会发生组织改变，钢中高温时的相在急冷时转变为一种较硬的相。法国人奥斯蒙德确立的铁的同素异构理论，以及英国人奥斯汀最早制定的铁碳相图，为现代热处理工艺初步奠定了理论基础。与此同时，人们还研究了在金属热处理的加热过程中对金属的保护方法，以避免加热过程中金属的氧化和脱碳等。

1850~1880年，对于应用各种气体(诸如氢气、煤气、一氧化碳等)进行保护加热曾有一系列专利。1889~1890年英国人莱克获得多种金属光亮热处理的专利。

二十世纪以来，金属物理的发展和其他新技术的移植应用，使金属热处理工艺得到更大发展。一个显著的进展是1901~1925年，在工业生产中应用转筒炉进行气体渗碳 ;30年代出现露点电位差计，使炉内气氛的碳势达到可控，以后又研究出用二氧化碳红外仪、氧探头等进一步控制炉内气氛碳势的方法;60年代，热处理技术运用了等离子场的作用，发展了离子渗氮、渗碳工艺 ;激光、电子束技术的应用，又使金属获得了新的表面热处理和化学热处理方法。