指南针相传是黄帝（约公元前30世纪）大战蚩尤时遇大雾而发明，已无从考证。中国先民对磁石指极性早有认识。公元前600多年（600B.C.下同）春秋时期《鬼谷子》书中说：郑国人进山采玉石时带有“司南”，以防迷失方向。战国时期（475-211B.C.）已制出比较精确的指南针“司南”。公元235年（A.D.235，下同）三国魏明帝时马钧制成了指南车。宋初A.D.960年中国已将指南针用于航海，当时使用的水罗盘有24向或48向。北宋沈括在其科学史名著《梦溪笔谈》（A.D.1092）中介绍了天然磁石磨针锋可做指南针，并谈到指南针用水浮法，指甲旋定法和碗边旋定法都不稳定，最好用蚕丝悬吊起来，于无风处观察。书中还在世界上第一个指出：指南针有一个略偏向东的地磁偏角，这是对地磁学的杰出贡献。400年后的1492年，哥伦布发现美洲之行中，才发现指南针并非指向正南，而有一个小小偏角。沈括所说的针，是经渗碳淬火的缝纫钢针，而非铁丝。他已意识到只有用矫顽力强、剩磁大的淬火钢针，磁化后才能做指南针。磁化后的钢就是最早的人工磁性材料。

宋初还出现过“指南鱼”。它是利用地球磁场，使受热铁片磁化后做成鱼形磁体，使其浮于水面而成的指南器具。这话有点玄，微弱的地球磁场怎能使铁片磁化成指南鱼？但凭当时古人对磁学的知识，就编出这种故事，特别还提到要加热，似乎也不像。会不会是在磁铁矿极丰富，地磁强度很强的地方搞成的呢？果真如此，则一千年前中国就出现磁场热处理了!而指南鱼所用材料恐怕也非普通铁片，应该是磁性合金了。会不会是铁镍合金呢？因为中国人至少在公元前一世纪西汉时期已会用镍与铜炼出白铜了。自然界还有一种镍黄铁矿（硫铁化镍），到了宋初，炼出点儿铁镍合金磁性材料也不无可能。但要靠地球磁场来制作指南鱼，远比磁石磨钢针难得多，所以这一技术就失传了也未可知。

1190年中国的指南针传入西方。1301年意大利人使用罗盘航海，并传播到世界各地。马克思在《机器、自然力和科学的应用》中指出：“指南针打开了世界市场”。

早在90B.C.西汉人开始用磁石治病。沈括在另一著作《忘怀录》中还留有中国人用磁化水治病的记载（A.D.1100）。这是开磁性医疗的先河。