地球是一个大磁体。地球的两个极分别在接近地理南极和地理北极的地方。地球表面的磁体，当可以自由转动时，就会因磁体同性相斥、异性相吸的性质指示南北——这个道理，古人不够明白；但这类现象，古人已经发现。
先秦时代的中国劳动人民已经积累了对磁现象的认识，在探寻铁矿的时候，常常遇到磁铁矿，即磁石（主要成分是四氧化三铁——化学式Fe3O4，别名氧化铁黑、磁铁、吸铁石，为具有磁性的黑色晶体，故又称为磁性氧化铁）。《管子》的数篇中早已记载了这些发现：“山上又磁石者，其下有金铜。”
《山海经》中也有类似的记载。磁石的吸铁特性很早被人发现，《吕氏春秋》九卷精通篇就有：“慈招铁，或引之也。”古人称“磁”为“慈”。古人把磁石吸引铁看作慈母对子女的吸引。并认为：“石是铁的母亲，但石有慈和不慈两种，慈爱的石头能吸引他的子女，不慈的石头就不能吸引了。”
汉以前古人把磁石写成“慈石”，是慈爱石头的表达。到了西汉，有一个名叫栾大的方士，他利用磁石的特性做了两个棋子的东西，通过调整两个棋子极性的相互位置，有时两个棋子相互吸引，有时相互排斥。栾大称其为“斗棋”。他把这个新奇的玩意献给汉武帝，并当场演示。汉武帝惊奇不已，龙心大悦，竟封栾大为“五利将军”。
李约瑟的观点，他在《中国对航海罗盘研制的贡献》一文，有明确的阐述。他从《古今注》、《管氏地理指蒙》、《九天玄女青囊海角经》等书的记载中推测出如下结论：“磁石指向性转移到它吸过的铁块的发现在中国大约在一世纪到六世纪。
在十一世纪以前的某个时期就已发现，不仅可以用铁块在磁石上磨擦产生磁化现象；而且还可以用烧红的铁片，经过居里点（CuriePoint），冷却或淬火而得到磁化，操作时，铁片保持南北方向。
