据《古矿录》所载，最早现世的司南，其诞生之地便是战国时期的河北磁山一带。磁山，不仅是指南针的故乡，更是天然磁铁矿石的宝地。在这片神奇的土地上，人们在日复一日的采矿与冶炼劳作中，意外地发现了磁铁矿石的奇妙特性——它既能吸铁，又具有指向性。于是，智慧的先民们便利用这一特性，巧妙地制造出了司南。
《韩非子?有度》中有言：“先王立司南以端朝夕”，可见当时司南在生活中的重要性。《鬼谷子?谋篇第十》亦载：“故郑人之取玉也，载司南之车，为其不惑也。”这些古籍中的记载，都生动地展现了司南在古代人们生活中的广泛应用。
东汉学者王充在《论衡?是应篇》中详细描述了司南的制作与使用：“司南之杓，投之于地，其柢指南。”这里的“地”多指“地盘”，即将磁铁矿石雕琢成勺形，置于地盘之上。由于磁铁具有指南的特性，勺柄自然指向南方，从而帮助人们辨别方向。
随着时间的推移，到了魏晋南北朝时期，人们开始尝试将磁针悬挂在空中，并与方位盘配合使用，完成了从勺到针的变革。这种新型的指南针被称为指南鱼或悬针，因其形状酷似蝌蚪或鱼而得名。至唐代后期，人们进一步掌握了人工传磁技术，开始用钢针制作指南针，并将其装于罗盘之上，实现了从司南到罗盘的飞跃。罗盘上刻有精确的度数和方位名称，使得方向的测量和角度的确定更加准确。
宋代，指南针的应用范围愈发广泛，不仅在航海、堪舆、军事等领域大放异彩，更远播海外，为世界的航海事业做出了巨大贡献。中国的航海罗盘在宋代开始外传至中东、北非和欧洲等地，为这些地区的航海家们提供了有力的导航工具。13世纪的欧洲开始接受并学习中国的罗盘技术，这一技术的引进直接推动了15世纪前后大航海时代的开启。可以想象，如果没有罗盘指南针的指引，达?伽马、哥伦布等伟大的航海家或许难以完成他们惊人的航海探险。
在军事方面，北宋时期的指南鱼已被广泛运用。《武经总要》中便记载了当时人们利用热剩磁效应制作指南鱼的方法，即将薄铁片剪成鱼形，烧热后置于地球磁场中磁化，待铁片冷却后浮于水面，鱼头即指向南方。科学家沈括在其著作《梦溪笔谈》中更是详细记录了人工磁化的方法，并总结了指南针的四种使用或安装方法：水浮法、指甲旋定法、碗唇旋定法和缕悬法。其中，水浮法因其简便易行，应用最为广泛。这种方法将磁针置于水中，利用水的浮力使磁针保持平衡，磁针在磁力作用下自然指示方向，为人们的出行和探险提供了极大的便利。
北宋庆历元年（）司天监保章正杨惟德所写的《茔原总录》，是年代明确可考的世界上关于磁偏角的首次记载，而且记载了当时当地磁偏角的大致数值。北宋晚期的寇宗爽所编的《本草衍义》中更详细地讲到在指南针上穿几根灯草，就可浮在水面上了。南宋曾三异《因话录》记载：“地螺或有子午正针，或用子午丙壬间缝针。”,此处的“地螺”指的就是罗盘。罗盘的“子午正针”是用磁针来确定地磁南北极方向，“子午丙壬间的缝针”则是以日影来确定地理南北极方向，两个方向间所夹的角度即为磁偏角。
按照欧美历史学家与考古学家的考证，位于现今墨西哥中南部的奥尔梅克文明，曾发现了具有典型中国特征的天然磁石，当地还出土了装有许多泥塑古佛的石匣、刻有中国文字的古钱。这说明，中国和墨西哥等美洲地区的往来至少可以上溯到哥伦布发现美洲的很久以前。
