在1世紀，中國人在壹種叫做“新浪”的裝置中使用磁鐵，這主要是用來看風水的。在這個裝置中，磁鐵被雕刻成勺子的形狀，並放置在壹個拋光的底盤上，它將自己指向南北軸。底盤上通常刻有方位(東、西、南、北)、星座分布和占蔔用的符號。公元83年，中國哲學家王充記載了這個裝置，但沒有提到它在航海中的應用。
在8世紀，中國人用磁化的鐵針代替了西那的磁鐵。這種磁針是將壹根鐵針沿著磁性極佳的磁鐵的磁軸磁化而得到的。1086年，中國科學家沈括在他的《孟茜碧潭》中明確提到了壹種專門用於航海的磁羅盤。到117017065438，北宋何柱寫的《周萍客談》描述了指南針在海上的使用。
然而，直到歐洲探險時代開始，指南針才被制成壹種復雜的導航設備。鑒於遠東的大量創新，指南針很可能是從阿拉伯人傳到西方的。在此之前，歐洲旅行者用太陽或北極星來辨別南北方向。雖然他們可以通過這種天文方法獲得更精確的定位，但這只能在天氣晴朗的時候進行——不時出現的惡劣天氣往往會嚴重影響航海活動，導致災難性後果。
公元11世紀，維京人可能已經使用指南針在北歐海岸航行，但是關於磁羅盤的第壹次記錄卻來自於英國學者兼牧師亞歷山大？由Nickmann撰寫，發表於1180。早期的歐洲指南針將壹根磁化的指針垂直插入壹根吸管，然後讓吸管垂直漂浮在壹個裝滿水的盤子裏。
這樣的設備可以在壹定程度上指示準確的方向，但出行時攜帶極其不便。到了1250，指針被裝在壹個樞軸上，它的上方是壹個標有主方向的圓形卡片，可以和指針壹起旋轉。1269，法國科學家佩特魯斯？佩裏格裏納斯首次解釋了磁鐵(以及指南針)的工作原理。
他描述了磁極並發明了指南針，這樣指針就可以用度數來指示方向。對指南針的進壹步改進包括將指針和刻度盤放在壹個盒子裏。早期的盒子由木頭或象牙等材料制成，這些材料不會幹擾施加在指針上的磁力。後來使用黃銅也是基於這種考慮。16世紀，船上的羅盤安裝在自校正軸或支架上，以保證羅盤在顛簸的船上能始終保持水平位置。