世界で初めてレールの上を走る車両が用いられたのは、16世紀のドイツの鉱山においてであるとされている。トロッコのような車両が手押しまたは家畜の力での貨物輸送に用いられていた。レールと車輪は木製であった。

この技術はイギリスに渡り、やはり鉱山での輸送用に用いられて次第に改良が行われていった。1738年にカンバーランドにおいて初めて鋳鉄を利用したレールが発明された。
ただし木材の上に薄い鉄を貼り付けただけのもので、また磨耗しやすいカーブなど一部の区間にだけ用いられていた。
1750年代になるとすべての区間で鋳鉄を貼り付けたレールを用いることが一般化し、1767年にコールブルックデールの製鉄所技師であったリチャード・レイノルズが木材基盤ではなくすべてを鋳鉄で作ったレールの生産を開始した。
この時初めて脱線を防ぐ目的でフランジが使われたが、車輪ではなくレールの側にフランジがついていた。レールの両側につばが取り付けられて車輪の脱落を防いでいたが、車輪とレールがきしみあってうまく走行できず、雨水や落ち葉などが溝に溜まるという問題もあった。
1776年にベンジャミン・カーがこれを改善して、片方のつばを取り除いたL字形のレールを発明した。

1789年に土木技師のウィリアム・ジェソップが、レールの上面は平らにし車輪側にフランジを取り付けた、現代でも用いられている形式を発明した。これにより列車の走行は安定して行えるようになった。

この時期の鉄道は、まだ機械力による動力がなかったため、主に馬が牽引する馬車鉄道であり、鉱山の貨物輸送などごく一部の輸送手段に留まっていた。