Cá mập dường như đã tiến hóa từ cá từ 400 đến 450 triệu năm trước, trong thời kỳ đầu kỷ Devon. Những con cá mập được biết đến sớm nhất khá nhỏ và chỉ dài từ 12 đến 16 inch. Chúng dường như đã sống gần hoặc trên khu vực ngày nay là Nam Cực.
Cách đây 360 triệu năm vào đầu Kỷ nguyên kim, có rất nhiều loài cá mập, một số loài khá giống với cá mập hiện đại. Vào cuối kỷ Permi, khoảng 245 triệu năm trước, nhiều loài cá mập đã bị xóa sổ trong một sự kiện tuyệt chủng lớn trên toàn cầu. Cá mập hiện đại bắt đầu xuất hiện vào đầu kỷ Jura, khoảng 213 triệu năm trước và đã sống trong các đại dương kể từ đó.