Hẻm núi được hình thành do sự xói mòn của gió và nước trong một thời gian dài sau khi một ngọn đồi, núi hoặc cao nguyên lớn được hình thành. Khối đất nguyên thủy được hình thành do các mảng kiến tạo va chạm và gây ra sự nâng lên của kiến tạo, và phần vật chất yếu nhất bị mài mòn theo thời gian để tạo ra một khe núi sâu và hẹp gọi là hẻm núi.
Loại hẻm núi phổ biến nhất là hẻm núi sông; nước chảy làm mòn hình thành đá ở hai bên và mang nó đi. Ngoài ra, ở những vùng khí hậu lạnh hơn, nước có thể ngấm vào đá, đóng băng và nở ra để phá vỡ thêm đá và bụi bẩn.
