Cao nguyên hình thành qua hàng triệu năm. Cao nguyên cao nhất, lớn nhất trên thế giới là Cao nguyên Tây Tạng ở Đông Á, được hình thành khi hai mảng kiến tạo va chạm vào khoảng 55 triệu năm trước. Một số cao nguyên là kết quả khi magma bên trong Trái đất tăng lên về phía bề mặt và đẩy đá rắn, phẳng trên bề mặt.
Cao nguyên tồn tại trên tất cả các lục địa trên toàn cầu và chiếm tới một phần ba diện tích Trái đất. Hai loại cao nguyên là cao nguyên bị chia cắt, hình thành khi các mảng kiến tạo va chạm và tạo ra chuyển động đi lên trong vỏ Trái đất và cao nguyên núi lửa, là kết quả của các dòng dung nham tích tụ do các vụ phun trào núi lửa nhỏ lặp đi lặp lại.
Cao nguyên hình thành từ các dòng dung nham liên tục hình thành khi dung nham chảy ra khỏi bề mặt Trái đất qua các vết nứt và lan rộng trên các khu vực rộng lớn. Ví dụ về các cao nguyên được tạo ra từ các dòng dung nham bao gồm Cao nguyên Deccan ở Ấn Độ và Cao nguyên Columbia ở Tây Bắc Thái Bình Dương của Hoa Kỳ. Cao nguyên Mascarene ở Ấn Độ Dương trải rộng trên diện tích 770 dặm vuông.
Một số cao nguyên cũng hình thành khi gió và mưa làm xói mòn mặt của một khu vực trên cao. Một ví dụ về cao nguyên được điêu khắc bởi lực của nước là Grand Canyon, nơi liên tục thay đổi hình dạng do sông Colorado.