Hóa thạch hình thành trong đá trầm tích như đá vôi, đá phiến sét và đá sa thạch. Hai loại đá khác, đá lửa và đá biến chất, hình thành trong những điều kiện không thích hợp cho hóa thạch.
Hóa thạch phổ biến nhất trong đá vôi và ít phổ biến nhất trong sa thạch. Hóa thạch hình thành thường xuyên hơn trong đá phiến sét so với đá sa thạch nhưng ít thường xuyên hơn trong đá vôi. Điều này là do cách chúng được hình thành: đá vôi được tạo thành từ vỏ của các sinh vật chết, đá phiến sét được hình thành từ trầm tích bùn hạt mịn và các dạng đá sa thạch từ cát.
Đá Igneous và đá biến chất không chứa hóa thạch do nhiệt độ và áp suất cao liên quan đến sự hình thành của chúng. Đá Igneous hình thành khi macma nguội đi và đá biến chất hình thành trong điều kiện nhiệt độ và áp suất cực cao dưới vỏ Trái đất.
