Các loại đá tốt nhất để sử dụng làm vườn đá là những loại đá xuất hiện trong tự nhiên, đặc biệt là ở khu vực địa phương của người làm vườn. Đá đã qua phong hóa hoặc lâu năm hoạt động tốt hơn trong vườn đá so với đá mới cắt mới từ một mỏ đá. Các loại đá cứng hơn, bền hơn như đá granit và đá phiến có nhiều lựa chọn tốt hơn các loại đá mềm, xốp như đá vôi và đá phiến sét.
Nếu một người làm vườn đang xây dựng một khu vườn đá ở phía đông California hoặc phía tây Nevada, loại đá phổ biến nhất cho đến nay là đá granit. Sử dụng những miếng đá granit lớn trong khu vườn đá tạo cảm giác liên tục về mặt thị giác cho khu vườn đồng thời giúp nó hòa hợp với cảnh quan xung quanh. Ngoài ra, rất có thể những mảnh đá granit lớn luôn sẵn có ở vùng này của đất nước.
Tuy nhiên, nếu người làm vườn sống ở Tây Nam và muốn xây một hòn non bộ, loại đá được lựa chọn là đá sa thạch hoặc đá arkose. Đá sa thạch chủ yếu có màu nâu hoặc cam, trong khi arkose thường có màu nâu với các hạt nhỏ màu hồng của một khoáng chất gọi là fenspat. Trong khi mềm hơn đá granit, đá sa thạch có khả năng chống chọi với thời tiết khá tốt. Đá sa thạch biến chất, được gọi là quartzit, cũng tạo nên một loại đá sân vườn hấp dẫn, vì nó có màu sắc giống như đá sa thạch trong khi là một loại đá cứng hơn, bền hơn nhiều.
