Tu viện Downton được quay ở nhiều bối cảnh và địa điểm khác nhau ở Vương quốc Anh. Lâu đài Highclere, nằm ở phía bắc Hampshire, được sử dụng để chụp ảnh bên ngoài của chính Tu viện, cũng như nhiều ảnh bên trong.
Nhiều địa điểm và lâu đài lịch sử có thật đã được sử dụng để quay bộ phim này. Ngôi nhà thứ hai của gia đình Crawley thực sự là Grey's Court ở Oxfordshire. Ngôi nhà của người hạ giới thực sự là Byfleet Manor, nằm ở Surrey. Ga Downton là ga đường sắt Horsted Keynes ở Sussex. Lâu đài Duneagle thực sự là Lâu đài Inveraray ở Argyll, Scotland. Lâu đài Brancaster được quay tại Lâu đài Alnwick ở Northumberland, và điền trang Haxy Park là một phần của Trang viên Waddesdon ở Buckinghamshire