Vị trí của Johannesburg ở 26 độ, 12 phút 16 giây vĩ độ nam và 28 độ, 2 phút 44 giây kinh độ đông. Johannesburg là thủ phủ của tỉnh Gauteng, nằm ở cao nguyên của Nam Phi được gọi là Highveld. Đây cũng là địa điểm của tòa án tối cao của đất nước, Tòa án Hiến pháp.
Thành phố Johannesburg, còn được gọi là "Jozi" hoặc "Jo'burg", cao 5.740 feet so với mực nước biển. Pretoria, thủ đô của Nam Phi và là thành phố lân cận gần nhất của Johannesburg, cách khoảng 36 dặm về phía bắc, trong khi Cape Town cách khoảng 870 dặm về phía tây nam.