Thuật ngữ "Quả táo lớn", dùng để chỉ Thành phố New York, dường như có hai nguồn gốc riêng biệt. Cả hai đều có nguồn gốc từ đầu thế kỷ 20, và cả hai đều bắt nguồn từ tiếng lóng.
Lý thuyết đầu tiên về nguồn gốc của "Quả táo lớn" xuất phát từ thế giới đua ngựa. Vào khoảng đầu thế kỷ 20, những con ngựa đã được chạy đua để giành giải thưởng bằng tiền mặt thường được gọi là "quả táo". "Quả táo" lớn nhất trong thế giới đua xe là giải thưởng được trao cho các cuộc đua ở New York. Jockeys và chủ sở hữu đều bắt đầu gọi các cuộc thi của New York là "Quả táo lớn".
Một con đường khả thi khác cho cụm từ này có thể đến từ thế giới của những nhạc sĩ nhạc jazz lưu động. Cùng khoảng thời gian "Quả táo lớn" trở nên phổ biến đối với những người hâm mộ đua ngựa, câu ngạn ngữ "có nhiều quả táo trên một cây, nhưng chỉ có một quả lớn" đã được áp dụng cho các địa điểm ở Thành phố New York. Không giống như các buổi biểu diễn ở các địa điểm nhỏ hơn trên khắp đất nước, các nhạc sĩ coi việc lập nghiệp ở New York là một dấu hiệu của sự thành công trong nghề nghiệp.
Cho dù nguồn gốc chính xác của cụm từ này là gì, Thành phố New York đã sử dụng "Quả táo lớn" làm tên gọi chính thức vào năm 1971. Động thái này đã củng cố cụm từ này như một thuật ngữ được công nhận cho thành phố và giúp khôi phục danh tiếng của New York và khuyến khích du lịch.