Các nhà sử học tin rằng các nhạc cụ giống đàn hạc xuất hiện ở Ai Cập cổ đại vào khoảng năm 3000 trước Công nguyên. và sau đó xuất hiện ở dạng góc cạnh hiện đại của chúng ở châu Á vào khoảng năm 1500 trước Công nguyên Cây đàn hạc được khắc họa trên các bản vẽ hang động từ thời Ai Cập cổ đại có cấu trúc giống như cung săn bắn, là vật được các nhà sử học ghi nhận với cảm hứng về hình dạng của cây đàn hạc. Tuy nhiên, người châu Á đã tinh chỉnh hình dáng của đàn hạc bằng cách thêm một hộp âm thanh và một trụ vững chắc để làm điểm tựa.
Đàn hạc thời kỳ đầu có các sợi dài và mảnh được làm từ các vật liệu hữu cơ như sợi thực vật. Các cây đàn đa dạng về kiểu dáng và thậm chí cả vị trí chơi tùy thuộc vào khu vực xuất xứ. Ở nhiều vùng của Hy Lạp và La Mã, đàn hạc tồn tại như một nhạc cụ thẳng đứng, và người chơi gảy dây bằng cả hai tay. Tuy nhiên, ở vùng Lưỡng Hà, đàn hạc tồn tại như một nhạc cụ ngang. Người chơi đặt đàn hạc vào lòng và dùng miếng gảy để gảy dây.
Đàn hạc xếp hạng trong số những nhạc cụ lâu đời nhất trên thế giới. Chúng được sử dụng rộng rãi ở Ai Cập cổ đại và châu Á. Harps di cư đến nơi khác, phổ biến trong một thời gian ngắn ở Ấn Độ và Trung Đông trước khi đột ngột chết. Tuy nhiên, Harps đã xuất hiện trở lại ở châu Âu vào thế kỷ thứ 9. Hình dạng của chúng thay đổi một chút so với các phiên bản trước đó, bị ảnh hưởng nhiều bởi kiểu dáng Gothic. Đàn hạc Gothic nổi bật với cổ thon dài và thân mảnh mai để tạo vẻ thanh lịch. Đàn hạc Chromatic xuất hiện vào thế kỷ 16, xuất hiện như một nhạc cụ có hai hoặc ba hàng dây.
