Mặc dù ngày phát minh thực sự của nó vẫn chưa được biết, nhưng con ngựa bập bênh được cho là đã có mặt vào khoảng năm 4000 trước Công nguyên. ở Hy Lạp cổ đại và Ba Tư. Ngựa bập bênh có đế hình bán nguyệt được cho là có nguồn gốc từ những chiếc nôi. Con ngựa bập bênh lâu đời nhất được biết đến vẫn còn tồn tại tính đến năm 2014 là từ khoảng năm 1610 và được cho là thuộc về Vua Charles I.
Những con ngựa bập bênh đầu tiên được làm bằng đế bán nguyệt được làm theo cách rất thô sơ. Họ thường có một cái đầu bị cưa thô, không có gì khác hơn một khúc gỗ để làm thân. Theo thời gian, ngựa bập bênh ngày càng tinh vi hơn với một số bức tranh được trang trí công phu và chạm khắc chi tiết.