Đại số, ở dạng sớm nhất, được người Babylon sử dụng lần đầu tiên vào năm 1700 trước Công nguyên. Có thể đại số đã được sử dụng trước thời điểm này, nhưng các ghi chép lịch sử không đầy đủ. Tuy nhiên, đại số được các nền văn minh ban đầu sử dụng thô sơ hơn nhiều so với đại số đang được sử dụng ngày nay.
Việc phát minh ra đại số hiện đại đã mất vài thế kỷ và là một nỗ lực quốc tế. Đại số được nhà toán học người Ba Tư Muhammad ibn Mūsā al-Khwārizmī thành lập lần đầu tiên như một ngành toán học của riêng nó vào khoảng năm 820 sau Công nguyên. Vào cuối thế kỷ 16, nhà toán học Pháp François Viète bắt đầu phát triển ký hiệu đại số, và René Descartes đã xây dựng dựa trên công trình của ông. Đại số hiện đại tiếp tục phát triển cho đến thế kỷ 19 với sự phát minh ra đại số trừu tượng
