Trong lịch sử, cây ô liu là biểu tượng của hòa bình. Ý nghĩa này bắt đầu ở Hy Lạp cổ đại vào đầu thế kỷ thứ năm trước Công nguyên. Trong Kinh thánh, cành ô liu được dùng thường xuyên để báo hiệu sự kết thúc của xung đột hoặc sự chấp thuận của một quyền lực cao hơn.
Theo Cựu ước, Đức Chúa Trời đã gửi cho Nô-ê một con chim bồ câu với cành ô liu trong miệng để cảnh báo ông về sự kết thúc của trận lụt.
Do con người sống và canh tác tương đối lâu đời, cây ô liu là một thành phần nông nghiệp trung tâm của nhiều nền văn hóa cổ đại. Việc thuần hóa nguồn thực phẩm này được ước tính vào khoảng 4000 năm trước Công nguyên, khi những người thời đồ đá mới di cư vào khu vực lưu vực Địa Trung Hải.
Có chút thắc mắc tại sao cây ôliu lại gắn liền với hòa bình; nhiều công dụng của nó đã mang lại lợi ích cho các xã hội cổ đại, và nó được coi như một món quà từ các vị thần trong nhiều nền văn minh. Trong thần thoại Hy Lạp cổ đại, nữ thần Athena được liên kết với cây ô liu vì bà là người đã ban phát nó cho người Hy Lạp. Trong kinh Koran, ô liu, trong số các loại trái cây khác, được coi là một trong những món quà hiển nhiên của Allah.
Cho đến ngày nay, để "nối dài một cành ô liu" là cố gắng sửa chữa xung đột. Quốc kỳ của Liên hợp quốc mô tả thế giới với hai cành ô liu ở hai bên, tượng trưng cho mục tiêu hòa bình thế giới của tổ chức này.