Những hình xăm sớm nhất được biết đến là từ 5.000 năm trước và được tìm thấy trên cơ thể của Người băng, từ biên giới Ý-Áo. Hình xăm của anh nằm trên các huyệt đạo quan trọng, vì vậy người ta suy đoán rằng hình xăm có thể là để giảm đau. Tuy nhiên, có những ghi chép về hình xăm từ các nền văn minh trên khắp thế giới, vì vậy có thể nhiều nền văn hóa đã tìm ra các phương pháp tạo hình xăm độc lập.
Ngoài Người băng, một trong những ghi chép sớm nhất về hình xăm được tìm thấy trong các bức chạm khắc và trên xác ướp của phụ nữ Ai Cập từ 4.000 đến 3.500 trước Công nguyên. Hình xăm của họ nằm ở đùi và bụng, và các nhà nhân chủng học đưa ra giả thuyết rằng những hình xăm này có tác dụng bảo vệ khi mang thai và sinh nở.
Có nhiều nền văn hóa cổ đại khác trưng bày bằng chứng về hình xăm. Người Nubia và Libya là những bộ tộc sống gần gũi với người Ai Cập và cũng trưng ra những bằng chứng về hình xăm. Cũng có bằng chứng cho thấy người Scythia Pazyryk của Mông Cổ cũng sử dụng hình xăm, như được thấy trên xác ướp và trong các văn bản Hy Lạp. Người La Mã cũng có những lời kể về những người Anh cổ đại có hình xăm. Cũng có một số nền văn hóa Tiền Colombia ở Peru và Chile có những hình xăm rất giống với nghệ thuật của họ. Ở phía bên kia thế giới, một số xác ướp ở Trung Quốc có niên đại từ năm 1200 trước Công nguyên. có hình xăm, và người Maori nổi tiếng với những hình xăm trên khuôn mặt của họ. Cuối cùng, có bằng chứng cho thấy các nhóm bản địa Bắc Mỹ bao gồm người Cree và người Inuit có hình xăm.