Tai nghe hiện đại được thiết kế bởi Nathaniel Baldwin, người đã đệ trình ý tưởng của mình cho Hải quân để thử nghiệm vào năm 1910. Tuy nhiên, có nhiều thiết kế miếng in-ear có trước Baldwin và đóng góp vào ý tưởng của ông.
Ống nghe là một trong những thiết bị in-ear sớm nhất. Vào những năm 1850, chúng được phát minh để nghe tim và phổi của bệnh nhân, và Thomas Edison đã sử dụng chúng với máy quay đĩa của mình. Vào những năm 1890, các nhà hát opera và nhà hát ở Anh bắt đầu cung cấp cho khán giả những chiếc tai nghe thô sơ. Năm 1891, Ernest Mercadier đã phát minh ra hai điện thoại, một cặp tai nghe có thể chặn tiếng ồn.
Với sự hướng dẫn của Hải quân, thiết kế cuối cùng của Baldwin bao gồm hai bộ thu âm thanh, mỗi bộ chứa một dặm dây đồng, được gắn vào băng đô của người điều khiển. Thiết kế này là nền tảng cho điện thoại không dùng điện được sử dụng trong Thế chiến thứ hai.
John Koss sau đó đã phát triển tai nghe âm thanh nổi được thương mại hóa đầu tiên vào năm 1958. Năm 1979, Sony phát minh ra máy nghe nhạc Walkman.
