Đĩa mềm 8 inch đầu tiên được tạo ra vào những năm 1970 có dung lượng 80 kilobyte. Đến năm 1986, IBM đã cải tiến thiết kế của mình, tạo ra đĩa mềm 3,5 inch, có dung lượng tối đa 1,44 megabyte.
Đĩa mềm lần đầu tiên được phát triển để thay thế việc sử dụng thẻ đục lỗ, trong những năm 1960 là cách duy nhất để đưa thông tin và phần mềm vào máy tính. David L. Noble được giao nhiệm vụ thay thế chúng và phát triển một chiếc đĩa dẻo, được phủ bằng vật liệu từ tính có thể chứa dữ liệu của 3.000 thẻ đục lỗ. Những chiếc đĩa mềm này rất dễ bị bẩn, vì vậy Herb Thompson và Ralph Flores đã phát triển một loại bao thư đặc biệt giúp tránh bụi và giữ chúng sạch sẽ.