Định nghĩa cơ bản về hợp chất vô cơ là bất kỳ chất nào trong đó hai hoặc nhiều nguyên tố, trừ cacbon, kết hợp với nhau. Các hợp chất chứa cacbon thường được phân loại là hữu cơ, ngoại trừ cacbua, cacbonat và xyanua, làm cho sự phân biệt giữa các hợp chất hữu cơ và vô cơ có một chút âm u trong một số tình huống.
Liên minh Quốc tế về Hóa học Ứng dụng và Tinh khiết thiết lập các định nghĩa cho các thuật ngữ hóa học. Mặc dù được giao nhiệm vụ này, Liên minh vẫn chưa xác định các thuật ngữ "hợp chất vô cơ" hay "hợp chất hữu cơ." Một số ngành khoa học mô tả các hợp chất vô cơ là không sống và các hợp chất hữu cơ là sống. Nước là một ví dụ điển hình về hợp chất vô cơ.