Các quy tắc chính của Rummikub xoay quanh việc nhóm các ô có màu và được đánh số thành các nhóm ít nhất là ba. Để đủ điều kiện là "tập hợp" hoặc nhóm, các ô có thể có cùng số và khác màu hoặc chúng có thể có cùng màu và được đánh số liên tiếp.
Rummikub đi kèm với các giá đỡ đặc biệt để người chơi có thể xếp các ô của mình. Để bắt đầu trò chơi, tất cả các ô phải được úp xuống. Tốt nhất nên đặt chúng lệch sang một bên để chừa một khoảng trống lớn ở giữa cho việc chơi game. Mỗi người chơi chọn mười bốn ô và đặt chúng trên giá xếp của mình. Để bắt đầu chơi, người chơi phải có tổng số điểm là ba mươi, được xác định bằng cách chỉ cần thêm giá trị của các con số trên các ô đã chơi. Mỗi bộ hoặc nhóm phải có tối thiểu 3 ô, có cùng số hoặc màu (với các số trong một hàng) như mô tả ở trên. Sau khi đặt bộ của mình xuống, người chơi kết thúc mỗi lượt bằng cách chọn một ô mới từ đống úp xuống. Điểm có thể được tính trong suốt trò chơi, nhưng người chiến thắng là người hết ô trước. Ngoài ra còn có hai "joker" có thể được chơi dưới dạng bất kỳ số hoặc màu nào. Trong khi chơi, người chơi có thể di chuyển các bộ xung quanh, mượn từ một lần chơi trước hoặc thêm vào đó. Tuy nhiên, khi các ô được di chuyển, mỗi nhóm phải tiếp tục có tối thiểu 3 ô.