La théorie de l'échantillonnage consiste, connaissant des propriétés d'une population, à déterminer des propriétés d'échantillons prélevés dans la population. On ne considère que des échantillons aléatoires, c'est à dire pris au hasard dans la population. Le tirage des éléments d'un échantillon peut être avec remise. Dans ce cas, les tirages sont indépendants. Lorsque le tirage se fait sans remise, alors les tirages ne sont pas indépendants. Cependant, lorsque la population est importante, on assimile un tirage sans remise à un tirage avec remise.