Probabilités

I Cadre théorique

I.1 Ensembles dénombrables

I.1.1 Définition

Soit

E

un ensemble quelconque.

On dit que $E$ est dénombrable ssi il existe une application $ϕ : N \to E$ bijective. En d'autre termes, on peut écrire $E = {x_{0}, x_{1}, \dots}$ sans oublier un seul élément.
On dit que $E$ est au plus dénombrable ssi $E$ est fini ou dénombrable.

I.1.2 Fini ou dénombrable

Les ensembles finis ou dénombrables sont exactement les ensembles pour lesquels on peut numéroter les éléments, ou encore les décrire sous la forme

{x_{n} n \in N}

(quitte à prendre une infinité de fois la même valeur pour

x_{n}

dans le cas des ensembles finis).

I.1.3 Théorème

$N ∖ {0}$ est dénombrable.
$Z$ est dénombrable.
$N \times N et Z \times Z$ sont dénombrables.
Si $E et F$ sont dénombrables alors $E \times F$ est dénombrable.

Preuve

Encore heureux ! $ϕ : {\begin{array}{rcl} N & \to & N ∖ {0} \\ n & \mapsto & n + 1 \end{array}$ est une bijection convenable.
Exhibons une bijection de $Z$ dans $N$ . On pose $ϕ : {\begin{array}{rcl} Z & \to & N \\ k & \mapsto & {\begin{cases} 2 n si n \geq 0 \\ 2 \times (- n) + 1 si n < 0 \end{cases} \end{array} .$ $ϕ$ est une bijection. Pour le prouver on peut soit examiner l'injectivité et la surjectivité, soit exhiber sa réciproque.
cf 4.
Notons $E = {e_{i} | i \in N} et F = {f_{i} | i \in N}$ . L'idée ici et d'énumérer tous les éléments de $E \times F$ ``par diagonale'' : on représente $E$ sur l'axe des abscisses, $F$ sur l'axe des ordonnées (un élément de chaque sur chaque entier, $e_{0}, f_{0}$ situés en 0). On énumère les éléments de $E \times F$ de la manière suivante : pour chaque $k \in N$ , on part de $(e_{k}, f_{0})$ (graphiquement sur l'axe des abscisses), puis on considère $(e_{k - 1}, f_{1}), (e_{k - 2}, f_{2}) \dots (e_{0}, f_{k})$ . Plus précisément, si $(i, j) \in N^{2}$ , on note $k = i + j$ et alors on a déjà rempli $k$ diagonales donc numéroté $\sum_{p = 1}^{k} p = \frac{k (k + 1)}{2}$ éléments, et $(e_{i}, f_{j})$ est l'élément numéro $\frac{k (k + 1)}{2} + j$ (on vient de créer la bijection...)

I.1.4 Remarque

On doit pouvoir prouver que tout ensemble inclus dans un ensemble dénombrable est fini ou dénombrable. Ainsi

Q

doit être dénombrable, mais ce n'est pas au programme.

I.1.5 Coin culture

R

n'est pas dénombrable,

P (N)

non plus. Il semble alors évident que

C, R^{I}, C^{\infty} (I, R)

ne sont pas dénombrables (pour le dernier, considérer le sous ensemble des fonctions constantes...).

I.1.6 Objectif

On souhaite étendre la notion de variable aléatoire à ces variables à valeurs dans un ensemble dénombrable (le cas fini est traité en 1ère année). Un des buts est de pouvoir modéliser le genre de situation suivante :
On joue à pile ou face jusqu'à ce que la pièce tombe sur pile. Quel est le nombre moyen de coup ? Le problème pour l'instant est qu'on ne peut pas borner à priori le nombre de coups à jouer et donc la variable aléatoire dont la valeur est ce nombre de coup est a priori à valeurs dans

N ∖ {0}

I.2 Espaces probabilisable

I.2.1 Notation

Si les

A_{i}

sont des ensembles pour

i \in N

, on note

⋃_{i \in N} A_{i} = {x | \exists i \in N x \in A_{i}}

la réunion de ces ensembles et

⋂_{i \in N} A_{i} = {x | \forall i \in N x \in A_{i}}

leur intersection.

I.2.2 Définition

Soit

Ω

un ensemble que l'on appellera univers. Une tribu sur

Ω

est un sous ensemble

T

P (Ω)

(les éléments de

T

sont des sous ensembles de

Ω

) qui vérifie les 3 conditions :

$Ω \in T$
$\forall A \in T A^{C} = \bar{A} = Ω ∖ A \in T$ .
Si $(A_{n}) \in T^{N}$ alors $⋃_{n \in N} A_{n} \in T$ .

Les éléments de

T

(qui sont des ensembles, rappelons le) sont des événements . Le couple

(Ω, T)

est un espace probabilisable .

I.2.3 En pratique

Ω

représente l'ensemble des issues possibles d'une expérience aléatoire et un événement un ensemble de résultat possibles. Pour reprendre notre jeu de pile ou face, on peut prendre

Ω = N ∖ {0}

et un événement peut être ``le jeu s'arrête en un nombre pair de coup`` qui est l'ensemble

{2 n | n \in N ∖ {0}}

.
Bien souvent,

Ω

n'est pas précisé et sa connaissance n'est pas indispensable au bon déroulé de l'exercice. On supposera dans ce cas qu'une bonne tribu est choisie.

I.2.4 Proposition

Soit

(Ω, T)

un espace probabilisable.

$\emptyset \in T$ .
Si $(A_{n})_{n \in N} \in T^{N} ⋂_{n \in N} A_{n} \in T$ . De plus, $⋂_{n \in N} A_{n} = \bar{⋃_{n \in N} A_{n}^{c}}$

Preuve

Exo !

I.3 Espace probabilisé

I.3.1 Définition

Soit

Ω

un ensemble et

T

une tribu sur

Ω

. Une probabilité sur

Ω

est une fonction

P

qui associe à chaque événement

A

une probabilité

P (A) \in [0, 1]

avec les contraintes suivantes :

$P (Ω) = 1$
Si $(A_{n})_{n \in N}$ est une suite d'événements incompatibles deux à deux (ie disjoints deux à deux), alors $P (⋃_{n \in N} A_{n}) = \sum_{n = 0}^{+ \infty} P (A_{n}) : propriété de σ -additivité$

En particulier, toute série de la forme précédente doit converger vers un nombre dans

[0, 1]

.
Le triplet

(Ω, T, P)

est appelé un espace probabilisé . Dans la suite du cours, nous utiliserons ces notations.

I.3.2 Cas fini

Si on considère une suite

(A_{n})_{n \in N}

d'événements telle que

A_{n} = \emptyset

pour tout

n \geq 2

, on retrouve la définition de 1ère année. Avec un nombre fini de

A_{n}

non vide, la

σ

-additivité est une propriété démontrée en 1ère année.

I.3.3 Mais pourquoi des tribus ?

Dans le cas où

Ω

est fini ou dénombrable, on pourra prendre

T = P (Ω)

sans problème. Les choses se corsent singulièrement si on prend

Ω

non dénombrable.
Par exemple, on prouve (un ``on'' qui est bien en dehors du cadre de ce cours), qu'on ne peut pas poser

Ω = [0, 1], T = P (Ω)

et la probabilité uniforme naturelle qui vérifie

P ([a, b]) = b - a

I.3.4 Définition

Soit

A

un événement.

Si $A \neq \emptyset$ et $P (A) = 0$ on dit que $A$ est négligeable .
Si $A \neq Ω$ et $P (A) = 1$ on dit que $A$ est presque sûr.

I.4 Propriétés des probabilités

I.4.1 Proposition (Adaptation de la 1ère année)

Soit

(Ω, T, P)

un espace probabilisé. Soient

A, B

deux événements et

(A_{n})_{n \in N}

une suite d'événements.

$P (\emptyset) = 0$
$P (A^{c}) = P (\bar{A}) = 1 - P (A)$ .
Si $A \subset B$ alors $P (A) \leq P (B)$ .
$P (A \cup B) = P (A) + P (B) - P (A \cap B)$ et $P (A \cap B) = P (A) + P (B) - P (A \cup B)$ .
$P (⋃_{k = 0}^{N} A_{k}) \leq \sum_{k = 0}^{N} P (A_{k})$ pour tout $N \in N$ .

Preuve

$Ω = Ω ⊔ \emptyset$
$Ω = A ⊔ A^{c}$
$B = A ⊔ (B ∖ A)$
$A \cup B = A ⊔ (B ∖ A)$
Par récurrence, en partant du cas $n = 2$ prouvé par le point précédent.

I.4.2 Théorème

Soit

(A_{n})_{n \in N}

une suite d'événements.

Si $(A_{n})_{n \in N}$ est croissante au sens de l'inclusion ( $\forall n \in N A_{n} \subset A_{n + 1}$ ) alors $P (⋃_{n \in N} A_{n}) = lim_{n \to + \infty} P (A_{n})$
Si $(A_{n})_{n \in N}$ est décroissante au sens de l'inclusion ( $\forall n \in N A_{n + 1} \subset A_{n}$ ) alors $P (⋂_{n \in N} A_{n}) = lim_{n \to + \infty} P (A_{n})$

Le résultat important est l'existence de ces limites.

Preuve

Le complémentaire d'une réunion étant l'intersection des complémentaires, nous prouvons seulement le premier point.
Supposons donc

(A_{n})_{n \in N}

croissante au sens de l'inclusion. Alors la suite

(P (A_{n}))_{n \in N}

est croissante et majorée par 1 donc converge.
Pour

n \in N ∖ {0}

, posons

B_{n} = A_{n} ∖ A_{n - 1}

B_{0} = A_{0}

. Alors les

B_{i}

sont disjoints deux à deux (pour imager,

B_{n}

est ce qu'il manquait à

A_{n - 1}

pour devenir l'ensemble

A_{n}

qui est ``plus grand'').
De plus,

⋃_{k = 0}^{n} B_{k} = A_{n} = ⋃_{k = 0}^{n} A_{k}

. Ainsi

⋃_{n \in N} A_{n} = ⋃_{n \in N} B_{n}

et donc

P (⋃_{n \in N} A_{n}) = \sum_{n = 0}^{+ \infty} P (B_{n}) = P (B_{0}) + \sum_{n = 1}^{+ \infty} (P (A_{n}) - P (A_{n - 1}))

.
La série est télescopique et converge vers

lim_{n \to + \infty} P (A_{n}) - P (A_{0})

, ce qui conclut la preuve.

I.4.3 Proposition (Sous-additivité)

Soit

(A_{n})_{n \in N} \in T^{N}

telle que

\sum P (A_{n})

converge. Alors

P (⋃_{n \in N} A_{n}) \leq \sum_{n = 0}^{+ \infty} P (A_{n})

Preuve

Pour

n \in N

, on pose

B_{n} = ⋃_{k = 0}^{n} A_{k}

qui est une suite croissante d'événements. Alors

⋃_{n \in N} A_{n} = ⋃_{n \in N} B_{n}

et d'après le théorème précédent,

P (⋃_{n \in N} A_{n}) = lim_{n \to + \infty} (P (B_{n}))

.
Ainsi

{(P (⋃_{k = 0}^{n} A_{k}))}_{n \in N}

possède une limite et on peut passer à la limite l'inégalité I.4.1 de la proposition I.4.1 (Rappel : l'hypothèse du passage à la limite des inégalité est seulement l'existence des limites).

I.4.4 Evénements négligeables

Si tous les

A_{n}

sont négligeables, alors leur réunion l'est aussi.

II Calcul de probabilités

II.1 Systèmes complets

II.1.1 Proposition (Définition d'une probabilité)

(A_{n})_{n \in N}

est une suite d'événements incompatibles deux à deux, alors

P (⋃_{n \in N} A_{n}) = \sum_{n = 0}^{+ \infty} P (A_{n}) \in [0, 1]

et toute série de la forme précédente (série de probabilités d'événements deux à deux incompatibles) est une série à termes positifs convergente, de limite (somme de la série) dans

[0, 1]

II.1.2 Définition

Notons, pour

n \in N

A_{n}

un événement (donc

A_{n}

est un sous-ensemble de

Ω

).
On dit que

(A_{n})_{n \in N}

est un système complet d'événements ssi

\forall (i, j) \in N^{2} i \neq j \Rightarrow A_{i} \cap A_{j} = \emptyset

(disjoints 2 à 2) et

⋃_{n \in N} A_{n} = Ω

II.1.3 Proposition

(A_{n})_{n \in N}

est un système complet d'événements, alors

P (⋃_{n \in N} A_{n}) = 1

Preuve

C'est une conséquence immédiate de la définition.

II.1.4 Définition

Notons, pour

n \in N

A_{n}

un événement (donc

A_{n}

est un sous-ensemble de

Ω

).
On dit que

(A_{n})_{n \in N}

est un système quasi-complet d'événements ssi

\forall (i, j) \in N^{2} i \neq j \Rightarrow A_{i} \cap A_{j} = \emptyset

(les

A_{n}

sont disjoints 2 à 2) et

P (⋃_{n \in N} A_{n}) = 1.

En d'autre termes, la probabilité qu'aucun des

A_{n}

ne soit réalisé est nulle, et l'un exactement des

A_{n}

est réalisé presque sûrement (avec une probabilité 1, un et un seul des

A_{n}

est réalisé).

II.1.5 Exemple

Reprenons l'exemple du jeu de pile ou face. On pose

A_{n}

l'événement : le jeu s'arrête au

n + 1

ième lancé, ie on a obtenu n fois face avant d'obtenir pile. On pose en plus

A_{- 1}

l'événement : le jeu ne s'arrête pas.
Alors

(A_{n})_{n \geq - 1}

est un système complet d'événements. Essayons de construire un probabilité raisonnable.
On doit avoir

\sum_{n = - 1}^{+ \infty} P (A_{n}) = 1

. Il semble raisonnable de poser

P (A_{n}) = \frac{1}{2^{n + 1}}

(quelle hypothèse faisons nous sur chaque lancé, sur la pièce ?)
Alors

P (A_{- 1}) = 0

est la seule possibilité (calculer la somme des probabilités imposées), ce qui semble raisonnable.
Les événements

(A_{n})_{n \in N}

forment un système quasi-complet d'événements et on peut exclure l'événement

A_{- 1}

de notre système.

II.1.6 Proposition (Système complet d'événements)

(A_{n})_{n \in N}

est un système (quasi)-complet d'événements et

B

est un événement, alors

$P (⋃_{n \in N} A_{n}) = 1$
$P (B) = \sum_{n = 0}^{+ \infty} P (B \cap A_{n})$

On retrouve le cours de première année en prenant un système complet fini (tous les

A_{n}

sont vides sauf les quelques premiers).

Preuve

B

est la réunion disjointe des

B \cap A_{n}

et éventuellement d'un ensemble de probabilité nulle.

II.2 Probabilités conditionnelles

II.2.1 Définition-proposition

Soit

B

un événement tel que

P (B) > 0

Pour un événement $A$ , la probabilité de $A$ sachant $B$ est $P (A | B) = \frac{P (A \cap B)}{P (B)}$
L'application $P_{B} : {\begin{array}{rcl} T & \to & [0, 1] \\ A & \mapsto & P_{B} (A) = P (A | B) \end{array}$ est une probabilité. C'est la probabilité conditionnelle sachant $B$ .

Preuve

On doit prouver que

P_{B}

est une probabilité sur l'espace probabilisable

(Ω, T)

$P_{B} (Ω) = \frac{P (B \cap Ω)}{P (B)} = 1$ car $B \cap Ω = B$ .
Soit $(A_{n})$ une suite d'événements incompatibles 2 à 2. Évaluons $P_{B} (⋃_{n \in N} A_{n})$ .

(⋃_{n \in N} A_{n}) \cap B = ⋃_{n \in N} A_{n} \cap B

(A_{n} \cap B)

$\begin{aligned} P_{B} (⋃_{n \in N} A_{n}) & = \frac{1}{P (B)} P ((⋃_{n \in N} A_{n}) \cap B) \\ = \frac{1}{P (B)} \sum_{n = 0}^{+ \infty} P (A_{n} \cap B) \\ = \sum_{n = 0}^{+ \infty} P_{B} (A_{n}) \end{aligned}$

où on a utilisé le fait que

P

est une probabilité et la liéarité de la somme de série convergente.

II.2.2 Interprétation

Tout se passe comme si on prennait pour univers l'événement

B

. Ou encore que l'on suppose que

B

est réalisé pour évaluer la probabilité que d'autres événements se réalisent. Il ne faut pas confondre cette notion avec l'intersection qui représente le fait que deux événements se réalisent en même temps.
Pour illustrer ceci, voici un exemple. On considère que l'on lance un dé équilibré à 6 faces.

La probabilité d'obtenir un nombre pair et un 6 est de $\frac{1}{6}$ .
La probabilité d'obtenir un 6 sachant qu'on a obtenu un nombre pair est $\frac{1}{3}$

II.2.3 Proposition (Formule des probabilités composées)

Pour $A, B$ des événements, si $P (B) > 0$ alors $P (A \cap B) = P (A | B) P (B)$ . Rappelons en plus que $P (A \cup B) = 1 - P (\bar{A} \cap \bar{B})$
Si $A_{1}, \dots, A_{n}$ sont des événements tels que $P (⋂_{k = 1}^{n - 1} A_{k}) \neq 0$ alors $P (⋂_{k = 1}^{n} A_{k}) = P (A_{1}) \times P (A_{2} | A_{1}) \times P (A_{3} | A_{1} \cap A_{2}) \times \dots \times P (A_{n} | ⋂_{k = 0}^{n - 1} A_{k})$

II.2.4 Exemple

Un savant fou choisi dans la salle de classe des cobaye parmi les élèves. Aucune chance de s'en sortir. Quelle est la probabilité pour qu'il choisisse successivement un garçon, une fille puis un garçon ?
On cherche

P (G_{1} \cap F_{2} \cap G_{3}) = P (G_{1}) P (F_{2} | G_{1}) P (G_{3} | G_{1} \cap F_{2})

II.2.5 Proposition (Probabilité totales)

Il s'agit de traduire les propriétés des probabilités vis-à-vis de l'intersection en termes de probabilités conditionnelles.

Soit $A$ un événement ni négligeable ni presque sûr ( $P (A) \in] 0, 1 [$ ). Alors $A, \bar{A}$ forment un système complet d'événements et pour tout événement $B$ , $P (B) = P (B | A) P (A) + P (B | \bar{A}) P (\bar{A}) .$
Pour $(A_{n})_{n \in N}$ un système complet d'événements (y compris fini) et $B$ un événement $P (B) = \sum_{n = 0}^{+ \infty} P (B | A_{n}) P (A_{n})$ où l'on convient que $P (B | A_{n}) P (A_{n}) = 0$ si $P (A_{n}) = 0$ .

Preuve

Immédiat.

II.2.6 Exemple

Un site internet a une audience séparée en deux types : les respectueux qui représentent 90\% des inscrits et les trolls 10\%. Les premiers ont un probabilité de 0.1 de participer à une discussion houleuse sur une journée, les second 0.7.
Un nouvel utilisateur s'inscrit. Avec quelle probabilité participe-t-il à une discussion houleuse dès le premier jour ? Dans les deux premiers jours ?
Notons

T

l'événement ``le nouvel arrivant est un troll'' et

D

l'événement ``il participe à une discussion houleuse''.

P (D) = P (T) \times P (D | T) + P (\bar{T}) \times P (D | \bar{T}) = \frac{1}{10} \times \frac{7}{10} + \frac{9}{10} \times \frac{1}{10} = \frac{4}{25}

.
Ainsi

P (\bar{D}) = \frac{21}{25}

et la réponse à la deuxième question est

1 - {(\frac{21}{25})}^{2} = 1 - \frac{441}{625} = \frac{184}{665} \approx 0.3

On fait ici l'hypothèse que les journées sont indépendantes.
Pour calculer la probabilité d'une réunion (discussion houleuse le jour 1 OU le jour 2, on calcule plutôt la probabilité de l'événement contraire qui est une intersection.)

II.2.7 Proposition (Formule de Bayes)

Soient

A, B

deux événements non négligeables (

P (A) > 0 et P (B) > 0

). Alors

P (B | A) = \frac{P (B)}{P (A)} P (A | B) .

En pratique, on calcule souvent le dénominateur par la formule des probabilités totales.

II.2.8 Exemple

Malfaçon ou triche organisée ? Toujours est-il que sur les 100 dés à 6 faces produits aujourd'hui 25 on une probabilité de 1/2 de tomber sur 6...
On choisi un de ces dés et on le lance. Il tombe sur 6. Avec quelle probabilité est-il pipé ?
Notons

S

l'événement ``le dé tombe sur 6'' et

T

l'événement ``le dé choisi est pipé''. On cherche

P (T | S)

.
On connaît

P (S | T) = \frac{1}{2}

P (T) = \frac{1}{4}

. Il nous manque

P (S) = P (T) P (S | T) + P (\bar{T}) P (S | \bar{T}) = \frac{1}{4} \frac{1}{1} + \frac{3}{4} \frac{1}{6} = \frac{1}{4} .

Ainsi

P (T | S) = \frac{P (T) P (S | T)}{P (S)} = \frac{1}{2}

II.2.9 Cas d'application

Généralement l'énoncé donne

P (A | B)

P (B)

. Il faut calculer

P (A)

par la formule des probabilités totales.

II.3 Evénements indépendants

II.3.1 Définition

Soient

A, B

deux événements
On dit que

A et B

sont indépendants ssi

P (A \cap B) = P (A) P (B)

II.3.2 Lien avec les probabilités conditionnelles

Si on suppose

P (B) > 0

, la condition

A et B

sont indépendants devient

P (A) = P (A | B)

.
La réalisation de

A

ne dépend pas de celle (préalable) de

B

II.3.3 Définition

Soient

A_{1}, \dots, A_{n}

des événements. On dit qu'ils sont indépendants ssi

\forall I \subset ⟦ 1, n ⟧ P (⋂_{i \in I} A_{i}) = \prod_{i \in I} P (A_{i})

II.3.4 Attention

Trois événements indépendants 2 à 2 ne sont pas forcément indépendants.

II.3.5 Proposition

(A, B)

sont indépendants, il en est de même de

(A^{c}, B), (A, B^{c}), (A^{c}, B^{c})

. On peut généraliser ce résultat à

n > 2

événements indépendants (et mettre des complémentaires ou non où bon nous semble).

II.3.6 En pratique

L'énoncé supposera très souvent que certains événements sont indépendants. On pourra alors très facile calculer des probabilités d'intersection et de réunion (1 -

P

) en passant au complémentaire, grâce à la remarque précédente.

III Variables aléatoires

III.1 Lois

III.1.1 Définition

Une variable aléatoire discrète est une fonction $X : Ω \to R$ où $X (Ω)$ (l'ensemble des valeurs de $X$ ) est dénombrable ou fini.

X^{- 1} ({x})

x \in X (Ω)

Si $H$ est un ensemble de valeurs de $X$ (on a donc $H \subset X (Ω)$ ), on note $(X \in H)$ l'événement `` $X$ prend l'une des valeurs dans $H$ '', c'est à dire l'ensemble $X^{- 1} (H)$ (image réciproque par la fonction $X$ de l'ensemble $H$ ).
Si $x$ est l'une des valeurs que peut prendre $X$ (ie. $x \in X (Ω)$ ), on note $(X = x)$ l'événement $X^{- 1} ({x})$ , c'est à dire l'événement `` $X$ prend la valeur $x$ ''

Le première chose à préciser sur une variable aléatoire (en théorie comme en pratique) est l'ensemble de ses valeurs

III.1.2 Théorème

Soit

X

une variable aléatoire discrète sur

Ω

. Notons

{x_{n} | n \in N} = X (Ω)

l'ensemble de ses valeurs. Alors

((X = x_{n}))_{n \in N}

est un système complet d'événements.

Preuve

Si $i \neq j$ , et $ω \in Ω$ $ω \in (X = x_{i}) \cap (X = x_{j})$ signifie que $X (ω) = x_{i} et X (ω) = x_{j}$ ce qui est absurde.
Si $ω \in Ω$ , notons $x_{n} = X (ω)$ . Alors $ω \in (X = x_{n})$ .

Ces deux points prouvent que les événements

(X = x_{n})

sont deux à deux incompatibles et que leur réunion est

Ω

III.1.3 Exemple

Revenons à notre pile ou face. Cette fois la pièce est truquée et tombe sur pile avec un probabilité

p \in] 0, 1 [

. On note

X

le numéro du lancé ou le jeu se fini. Calculer pour

n \in N ∖ {0}

P (X = n)

ainsi que leur somme.

III.1.4 Définition

Soit

X

une variable aléatoire discrète. La loi de

X

est l'application

P_{X} : {\begin{array}{rcl} X (Ω) & \to & [0, 1] \\ x & \mapsto & P (X = x) \end{array}

Avec les notations du théorème précédent, il s'agit de donner,

P (X = x_{n})

, pour tout

n \in N

III.1.5 Somme

D'après le théorème précédent, la loi de

X

vérifie

\sum_{n = 0}^{+ \infty} P (X = x_{n}) = 1

.
Réciproquement, on admet que si

(p_{n})_{n \in N}

est une suite de réels positifs telle que

\sum_{n = 0}^{+ \infty} p_{n} = 1

, alors on peut trouver une probabilité

P

sur

Ω

et une variable aléatoire

X

telles que

P (X = x_{n}) = p_{n}

III.2 Loi usuelles

III.2.1 Répétitions

Considérons une répétition illimité de la même expérience aléatoire (par exemple on lance deux dés), et on s'intéresse à un résultat précis que l'on nomme succès (on considère donc une répétition d'expérience ''de Bernoulli'') qui apparaît avec une probabilité

p \in] 0, 1 [

. On suppose les expériences mutuellement indépendantes.
On note

X

le rang du premier succès. Donner la loi de

X

III.2.2 Définition

On dit qu'une variable aléatoire

X

suit la loi géométrique de paramètre

p \in] 0, 1 [

(on note

X ↪ G (p)

) ssi

\forall k \in N ∖ {0} P (X = k) = p (1 - p)^{k - 1} .

L'ensemble des valeurs de $X$ est $X (Ω) = N ∖ {0}$ .
On peut interpréter $X$ comme donnant le rang d'apparition du premier succès lors de répétitions INDÉPENDANTES d'une expérience de probabilité de succès $p$ .

III.2.3 Proposition

Soit

X

une variable aléatoire,

X ↪ G (p)

pour un

p \in] 0, 1 [

. Soient

n, k \in N ∖ {0}

P (X > n + k | X > n) = P (X > k)

.
On dit que la loi géométrique est sans mémoire.

Preuve

On a au niveau des événements,

(X > n + k) \cap (X > n) = (X > n + k)

. Ainsi

P (X > n + k | X > n) = \frac{P (X > n + k)}{P (X > n)}

.
Or

P (X > n + k) = \sum_{i = 0}^{+ \infty} P (X = n + k + 1 + i) = \sum_{i = 0}^{+ \infty} p (1 - p)^{n + k + i} = p (1 - p)^{n + k} \frac{1}{1 - (1 - p)} = (1 - p)^{n + k}

.
De même

P (X > n) = (1 - p)^{n} et P (X > k) = (1 - p)^{k}

. Ce qui conclut.

Explication

Le fait de savoir que les

n

premières expériences ont échoués ne présage en rien du nombre d'échec ou de succès à venir.

III.2.4 Exemple

Soit

λ \in R^{*}

Trouver

α \in R

tel que la série

\sum_{n \in N} \frac{α λ^{n}}{n!}

converge et que sa somme soit 1.
C'est un simple calcul de somme d'une série exponentielle, on trouve

α = e^{- λ}

III.2.5 Définition

Soit

λ \in] 0, + \infty [

. On dit qu'une variable aléatoire

X

à valeurs dans

N

suit la loi de Poisson de paramètre

λ

(noté

X ↪ P (λ)

) ssi

\forall k \in N P (X = k) = e^{- λ} \frac{λ^{k}}{k!} .

III.2.6 Cas d'utilisation

On peut utiliser cette loi pour approximer une loi binomiale de paramètre faible (on le verra plus loin), ou pour modéliser une expérience ou les valeurs de

X

ont de fortes chances d'être faible. Nous verrons l'interprétation de

λ

plus loin dans le chapitre.

III.3 Loi conjointe, indépendance

III.3.1 Définition

Soient

X, Y

deux variables aléatoires discrètes sur

Ω

. On note

{x_{n} | n \in N} et {y_{m} | m \in N}

les valeurs possibles de

X et Y

respectivement.

$(X, Y)$ est une variable aléatoire $ω \mapsto (X (ω), Y (ω))$ .
La loi conjointe du couple $(X, Y)$ est la loi décrite par la donnée de $P (X = x_{n}, Y = y_{m})$ pour toutes les valeurs de $n et m$ .

Z = (X, Y)

Les lois marginales de la loi conjointe de $(X, Y)$ sont les lois de $X et Y$ .
Pour $n_{0} \in N$ fixé tel que $P (X = x_{n_{0}}) \neq 0$ , la loi conditionnelle de $Y$ sachant $(X = x_{n_{0}})$ est la loi donnée par $P (Y = y_{m} | X = x_{n_{0}})$

Preuve

Il faut a priori justifier que

Z = (X, Y)

est une variable aléatoire.
Soit

z \in Z (Ω)

z = (x, y)

où

x \in X (Ω), y \in Y (Ω)

. Nous devons montrer que

A = Z^{- 1} (\ens z)

est un événement.
Or

ω \in A ⟺ Z (ω) = z ⟺ Z (ω) = (x, y) ⟺ X (ω) = x et Y (ω) = y

. Ainsi

A = X^{- 1} (\ens x) \cap Y^{- 1} (\ens y)

est une intersection d'événements donc est un événements (car

X, Y

sont supposés être des variables aléatoires).

III.3.2 Calcul de lois

Notons pour

(n, m) \in N^{2}

p_{n, m} = P (X = x_{n}, Y = y_{m})

. On suppose donc la loi conjointe connue.

Pour un $n \in N$ fixé, $\sum_{m = 0}^{+ \infty} p_{n, m} = P (X = x_{n})$ car $((Y = y_{m}))_{m \in N}$ forment un système complet d'événements. (On retrouve la première loi marginale par somme). De même, pour un $m \in N$ fixé, $\sum_{n = 0}^{+ \infty} p_{n, m} = P (Y = y_{m})$ .
Alors $\sum_{n = 0}^{+ \infty} \sum_{m = 0}^{+ \infty} p_{n, m} = \sum_{m = 0}^{+ \infty} \sum_{n = 0}^{+ \infty} p_{n, m} = 1$ .
Pour $n, m$ fixés, $P (Y = y_{m} | X = x_{n}) = \frac{P (Y = y_{m}, X = x_{n})}{P (X = x_{n})} = \frac{p_{n, m}}{\sum_{k = 0}^{+ \infty} p_{n, k}}$ .

III.3.3 Exemple

On lance une pièce qui tombe sur pile avec une probabilité

p \in] 0, 1 [

(et donc face avec une probabilité

q = 1 - p \in] 0, 1 [

). On note

X

le rang d'apparition du premier pile et

Y

le rang du second.
Donner la loi conjointe. Soient

n, m \in N ∖ {0}

Si $n \geq m$ alors $P (X = n, Y = m) = 0$ .
Si $1 \leq n < m$ , $P (X = n, Y = m) = P (Y = m | X = n) P (X = n) = p (1 - p)^{m - n - 1} \times p (1 - p)^{n - 1} = p^{2} (1 - p)^{m - 2}$ .

Vérifions que la somme vaut 1.

$\begin{aligned} \sum_{m = 1}^{+ \infty} \sum_{n = 1}^{+ \infty} P (X = n, Y = m) & = \sum_{m = 2}^{+ \infty} \sum_{n = 1}^{m - 1} p (1 - p)^{m - n - 1} \times p (1 - p)^{n - 1} \\ = \sum_{m = 2}^{+ \infty} (m - 1) p^{2} (1 - p)^{m - 2} = p^{2} \sum_{m = 1}^{+ \infty} m (1 - p)^{m - 1} \end{aligned}$

On re connaît la dérivée de

f : x \mapsto \frac{1}{1 - x} = \sum_{n = 0}^{+ \infty} x^{n}

évalué en

x = 1 - p

.
Ainsi

\sum_{m = 2}^{+ \infty} (m - 1) (1 - p)^{m - 2} = \frac{1}{(1 - (1 - p))^{2}} = \frac{1}{p^{2}}

et tout est bien qui fini bien.

III.3.4 Retrouver une loi marginale

Ceci se fait toujours par calcul de somme. Reprenons l'exemple précédent. on connaît la loi de

X

qui est géométrique de paramètre p. Donnons la loi de

Y

$Y$ est à valeurs dans $N ∖ {0, 1} = {2, 3, 4, \dots}$ .
Soit $m \in N$ , $m \geq 2$ . On sait que $((X = n))_{n i n N ∖ {0}}$ est un système complet d'événements ( on a considéré toutes les valeurs envisageables pour $X$ ). Ainsi $P (Y = m) = \sum_{n = 1}^{+ \infty} P ((Y = m) et (X = n)) = \sum_{n = 1}^{+ \infty} P (Y = m, X = n)$ Or, pour les $n$ tels que $n \geq m$ , $P (Y = m, X = n) = 0$ et donc

$\begin{aligned} P (Y = m) & = \sum_{n = 1}^{m - 1} P (Y = m, X = n) = \sum_{n = 1}^{m - 1} p^{2} (1 - p)^{m - 2} = (m - 1) p^{2} (1 - p)^{m - 2} \end{aligned}$

Autre méthode : on peut arriver à ce résultat par dénombrement.
En effet pour que le 2ème succès arrive au rang

m

, il faut que la succession des

m

premières expériences soit de la forme

(?, \dots, ?, S)

où S représente un succès et que parmi les

m - 1

premières expériences, il y ait exactement un succès.
Il y a exactement

m - 1

possibilité pour écrire les premières expériences sous cette forme : le 1er succès est au rang 1, ou (exclusif) le premier succès est au rang 2 ou ...
Par indépendance des expériences élémentaires, chaque manière d'écrire les

m

expérience se produit avec une probabilité

p^{2} (1 - p)^{m - 2}

( 2 succès et

m - 2

échecs ). De plus, on a souligné le fait que la réunion est disjointe (les cas sont disjoints) et on obtient donc la probabilité totale par somme.

III.3.5 Définition

Soient

X, Y

deux variables aléatoires discrètes sur

Ω

. on dit qu'elles sont indépendantes ssi

\forall x, y \in X (Ω) \times Y (Ω) P (X = x, Y = y) = P (X = x) P (Y = y)

ie ssi les événements

(X = x) et (Y = y)

sont deux à deux indépendants pour toutes les valeurs possibles de

x et y

.
Lorsque

X et Y

sont indépendantes, on note

X ⊥ ⊥ Y

III.3.6 Exemple

Les variables aléatoires de l'exemple III.3.3 ne sont pas indépendantes. On a par exemple

P (X = 2, Y = 2) = 0 \neq P (X = 2) P (Y = 2)

III.3.7 Somme de deux lois de Poisson

A savoir refaire
Soient

X, Y

deux variables

X ↪ P (λ) et Y ↪ P (μ)

, indépendantes. On note

Z = X + Y

. Calculer la loi de

Z

Premièrement, $Z$ est à valeurs dans $N$ , comme $X et Y$ .
Pour $n \in N$ , $P (Z = n) = \sum_{k = 0}^{n} P (X = k, Y = n - k) = \sum_{k = 0}^{n} e^{- λ} \frac{λ^{k}}{k!} e^{- μ} \frac{μ^{n - k}}{(n - k)!} = e^{- λ - μ} \frac{1}{n!} (λ + μ)^{n} .$

Ainsi

Z ↪ P (λ + μ)

III.3.8 Proposition

Soient

X, Y

deux variables indépendantes et

G \subset X (Ω), H \subset Y (Ω)

. Alors

P ((X, Y) \in G \times H) = P (X \in G) \times P (Y \in H) .

Extension des notions de premières années

On admet que les résultats suivants sont encore vrais pour des variables aléatoires discrètes.

III.3.9 Proposition

X, Y

sont des variables aléatoires discrètes indépendantes et si on peut calculer

f (X) et g (Y)

pour des fonctions

f et g

alors

f (X) et g (Y)

sont des variables aléatoires et sont indépendantes.
On peut résumer par :

X ⊥ ⊥ Y \Rightarrow f (X) ⊥ ⊥ f (Y)

Preuve

Montrons d'abord que $H = f (X) = f \circ X$ est une variable aléatoire. Soit $y \in H (Ω)$ . Montrons que $H^{- 1} (\ens y)$ est un événement. Posons $A = f^{- 1} (\ens y) \subset X (Ω)$ (car la composition est licite).

H^{- 1} (\ens y) = X^{- 1} (A) = (X \in A)

III.3.10 Définition

Soit

(X_{n})_{n \in N}

des variables aléatoires discrètes sur

Ω

. On dit qu'elles sont indépendantes ssi pour

k \in N ∖ {0}

i_{1}, \dots, i_{k} \in N

\forall x_{1} \in X_{i_{1}} (Ω), \dots, x_{k} \in X_{i_{k}} (Ω) P (X_{i_{1}} = x_{1} et \dots et X_{i_{k}} = x_{k}) = \prod_{j = 1}^{k} P (X_{i_{j}} = x_{i}) .

Autrement dit, on peut calculer toute probabilité d'intersection finie par produit.

III.3.11 Avec des événements

La proposition III.3.8 s'étend au cas de

n

variables indépendantes.

III.3.12 A retenir

Comme pour les événements, on supposera souvent dans l'énoncé que des variables aléatoires sont indépendantes. On pourra alors calculer des probabilités d'intersection (et) par produit.

IV Moments d'une variable aléatoire

Dans cette partie, toutes les variables aléatoires sont supposées à valeurs réelles.

IV.1 Espérance, variance

Explication

La notion d'espérance s'étend de manière naturelle aux variables aléatoires discrète. Par contre l'existence de l'espérance n'est pas garantie a priori, vu qu'il s'agit de la convergence d'une série numérique.

IV.1.1 Définition

Soit

X

une variable aléatoire discrète à valeurs dans

X (Ω) = {x_{n} | n \in N} \subset R

. On dit que

X

est d'espérance finie ssi

\sum x_{n} P (X = x_{n})

converge absolument .
Dans ce cas, on appelle espérance de $X$ et on note

E (X)

le réel

\sum_{n = 0}^{+ \infty} x_{n} P (X = X_{n})

Explication

Comme pour le théorème sur le produit de Cauchy il nous faut ici supposer la convergence absolue. La raison est hors de notre programme : la valeur de la somme ne dépend pas de l'ordre dans lequel on calcule celle-ci. En particulier ici, on peut numéroter les éléments de

X (Ω)

comme bon nous semble sans changer l'espérance (encore heureux !). En pratique, nos variables aléatoires sont très souvent à valeurs dans

N

et l'ordre de sommation est naturel (mais pas imposé).

IV.1.2 Exemple

On peut définir une loi à valeurs dans

N ∖ {0}

par

\forall n \in N ∖ {0} P (X = n) = \frac{6}{π^{2} n^{2}}

car la série converge et est de limite 1.
Dans ce cas

X

n'est pas d'espérance finie.

IV.1.3 Proposition

Si $X ↪ G (p)$ pour $p \in] 0, 1 [$ alors $X$ est d'espérance finie et $E (X) = \frac{1}{p}$ .
Si $X ↪ P (λ)$ pour $λ > 0$ alors $X$ est d'espérance finie et $E (X) = λ$ .

Preuve

Il s'agit ici d'exemples de calculs d'espérance.

La série numérique $\sum_{n \geq 1} n p (1 - p)^{n - 1}$ converge par comparaison de séries à termes positifs (car $n (1 - p)^{n - 1} = o_{+ \infty} (\frac{1}{n^{2}})$ ) donc converge absolument. De plus, $\sum_{n = 1}^{+ \infty} n p (1 - p)^{n - 1} = p \frac{1}{(1 - (1 - p)^{2})} = \frac{1}{p}$ en dérivant terme à terme la série géométrique et en évaluant en $1 - p \in] - 1, 1 [$ . Interprétation : Si la probabilité de succès élémentaire est $p$ , on s'attend à faire en moyenne $\frac{1}{p}$ essais avant d'obtenir un succès.
La série $\sum_{n \geq 0} n e^{- λ} \frac{λ^{n}}{n!} = λ e^{- λ} \sum_{n \geq 1} \frac{λ^{n - 1}}{(n - 1)}$ converge absolument par produit par une constante d'une série exponentielle et $E (X) = λ$ . Ainsi le paramètre $λ$ d'une loi de Poisson s'interprète comme son espérance (ou intuitivement, valeur moyenne).

IV.1.4 Proposition (Propriétés de l'espérance)

Soient

X, Y

deux variables aléatoires discrètes réelles sur

Ω

, d'espérances finies .

Linéarité : soient $λ, μ \in R$ . $λ X + μ Y$ est d'espérance finie et $E (λ X + μ Y) = λ E (X) + μ E (Y)$ .
Positivité : si $X \geq 0$ alors $E (X) \geq 0$ .
Croissance : si $\forall ω \in Ω X (ω) \leq Y (ω)$ (que l'on note $X \leq Y$ ) alors $E (X) \leq E (Y)$ .
Si $X et Y$ sont indépendantes alors $X Y$ est d'espérance finie et $E (X Y) = E (X) E (Y)$ .

Preuve

Admis. on peut appliquer le théorème de transfert à la VA $(X, Y)$ et la fonction $(x, y) \mapsto x + y$ et utiliser le cours sur les séries absolument convergentes.
Evident : une série à termes positifs convergente a une somme positive.
Conséquence directe (et classique !) des deux propriétés précédentes.
Admis.

IV.1.5 Exemple

Ceci est tout à fait en accord avec notre calcul de la loi d'une somme de deux lois de Poisson indépendantes.
Si $X$ est d'espérance finie, alors $Y = X - E (X)$ est une variable centrée ie d'espérance nulle.

IV.1.6 Théorème (Théorème de transfert)

Soit

X

une variable aléatoire discrète et

f

une fonction définie sur

X (Ω) = {x_{n} | n \in N}

à valeurs réelles.

f (X)

est d'espérance finie ssi

\sum f (x_{n}) P (X = x_{n})

est absolument convergente.
Alors

E (f (X)) = \sum_{n = 0}^{+ \infty} f (x_{n}) P (X = x_{n})

. Ainsi l'espérance de

f (X)

est déterminée par la loi de

X

Preuve

Admis.

IV.2 Variance

IV.2.1 Définition-proposition

Soit

X

une variable aléatoire discrète. Si

X^{2}

est d'espérance finie alors

X

aussi. Dans ce cas :

on appelle variance de $X$ le nombre réel positif $V (X) = E ((X - E (X))^{2}) = E (X^{2}) - E (X)^{2}$ .
on appelle écart-type de $X$ le nombre réel positif $σ (X) = \sqrt{V (X)}$ .

σ (X) = 1

, on dit que

X

est réduite.

Preuve

On suppose

X^{2}

d'espérance finie ie

\sum_{n \in N} x_{n}^{2} P (X = x_{n})

converge absolument. Montrons que

\sum_{n \in N} | x_{n} | P (X = x_{n})

converge.
Remarquons que pour

n \in N

| x_{n} | P (X = x_{n}) \leq {\begin{cases} | x_{n} |^{2} P (X = x_{n}) si | x_{n} | \geq 1 \\ P (X = x_{n}) sinon \end{cases}

.
Dans tous les cas

| x_{n} | P (X = x_{n}) \leq (| x_{n} |^{2} + 1) P (X = x_{n})

qui est la somme de deux TG de séries convergentes et positives. Par comparaison de séries à termes positifs,

X

est d'espérance finie.

IV.2.2 Proposition

Si $X ↪ G (p)$ pour $p \in] 0, 1 [$ alors $X$ est de variance finie et $V (X) = \frac{1}{p^{2}} - \frac{1}{p}$ .
Si $X ↪ P (λ)$ pour $λ > 0$ alors $X$ est de variance finie et $V (X) = λ$ .

Preuve

Il s'agit ici d'exemples de calculs de variance.

Soit $X ↪ G (p)$ pour un $p \in] 0, 1 [$ . La série $\sum_{n \geq 1} n^{2} p (1 - p)^{n - 1}$ converge par comparaison de séries à termes positifs car $n^{2} (1 - p)^{n - 1} = o_{+ \infty} n^{2}$ . Donc $X$ possède une variance Posons $f : x \mapsto \frac{1}{1 - x} = \sum_{n = 0}^{+ \infty} x^{n}$ (sur $] - 1, 1 [$ ) et $x \in] - 1, 1 [$ . Alors $f^{'} (x) = \sum_{n = 1}^{+ \infty} n x^{n - 1} = \frac{1}{(1 - x)^{2}}$ et $f^{″} (x) = \sum_{n = 2}^{+ \infty} n (n - 1) x^{n - 2} = \frac{2}{(1 - x)^{3}}$ . Ainsi $x f^{″} (x) = \sum_{n = 1}^{+ \infty} n (n - 1) x^{n - 1}$ (le premier terme est nul) et $\sum_{n = 1}^{+ \infty} n^{2} x^{n - 1} = f^{'} (x) + x f^{″} (x) = \frac{1}{(1 - x)^{2}} + \frac{2 x}{(1 - x)^{3}}$ . On a donc $E (X^{2}) = p (\frac{1}{p^{2}} + \frac{2 (1 - p)}{p^{3}}) = 2 \frac{1}{p^{2}} - \frac{1}{p}$ . Finalement $V (X) = \frac{1}{p^{2}} - \frac{1}{p} = \frac{1 - p}{p^{2}}$
Soit $X ↪ P (λ)$ pour un $λ > 0$ . La série $\sum_{n \geq 0} n^{2} e^{- λ} \frac{λ^{n}}{n!}$ converge (d'Alembert, ou produit par une puissance dans une série entière, ce qui ne modifie pas le rayon de convergence). De plus, $\sum_{n = 0}^{+ \infty} n^{2} e^{- λ} \frac{λ^{n}}{n!} = λ e^{- λ} \sum_{n = 0}^{+ \infty} (n + 1) \frac{λ^{n}}{n!} = λ e^{- λ} (λ e^{λ} + e^{λ})$ . Ainsi $V (X) = λ^{2} + λ - λ^{2} = λ$ .

IV.2.3 Proposition

Soit

X

une variable aléatoire réelle de variance finie et

a, b \in R

.
Alors

a X + b

est de variance finie et

V (a X + b) = a^{2} V (X)

Preuve

Montrons que

a X + b

est de variance finie c'est à dire que

(a X + b)^{2}

est d'espérance finie.
Or

(a X + b)^{2} = a^{2} X^{2} + 2 a b X + a b

est bien d'espérance finie par combinaison linéaire.
On utilise

V (a X + b) = E ((a X + b)^{2}) - (E (a X + b))^{2} = E (a^{2} X^{2} + 2 a b X + b^{2}) - (a E (X) + b)^{2} = a^{2} E (X^{2}) - a^{2} (E (X))^{2} = a^{2} V (X)

IV.3 Covariance

IV.3.1 Définition-proposition

Soient

X, Y

deux variables aléatoires discrètes. Si

X et Y

admettent un moment d'ordre 2 (ie. admettent une variance finie) alors la variable aléatoire

(X - E (X)) (Y - E (Y))

est d'espérance finie.
Dans ce cas on appelle covariance de

X et Y

le réel

c o v (X, Y) = E ((X - E (X)) (Y - E (Y)))

Preuve

Il s'agit de montrer que

X Y

est d'espérance finie (les autres VA le sont facilement quand on développe).
Or

| X Y | \leq X^{2} + Y^{2}

. Notons

Z = (X, Y)

f : (x, y) \mapsto x y

g : (x, y) \mapsto x^{2} + y^{2}

. On sait que

g (Z)

est d'espérance finie d'après le théorème de transfert. En notant

Z (Ω) = {z_{n}; n \in N}

, la série

\sum g (z_{n}) P (Z = z_{n})

converge et donc, par comparaison de série à termes positifs,

\sum f (z_{n}) P (Z = z_{n})

converge absolument car

| f (z_{n}) | \leq g (z_{n})

IV.3.2 Remarque

On a

c o v (X, X) = V (X)

IV.3.3 Proposition

Dans les conditions de la définition précédente:

$c o v (X, Y) = E (X Y) - E (X) E (Y)$ .
Si $X et Y$ sont indépendantes alors $c o v (X, Y) = 0$ .
la covariance est bilinéaire et symétrique.

Preuve

Simple utilisation de la linéarité de l'espérance, en plus de la propriété

E (a) = a

quand

a

est une constante.
Le deuxième point est une conséquence directe d'un théorème du chapitre sur les probabilités.
La symétrie est évidente, la bilinéarité conséquence simple de la linéarité de l'espérance. Notons qu'une combinaison linéaire de VA de variances finies est encore de variance finie (c'est une conséquence de la partie proposition de la définition de la covariance).

IV.3.4 Proposition

Soit

X, Y

deux variables aléatoires admettant une variance finie. Alors

X + Y

est de variance finie et

V (X + Y) = V (X) + V (Y) + 2 c o v (X, Y)

Preuve

En effet,

V (X + Y) = E ((X + Y)^{2}) - {(E (X + Y))}^{2} = E (X^{2}) + 2 E (X Y) + E (Y^{2}) - E (X)^{2} - 2 E (X) E (Y) - E (Y^{2})

IV.3.5 Exemple

Ainsi pour des variables indépendantes,

V (X + Y) = V (X) + V (Y)

et plus généralement la variance d'une somme de variables mutuellement indépendantes est la somme des variances.
Rappelons une application importante, posons

(X_{i})_{i \in ⟦ 1, n ⟧}

des variables aléatoires mutuellement indépendante de même loi de Bernoulli de paramètre

p \in] 0, 1 [

.
Alors

S = \sum_{i = 1}^{n} X_{i}

suit une loi binomiale de paramètres

n

p

.
Or

V (X_{1}) = E (X_{1}^{2}) - E (X_{1})^{2} = p - p^{2} = p (1 - p)

et donc

V (S) = n p (1 - p)

.
Finissons le rappel par

E (S) = n E (X_{0}) = n p

par linéarité de l'espérance.

IV.3.6 Théorème (Cauchy-Schwartz)

On a

| c o v (X, Y) | \leq \sqrt{V (X) V (Y)}

Preuve

Soit

t \in R

. Alors

V (X + t Y) = \dots = t^{2} V (Y) + 2 t c o v (X, Y) + V (X)

qui est de degré 2 (si

V (Y) \neq 0

) et positif. Le discriminant est donc négatif.

IV.3.7 Définition

Soient

X, Y

deux variables aléatoires de variance finie et non nulle. Le coefficient de corrélation de

X et Y

est

cor (X, Y) = \frac{c o v (X, Y)}{\sqrt{V (X) V (Y)}} = \frac{c o v (X, Y)}{σ (X) σ (Y)} \in [- 1, 1]

IV.3.8 Interprétation

L'étude du cas d'égalité dans l'inégalité de Cauchy-Schwartz précédente, permet de montrer que

cor (X, Y) = \pm 1

ssi

Y = a X + b

pour

a, b

des réels. De plus, si

X et Y

sont indépendantes,

cor (X, Y) = 0

. On peut ``donc'' interpréter ce coefficient comme une mesure du lien (autrement appelé corrélation) qui existe entre

X et Y

V Fonctions et probabilités

V.1 Fonction de répartition

V.1.1 Définition

Soit

X

une variable aléatoire discrète. On appelle fonction de répartition de

X

et on note

F_{X}

la fonction

F_{X} : {\begin{array}{rcl} R & \to & R \\ x & \mapsto & P (X \leq x) \end{array}

V.1.2 Exemple

Tracer un partie de la courbe représentative de

F_{X}

où

X

suit une loi géométrique de paramètre

\frac{1}{2}

V.1.3 Remarque

Imaginons que l'on connaisse la fonction de répartition

F_{X}

d'une VA

X

mais pas sa loi. Notons

X (Ω) = {x_{n} | n \in N}

l'ensemble des valeurs de

X

où on a ordonnée les

x_{n}

, ie la suite

(x_{n})

est croissante.
Alors

P (X = x_{0}) = F_{X} (x_{0})

et pour tout

n \neq 0

P (X = x_{n}) = F_{X} (x_{n}) - F_{X} (x_{n - 1})

V.1.4 Proposition

Avec les notations de la définition, on a :

$F_{X}$ est croissante sur $R$ .
$lim_{x \to - \infty} F_{X} (x) = 0$ .
$lim_{x \to + \infty} F_{X} (x) = 1$ .

Preuve

Il s'agit d'utiliser les propriétés de

P

suivantes : croissance, limite de la probabilité d'une suite décroissante d'événements et limite de la probabilité d'une suite croissante d'événements.

V.1.5 Exemple

En pratique, il est parfois plus pratique de calculer des probabilités de la forme

P (X \leq n)

, ce qui revient à calculer la fonction de répartition sans le dire.
Soient par exemple

X, Y

deux VA indépendantes de loi géométrique de paramètre

p \in] 0, 1 [

Z = min (X, Y)

. Calculer

1 - F_{Z}

Pour

n \in N ∖ {0}

P (Z > n) = P ((X > n) \cap (Y > n)) = P (X > n) P (Y > n) = ((1 - p)^{2})^{n}

.
On en déduit facilement que

Z ↪ G (2 p - p^{2})

V.1.6 Proposition

Soit

X

une variable aléatoire à valeurs dans

N

X

est d'espérance finie ssi

\sum P (X \geq n)

converge et dans ce cas

E (X) = \sum_{n = 1}^{+ \infty} P (X \geq n)

Preuve

Remarquons d'abord que pour

n \in N

on a

P (X = n) = P (X \geq n) - P (X \geq n + 1)

.
Soit maintenant

N \in N

. On a

$\begin{aligned} \sum_{n = 0}^{N} n P (X = n) & = \sum_{n = 1}^{N} n P (X = n) = \sum_{n = 1}^{N} n (P (X \geq n) - P (X \geq n + 1)) \\ = \sum_{n = 1}^{N} n P (X \geq n) - \sum_{n = 1}^{N} n P (X \geq n + 1) \\ = \sum_{n = 1}^{N} n P (X \geq n) - \sum_{n = 2}^{N + 1} (n - 1) P (X \geq n) \\ = \sum_{n = 1}^{N} P (X \geq n) - N P (X \geq N + 1) en ajoutant un terme nul \end{aligned}$

De plus,

P (X \geq N + 1) = \sum_{n = N + 1}^{+ \infty} P (X = n)

.
Ainsi

N P (X \geq N + 1) = \sum_{n = N + 1} N P (X = n)

Supposons que $X$ est d'espérance finie. On a alors $0 \leq N P (X \geq N + 1) \leq \sum_{n = N + 1}^{+ \infty} n P (X = n)$ et le majorant trouvé est un reste de série convergente donc tend vers 0 lorsque $N \to + \infty$ . Par encadrement puis par somme $\sum P (X \geq n)$ converge et $E (X) = \sum_{n = 1}^{+ \infty} P (X \geq n)$
Réciproquement, supposons que $\sum P (X \geq n)$ converge. Alors, par majoration de série à termes positifs, $X$ est d'espérance finie et le calcul précédent conclut.

V.2 Fonction génératrice

V.2.1 Une série entière

Soit

X

une VA à valeurs dans

N

(son ensemble de valeurs est un sous-ensemble de

N

).
Considérons la série entière

\sum P (X = n) t^{n}

. Comme cette sérieconverge absolument pour

t = \pm 1

, son rayon de convergence vaut au moins

1

V.2.2 Définition

Soit

X

une variable aléatoire à valeurs dans

N

. La fonction génératrice (ou série génératrice) de

X

est la fonction

G_{X} : t \mapsto \sum_{n = 0}^{+ \infty} P (X = n) t^{n}

G_{X}

est définie au moins sur le segment

[- 1, 1]

C^{\infty}

sur

] - 1, 1 [

G_{X} (1) = 1

V.2.3 Remarque

Par unicité des coefficients d'une série entière de rayon de convergence non nul, la loi de

X

est entièrement déterminée par la fonction

G_{X}

V.2.4 Valeurs manquantes

On convient de poser

P (X = n) = 0

pour tous les

n

qui ne sont pas des valeurs de

X

. En particulier, pour une variable aléatoire sur un univers fini

G_{X}

est polynomiale !

V.2.5 Exemple

Calculons les fonctions génératrices pour les lois usuelles.

Soit $X ↪ B (p)$ (Bernoulli, $p \in] 0, 1 [$ ). Alors $G_{X} : t \mapsto (1 - p) t^{0} + p t^{1} = 1 - p + p t$ .
Soit $X ↪ B (n, p)$ (binomiale, $n \in N ∖ {0}$ , $p \in] 0, 1 [$ ). Alors $G_{X} : t \mapsto \sum_{k = 0}^{n} (\binom{n}{k}) p^{k} (1 - p)^{n - k} t^{k} = (1 - p + p t)^{n}$ .
Soit $X ↪ G (p)$ (où $p \in] 0, 1 [$ ). La série considérée est $\sum_{n \geq 1} p (1 - p)^{n - 1} t^{n} = p t \sum_{n \geq 0} ((1 - p) t)^{n}$ . Cette série géométrique converge ssi $| (1 - p) t | < 1$ et donc $\forall t \in] - \frac{1}{1 - p}, \frac{1}{1 - p} [G_{X} (t) = \frac{p t}{1 - (1 - p) t} .$ Remarquons que le rayon de convergence de la série est $\frac{1}{1 - p} > 1$ .
Soit $X ↪ P (λ)$ ( $λ > 0$ ). Pour $t \in] - 1, 1 [$ , $G_{X} (t) = \sum_{n = 0}^{+ \infty} e^{- λ} \frac{λ^{n}}{n!} t^{n} = e^{- λ} e^{λ t} = e^{λ (t - 1)}$ .

V.2.6 Exercice

Déterminer la fonction génératrice d'une loi uniforme sur

⟦ 1, n ⟧

V.2.7 Interprétation en tant qu'espérance

Pour une variable aléatoire

X

à valeurs dans

N

( on a

x_{0} = 0, x_{1} = 1 \dots

quitte à considérer trop de valeurs pour

X

qui donneront des probabilités nulles ) et

t \in [- 1, 1]

on a

G_{X} (t) = E (t^{X})

V.2.8 Théorème

X et Y

sont deux variables aléatoires à valeurs dans

N

et indépendantes , notons

R_{X} et R_{Y}

les rayons de convergence de

G_{X} et G_{Y}

respectivement. Posons également

r = min (R_{X}, R_{Y})

Alors

G_{X + Y}

est de rayon

R \geq r

\forall t \in] - r, r [G_{X + Y} (t) = G_{X} (t) G_{Y} (t)

Preuve

La série produit (de Cauchy)

G_{X} G_{Y}

est de rayon

R \geq min (R_{X}, R_{Y})

et pour

t \in] - r, r [

G_{X} (t) G_{Y} (t) = \sum_{n = 0}^{+ \infty} c_{n} t^{n}

où

c_{n} = \sum_{k = 0}^{n} P (X = k) P (Y = n - k) = \sum_{k = 0}^{n} P ((X = k) \cap (Y = n - k)) = P (X + Y = n)

.
Deuxième méthode, qui s'applique si on connaît les propriétés de l'espérance.
Pour

t \in] 0, r [

, on pose

f_{t} : x \mapsto t^{x}

. Alors

f (X) et f (Y)

sont indépendantes et donc

E (t^{X}) E (t^{Y}) = E (t^{X} t^{Y}) = E (t^{X + Y})

. Ainsi

t \leq R

et on a bien

G_{X + Y} (t) = G_{X} (t) G_{Y} (t)

V.2.9 Exemple

On peut utiliser ce théorème pour calculer la loi d'une somme de variables indépendantes.

Soient $λ, μ > 0$ et $X ↪ P (λ), Y X ↪ P (μ)$ . Alors, pour tout $t \in R$ , $G_{X} (t) G_{X} (Y) = e^{λ (t - 1)} e^{μ (t - 1)} = e^{(λ + μ) (t - 1)} = G_{X + Y} (t)$ . Ainsi $X + Y ↪ P (λ + μ)$ (car la fonction génératrice détermine la loi).
Lançons deux dés équilibrés à 6 faces et notons $X, Y$ les résultats obtenus pour le premier et le second dé respectivement. Donner la loi de $X + Y$ (la somme des deux dés). Ici les lois prennent un nombre fini de valeurs et donc les fonctions génératrices sont polynomiales. Pour $t \in R$ , $G_{X} (t) = G_{Y} (t) = \frac{1}{6} t \sum_{k = 0}^{5} t^{k}$ . De plus $X et Y$ sont indépendantes. Ainsi $G_{X + Y} (t) = \frac{t^{2}}{36} {(\sum_{k = 0}^{5} t^{k})}^{2} = \frac{t^{2}}{36} (1 + 2 t + 3 t^{2} + 4 t^{3} + 5 t^{4} + 6 t^{5} + 5 t^{6} + 4 t^{7} + 3 t^{8} + 2 t^{9} + t^{10})$ . On obtient
k 2 3 4 5 6 7 8 9 10 11 12
$P (X = k)$ $\frac{1}{36}$ $\frac{2}{36}$ $\frac{3}{36}$ $\frac{4}{36}$ $\frac{5}{36}$ $\frac{6}{36}$ $\frac{5}{36}$ $\frac{4}{36}$ $\frac{3}{36}$ $\frac{2}{36}$ $\frac{1}{36}$

V.2.10 Théorème

Soit

X

une variable aléatoire à valeurs dans

N

G_{X}

sa fonction génératrice.

$X$ est d'espérance finie ssi $G_{X}$ est dérivable en $1$ et alors $E (X) = G_{X}^{'} (1)$ .
$X$ est de variance finie ssi $G_{X}$ est deux fois dérivable en $1$ et alors $V (X) = G_{X}^{″} (1) + G_{X}^{'} (1) - {(G_{X}^{'} (1))}^{2} .$

V.2.11 Retrouver les formules

Tout d'abord, on a

E (X) = \sum_{n = 1}^{+ \infty} n P (X = n)

E (X^{2}) = \sum_{n = 1}^{+ \infty} n^{2} P (X = n)

(théorème de transfert).
De plus, on supposant la dérivabilité terme à terme,

G_{X}^{'} (t) = \sum_{n = 1}^{+ \infty} n P (X = n) t^{n - 1}

donc on a bien

G_{X}^{'} (1) = E (X)

.
De plus,

G_{X}^{″} (t) = \sum_{n = 2}^{+ \infty} n (n - 1) P (X = n) t^{n - 1}

donc

G_{X}^{″} (1) = E (X^{2}) - E (X)

V.2.12 Exemple

Retrouvons l'espérance et la variance des lois géométriques et de Poisson.

Soit $X ↪ G (p)$ (où $p \in] 0, 1 [$ ). $G_{X}$ des DSE sur $] - \frac{1}{1 - p}, \frac{1}{1 - p} [$ donc est deux fois dérivable en $1$ . De plus, $G_{X} (t) = \frac{p t}{1 - (1 - p) t}$ donc $G_{X}^{'} (t) = \frac{p (1 - (1 - p) t) + p t \times (1 - p)}{(1 - (1 - p) t)^{2}} = \frac{p}{(1 - (1 - p) t)^{2}}$ donc $E (X) = \frac{p}{p^{2}} = \frac{1}{p}$ . De même $G^{″} (t) = p \times (- 2) \times (- (1 - p)) \times (1 - (1 - p) t)^{- 3}$ donc $G^{″} (1) = \frac{2 p (1 - p)}{p^{3}} = \frac{2 (1 - p)}{p^{2}} = E (X^{2}) - E (X)$ . Ainsi $V (X) = E (X^{2}) - (E (X))^{2} = \frac{2 (1 - p)}{p^{2}} + \frac{1}{p} - \frac{1}{p^{2}} = \frac{1 - p}{p^{2}}$ .
Soit $X ↪ P (λ)$ ( $λ > 0$ ). Cette fois $G_{X}$ est DSE sur $R$ donc dérivable deux fois en 1. De plus $G_{X}^{'} (t) = λ e^{λ (t - 1)}$ et $G_{X}^{″} (1) = λ^{2} e^{λ (t - 1)}$ . Ainsi $E (X) = G_{X}^{'} (1) = λ$ et $V (X) = λ^{2} + λ - λ^{2} = λ$ .

VI Etude asymptotique

VI.1 Interprétation de la loi de Poisson

VI.1.1 Proposition

Soit

λ > 0

.
On considère une suite

(X_{n})_{n \geq 1}

de variables aléatoires telles que

X_{n} ↪ B (n, p_{n})

où

p_{n} \underset{+ \infty}{\sim} \frac{λ}{n}

.
Pour

k \in N

fixé, on a

lim_{n \to + \infty} P (X_{n} = k) = e^{- λ} \frac{λ^{k}}{k!}

Preuve

On cherche à estimer la limite de

(\binom{n}{k}) p_{n}^{k} (1 - p_{n})^{n - k}

.
Or

(\binom{n}{k}) = \frac{n!}{k! (n - k)!} = \frac{1}{k!} \prod_{i = 0}^{k - 1} (n - i) \underset{n \to + \infty}{\sim} \frac{1}{k!} n^{k}

. (par produit d'un nombre fixé d'équivalents)
De plus,

p_{n}^{k} \underset{+ \infty}{\sim} \frac{λ^{k}}{n^{k}}

(encore une fois,

k

est fixé).
De plus,

(1 - p_{n})^{n - k} \underset{+ \infty}{\sim} (1 - p_{n})^{n}

car

(1 - p_{n})^{- k} \underset{n \to + \infty}{\to} 1

.
Comme

(1 - p_{n})^{n} = e^{n \ln (1 - p_{n})} = e^{n (- p_{n} + o_{+ \infty} (p_{n}))} = e^{- λ + o_{+ \infty} (1)}

(avec 2

o (1)

obtenus en remplaçant

p_{n}

par son équivalent dans le

o

). Ainsi

(1 - p_{n})^{n} \underset{+ \infty}{\to} e^{- λ} \neq 0

(et donc on peut transformer cette limite en équivalent).
Il n'y a plus qu'à effectuer le produit de nos équivalents..

VI.1.2 En pratique

On peut utiliser une loi de Poisson pour approximer une loi binomiale de paramètre

(n, p)

dans le cas où

λ = n p

n'est ``pas trop grand''.

VI.2 Loi des grands nombres

VI.2.1 Théorème (Inégalité de Markov)

Soit

X

une variable aléatoire réelle à valeurs positives, d'espérance finie.

\forall a > 0 P (X \geq a) \leq \frac{E (X)}{a} .

Preuve

Notons

X (Ω) = {x_{n}; n \in N}

On a

a P (X \geq a) = a \sum_{x_{n} \geq a} P (X = x_{n}) \leq \sum_{x_{n} \geq a} a P (X = x_{n})

. Comme de plus les valeurs de

X

sont positives

a P (X \geq a) \leq \sum_{n = 0}^{+ \infty} x_{n} P (X = x_{n}) = E (X)

et il suffit de diviser par

a > 0

Explication

L'idée ``grossière'' derrière ce théorème est que si l'espérance (la valeur moyenne) de

X

vaut

m

, alors

X

ne prend pas des valeurs trop grande par rapport à

m

, ou alors avec une probabilité très faible.

VI.2.2 Théorème (Inégalité de Bienaymé-Tchebychev)

Soit

X

une variable aléatoire de variance finie.

\forall ϵ > 0 P (| X - E (X) | > ϵ) \leq \frac{V (X)}{ϵ^{2}} .

Preuve

(| X - E (X) | > ϵ) = ((X - E (X))^{2} < ϵ^{2})

. Il ne reste plus qu'à appliquer l'inégalité de Markov à

(X - E (X))^{2}

qui est d'espérance finie et positive.

Explication

On quantifie cette fois l'écart entre

X

et sa "moyenne". La variance apparaît naturellement.

VI.2.3 Exemple

On pose

S_{n}

la moyenne arithmétique de n variables de loi de Bernoulli indépendantes de paramètre p.

S = \frac{1}{n} \sum_{i = 1}^{n} X_{i}

.
Exemple pratique : on dépouille une urne contenant

n

bulletins dans une élection à deux candidats.

(X_{i} = 1)

est l'événement : le

i

-ème bulletin est pour le candidat

A

. Ici l'indépendance des variables n'est sûrement pas respecté dans la pratique. Tant pis, poursuivons.
Le but est d'estimer

p

, la proportion de votant ayant choisi le candidat

A

. Cette probabilité (théorique) est inconnue au moment de l'expérience.
Alors

E (S) = p

V (S) = \frac{p (1 - p)}{n}

S

représente la proportion votes après n dépouillements indépendants. Alors

P (| S - p | > ϵ) \leq \frac{p (p - 1)}{n ϵ^{2}}

.
On veut

P (| S - p | > ϵ) \leq 5 %

. Comment choisir

ϵ

? Il faut

\frac{p (p - 1)}{n ϵ^{2}} \leq \frac{5}{100}

soit encore

ϵ^{2} \leq 20 \frac{p (1 - p)}{n}

.
Or

p (1 - p) \leq \frac{1}{4}

(étape obligatoire, on ne connaît pas encore

p

). On a donc

ϵ^{2} \leq \frac{5}{n}

.
Ainsi, si on veut une approximation de

p

à 1\% près, on prend

\frac{1}{100} \leq \sqrt{5} \frac{1}{\sqrt{n}}

soit encore

n \geq {5.10}^{4}

.
Attention, on à juste le résultat : la probabilité pour que la fréquence théorique s'écarte de plus de 1\% de la fréquence observée est

\leq \frac{5}{100}

VI.2.4 Théorème (Loi faible des grands nombres)

Soit

(X_{n})_{n \geq 1}

une suite de variables aléatoires deux à deux indépendantes et de même loi, admettant un moment d'ordre 2.
On pose, pour

n \geq 1

S_{n} = \sum_{k = 1}^{n} X_{k}

et on note

m = E (X_{1})

l'espérance commune aux

X_{k}

\forall η > 0 P (| \frac{S_{n}}{n} - m | \geq η) \underset{n \to + \infty}{\to} 0.

Pour un

η > 0

fixé, la limite est nulle.

Explication

Ce théorème est la formalisation mathématique d'une idée naturelle.
Je répète

n

fois la même expérience aléatoire de Bernoulli (paramètre

p

) sans connaître a priori le paramètre

p

(on cherche à estimer une fréquence de manière empirique, par exemple pour réaliser un sondage...)
Alors la fréquence moyenne de succès converge vers le paramètre théorique

p

Résumé sur les lois usuelles

Nom	Notation	Valeurs	Loi	Fonctions génératrice	Espérance	Variance
Bernoulli	$B (p)$	${0, 1}$	$P (X = 1) = p, P (X = 0) = 1 - p$	$G_{X} (t) = 1 - p + p t, t \in R$	$p$	$p (1 - p)$
Binomiale	$B (n, p)$	$⟦ 0, n ⟧$	$P (X = k) = (\binom{n}{k}) p^{k} (1 - p)^{n - k}$	$G_{X} (t) = (1 - p + p t)^{n}, t \in R$	$n p$	$n p (1 - p)$
Géométrique	$G (p)$	$N ∖ {0}$	$P (X = k) = p (1 - p)^{k - 1}$	$G_{X} (t) = \frac{p t}{1 - (1 - p) t}, t \in] - \frac{1}{1 - p}, \frac{1}{1 - p} [$	$\frac{1}{p}$	$\frac{1 - p}{p^{2}}$
Poisson	$P (λ), λ > 0$	$N$	$P (X = k) = e^{- λ} \frac{λ^{k}}{k!}$	$G_{X} (t) = e^{λ (t - 1)}, t \in R$	$λ$	$λ$

k	2	3	4	5	6	7	8	9	10	11	12
$P (X = k)$	$\frac{1}{36}$	$\frac{2}{36}$	$\frac{3}{36}$	$\frac{4}{36}$	$\frac{5}{36}$	$\frac{6}{36}$	$\frac{5}{36}$	$\frac{4}{36}$	$\frac{3}{36}$	$\frac{2}{36}$	$\frac{1}{36}$