\end{align*}\]$ Dans le cas continu i. d: $\[\begin{align*} p\left(x_{1}, \ldots, x_{n};\theta\right)&=f\left(x_{1}, \ldots, x_{n}\right)\\ &=\prod_{i=1}^{n}f_{X_{i}}\left(x_{i}\right)\quad\text{ car les $X_{i}$ sont indépendantes}\\ &=\prod_{i=1}^{n}f\left(x_{i}\right)\quad\text{ car les $X_{i}$ sont de même loi}\. \end{align*}\]$ Maximum de vraisemblance La vraisemblance mesure la probabilité que les observations proviennent effectivement d'un échantillon de loi paramétrée par $\(\theta\)$. Trouver le maximum de vraisemblance consiste donc à trouver le paramètre le plus vraisemblable pour notre échantillon! On considère usuellement la log-vraisemblance (qui facilite les calculs pour des lois de probabilité appartenant à la famille dite exponentielle): $\[\ell\left(x_{1}, \ldots, x_{n};\theta\right)=\ln\left( p\left(x_{1}, \ldots, x_{n};\theta\right)\right)\]$ Application à la loi exponentielle Estimateur du maximum de vraisemblance Soit un échantillon $\(\left(X_{1}, \ldots, X_{n}\right)\)$ de loi $\(\mathcal{E}\left( \theta\right)\)$.
Pratique du maximum de vraisemblance Section: Recherche d'estimateurs Précédent: Notion de vraisemblance Suivant: Intervalles de confiance Pratique du maximum de vraisemblance Dans la plupart des cas d'intérêt pratique, la loi, et donc aussi la vraisemblance, ont une expression dérivable par rapport à. Pour calculer le maximum de la il faut déterminer les valeurs pour lesquelles la dérivée de la vraisemblance s'annule. Or par définition, la est un produit de probabilités ou de densités, qui peut être assez compliqué à dériver. Il est préférable de dériver une somme, et c'est pourquoi on commence par remplacer la par son logarithme. La fonction logarithme étant croissante, il est équivalent de maximiser ou. Une fois déterminée une valeur de pour laquelle la dérivée s'annule, il faut s'assurer à l'aide de la dérivée seconde que ce point est bien un maximum. Nous traitons ci-dessous quelques familles classiques. Lois de Bernoulli L'ensemble des valeurs possibles est. Le paramètre inconnu est.
Ce chapitre est facultatif si vous souhaitez vous former au métier de Data Analyst. Par contre, il est obligatoire pour ceux qui visent le métier de Data Scientist. Notez que, contrairement à ce que nous avons vu dans le chapitre précédent, il n'est pas toujours aussi simple de trouver des estimateurs. Il existe des méthodologies pour imaginer des estimateurs, en sus des idées "naturelles", parmi lesquelles la méthode des moments et la méthode du maximum de vraisemblance. Méthode des moments La méthode des moments consiste à trouver une fonction $\(m\)$, continue et inversible, et une fonction (continue) $\(\varphi\)$ telles que $\(m\left(\theta\right)=\mathbb{E}\left[\varphi\left(X_{1}\right)\right]\)$. L'estimateur des moments pour $\(\theta\)$ vaut: $\[\widehat{\theta}=m^{-1}\left(\frac{1}{n}\sum_{i=1}^{n}\varphi\left(X_{i}\right)\right)\]$ On sait que cet estimateur est consistant. Estimateur du maximum de vraisemblance L'estimateur du maximum de vraisemblance, comme son nom l'indique, maximise la vraisemblance définie comme suit: Dans le cas discret i. i. d: $\[\begin{align*} p\left(x_{1}, \ldots, x_{n};\theta\right)&=\mathbb{P}\left(X_{1}=x_{1}, \ldots, X_{n}=x_{n}\right)\\ &=\prod_{i=1}^{n}\mathbb{P}\left(X_{i}=x_{i}\right)\quad\text{ car les $X_{i}$ sont indépendantes}\\ &=\prod_{i=1}^{n}\mathbb{P}\left(X=x_{i}\right)\quad\text{ car les $X_{i}$ sont de même loi}\.
skytimetravel.net, 2024