Rozkład normalny

jeden z rozkładów prawdopodobieństwa

Rozkład normalny, rozkład Gaussa[2] (w literaturze francuskiej zwany rozkładem Laplace’a-Gaussa) – jeden z najważniejszych rozkładów prawdopodobieństwa, odgrywający ważną rolę w statystyce. Wykres funkcji prawdopodobieństwa tego rozkładu jest krzywą w kształcie dzwonu (tak zwaną krzywą dzwonową).

Rozkład normalny
Gęstość prawdopodobieństwa
Ilustracja
Czerwona linia odpowiada standardowemu rozkładowi normalnemu
Dystrybuanta
Ilustracja
Kolory odpowiadają wykresowi powyżej
Parametry

położenie (liczba rzeczywista)
podniesiona do kwadratu skala (liczba rzeczywista)

Nośnik

Gęstość prawdopodobieństwa

Dystrybuanta

Wartość oczekiwana (średnia)

Mediana

Moda

Wariancja

Współczynnik skośności

Kurtoza

Entropia

Funkcja tworząca momenty

Funkcja charakterystyczna

Odkrywca

Abraham de Moivre (1733)[1]

Przyczyną jego znaczenia jest częstość występowania w naturze. Jeśli jakaś wielkość jest sumą lub średnią bardzo wielu drobnych losowych czynników, to niezależnie od rozkładu każdego z tych czynników jej rozkład będzie zbliżony do normalnego (centralne twierdzenie graniczne) – dlatego można go bardzo często zaobserwować w danych[a]. Ponadto rozkład normalny ma interesujące właściwości matematyczne, dzięki którym oparte na nim metody statystyczne są proste obliczeniowo[b].

Definicja rozkładu normalnego edytuj

Istnieje wiele równoważnych sposobów zdefiniowania rozkładu normalnego. Należą do nich: funkcja gęstości, dystrybuanta, momenty, kumulanty, funkcja charakterystyczna, funkcja tworząca momenty i funkcja tworząca kumulanty. Wszystkie kumulanty rozkładu normalnego wynoszą 0 oprócz pierwszych dwóch.

Funkcja gęstości edytuj

 
Ilustracja reguły trzech sigm
Zobacz też: funkcja wykładniczapi.

Funkcja gęstości prawdopodobieństwa rozkładu normalnego ze średnią   i odchyleniem standardowym σ (równoważnie: wariancją  ) jest przykładem funkcji Gaussa. Dana jest ona wzorem:

 

Fakt, iż zmienna losowa   ma rozkład normalny z wartością oczekiwaną   i wariancją   zapisuje się często  

Uwaga: W wielu źródłach rozkład normalny jest oznaczany przez  

Jeśli   i   to rozkład ten nazywa się standardowym rozkładem normalnym, jego funkcja gęstości opisana jest wzorem:

 

We wszystkich rozkładach normalnych funkcja gęstości jest symetryczna względem wartości średniej rozkładu. W rozkładzie normalnym prawdopodobieństwo, że wartość zmiennej (cechy statystycznej) znajduje się w odległości nie większej (mniejszej) niż jedno odchylenie standardowe od średniej wynosi w przybliżeniu 68,3%. Prawdopodobieństwo to wynosi odpowiednio 95,5% i 99,7%, dla odległości dwóch i trzech odchyleń standardowych od średniej (reguła trzech sigm). Punkt przegięcia krzywej znajduje się w odległości jednego odchylenia standardowego od średniej.

Dystrybuanta edytuj

Zobacz też: dystrybuanta.

Dystrybuanta jest definiowana jako prawdopodobieństwo tego, że zmienna   ma wartości mniejsze bądź równe   i w kategoriach funkcji gęstości wyrażana jest (dla rozkładu normalnego) wzorem:

 

Całki powyższej nie da się obliczyć dokładnie, metodą analityczną. W konkretnych zagadnieniach do obliczenia wartości dystrybuanty stosuje się całkowanie numeryczne lub korzysta z tablic statystycznych. Tablice zawierają dane dla dystrybuanty standardowego rozkładu normalnego, tradycyjnie oznaczanej jako Φ i zdefiniowanej jako rozkład o parametrach   i  

 

Związek dystrybuanty   i dystrybuanty rozkładu normalnego   o dowolnie zadanych parametrach   i   otrzymuje się za pomocą standaryzowania rozkładu (zob. też poniżej).

 

Dystrybuanta standardowego rozkładu normalnego może być wyrażona poprzez funkcję specjalną (nieelementarną, przestępną), tzw. funkcję błędu jako:

 

Funkcje tworzące edytuj

Funkcja charakterystyczna edytuj

Funkcją charakterystyczną rozkładu normalnego jest

 

W przypadku standardowego rozkładu normalnego ma ona postać:

 

Własności edytuj

  1. Jeśli   oraz  liczbami rzeczywistymi, to  
  2. Jeśli   i   oraz zmienne   są niezależne, to  
  3. Jeśli  niezależnymi zmiennymi losowymi o standardowym rozkładzie normalnym, to zmienna   ma rozkład chi-kwadrat z   stopniami swobody.

Parametry rozkładu normalnego edytuj

Standaryzowanie zmiennych losowych o rozkładzie normalnym edytuj

Konsekwencją własności 1 jest możliwość przekształcenia wszystkich zmiennych losowych o rozkładzie normalnym do standardowego rozkładu normalnego.

Jeśli   ma rozkład normalny ze średnią   i wariancją   wtedy:

 

Z jest zmienną losową o standardowym rozkładzie normalnym N(0, 1). Ważną konsekwencją jest postać dystrybuanty:

 

Odwrotnie, jeśli   jest zmienną losową o standardowym rozkładzie normalnym, to:

 

jest zmienną o rozkładzie normalnym ze średnią   i wariancją  

Standardowy rozkład normalny został stablicowany i inne rozkłady normalne są prostymi transformacjami rozkładu standardowego. W ten sposób możemy używać tablic dystrybuanty standardowego rozkładu normalnego do wyznaczenia wartości dystrybuanty rozkładu normalnego o dowolnych parametrach.

Generowanie wartości losowych o rozkładzie normalnym edytuj

W symulacjach komputerowych zdarza się, że potrzebujemy wygenerować wartości zmiennej losowej o rozkładzie normalnym. Istnieje kilka metod, najprostszą z nich jest odwrócenie dystrybuanty standardowego rozkładu normalnego. Są jednak metody bardziej wydajne, jedną z nich jest transformacja Boxa-Mullera, w której dwie zmienne losowe o rozkładzie jednostajnym (prostym do wygenerowania – patrz generator liczb losowych) są transformowane na zmienne o rozkładzie normalnym.

Transformacja Boxa-Mullera jest konsekwencją własności 3 i faktu, że rozkład chi-kwadrat z dwoma stopniami swobody jest rozkładem wykładniczym (łatwym do wygenerowania).

Centralne twierdzenie graniczne edytuj

Jedną z najważniejszych własności rozkładu normalnego jest fakt, że (przy pewnych założeniach) rozkład sumy dużej liczby zmiennych losowych jest w przybliżeniu normalny. Jest to tak zwane centralne twierdzenie graniczne.

W praktyce twierdzenie to ma zastosowanie, jeśli chcemy użyć rozkładu normalnego jako przybliżenia dla innych rozkładów.

  • Rozkład dwumianowy z parametrami   jest w przybliżeniu normalny dla dużych   i   nie leżących zbyt blisko 1 lub 0. Przybliżony rozkład ma średnią równą   i odchylenie standardowe  
  • Rozkład Poissona z parametrem   jest w przybliżeniu normalny dla dużych wartości   Przybliżony rozkład normalny ma średnią   i odchylenie standardowe  

Dokładność przybliżenia tych rozkładów zależy od celu użycia przybliżenia i tempa zbieżności do rozkładu normalnego. Zazwyczaj takie przybliżenia są mniej dokładne w ogonach rozkładów.

Nieskończona podzielność edytuj

Rozkład normalny należy do rozkładów mających własność nieskończonej podzielności.

Występowanie edytuj

 
Rozkład normalny niebieska linia odpowiada standardowemu rozkładowi normalnemu

Rozkład normalny (lub wielowymiarowy rozkład normalny) jest często stosowanym założeniem, w praktyce jednak nigdy nie jest ściśle realizowany. Rozkład normalny ma bowiem niezerową gęstość prawdopodobieństwa dla dowolnej wartości zmiennej losowej, podczas gdy w rzeczywistości zmienne są zawsze ograniczone, a często nieujemne.

Mimo to rzeczywisty rozkład jest często bardzo zbliżony do normalnego, stąd zwykle zakłada się, że zmienna ma rozkład normalny. Nie należy jednak robić tego bez sprawdzenia jak wielkie są rozbieżności. Rozkłady dalekie od normalnego (np. z elementami odstającymi) mogą sprawić, że wyniki metod statystycznych będą mylnie interpretowane.

Przykładem są tu metody regresji liniowej oraz korelacji Pearsona, które, choć zdefiniowane dla dowolnych rozkładów, mają sensowną interpretację tylko dla wielowymiarowego rozkładu normalnego wektora próbki. Jeśli w próbce występują elementy odstające, co jest szczególnym przypadkiem rozkładu dalekiego od normalnego, korelacja może przyjąć dowolną wartość między   a   bez względu na rzeczywistą zależność między zmiennymi losowymi. Także regresja będzie dawała błędne rezultaty.

Inteligencja edytuj

Inteligencja mierzona testami inteligencji uważana jest za zmienną o rozkładzie normalnym. W praktyce testy dają wyniki skwantowane, a nie ciągłe. W dodatku ich wyniki są ograniczone do pewnego przedziału. Przybliżenie jest jednak wystarczające.

Wzrost edytuj

Podobnie wzrost człowieka może być uznany w przybliżeniu za zmienną o rozkładzie normalnym. Musimy wtedy oczywiście założyć, że wartość oczekiwana rozkładu wynosi na przykład 170 cm, a odchylenie standardowe jest wystarczająco małe, aby przypadek ludzi o ujemnym wzroście miał znikomo małe prawdopodobieństwo.

Natężenie źródła światła edytuj

Natężenie światła z pojedynczego źródła zmienia się w czasie i zazwyczaj zakłada się, że ma rozkład normalny. Zgodnie z mechaniką kwantową światło jest strumieniem fotonów. Zwykłe źródło światła, świecące dzięki termicznej emisji, powinno świecić w krótkich przedziałach czasu zgodnie z rozkładem Poissona. W dłuższym przedziale czasowym (dłuższym niż czas koherencji) dodawanie się do siebie niezależnych zmiennych prowadzi w przybliżeniu do rozkładu normalnego.

Błędy pomiaru edytuj

Wielokrotne powtarzanie tego samego pomiaru daje wyniki rozrzucone wokół określonej wartości. Jeśli wyeliminujemy wszystkie większe przyczyny błędów, zakłada się, że pozostałe mniejsze błędy muszą być rezultatem dodawania się do siebie dużej liczby niezależnych czynników, co daje w efekcie rozkład normalny. Odchylenia od rozkładu normalnego rozumiane są jako wskazówka, że zostały pominięte błędy systematyczne. To stwierdzenie jest centralnym założeniem teorii błędów.

Uwagi edytuj

  1. Ściślej: można zaobserwować rozkłady bardzo zbliżone do rozkładu normalnego. Rozkład normalny zakłada niezerowe prawdopodobieństwo dla każdej możliwej liczby rzeczywistej. W rzeczywistości wszelkie zmienne są ograniczone, na przykład nie ma ludzi o ujemnym wzroście ani o wzroście kilometra, jednak rozkłady spotykane w praktyce są tak bardzo zbliżone do rozkładu normalnego, że różnica ta nie ma znaczenia.
  2. Te właściwości to na przykład: Suma i różnica dwóch zmiennych o rozkładach normalnych ma rozkład normalny. Logarytm z gęstości rozkładu normalnego to funkcja kwadratowa, dzięki czemu metoda najmniejszych kwadratów stosowana w regresji liniowej dla rozkładu normalnego błędów jest metodą największej wiarygodności.

Przypisy edytuj

  1. Abraham de Moivre, „Approximatio ad Summam Terminorum Binomii (a + b)n in Seriem expansi” (wydrukowany 12 listopada 1733 w Londynie).
  2. rozkład normalny, [w:] Encyklopedia PWN [online] [dostęp 2021-09-30].

Bibliografia edytuj