Skip to content

连续型随机变量及其概率密度函数

将频率密度直方图的组距不断缩小，直到组距趋近于0，此时频率密度直方图就变成了概率密度曲线。

如果对于随机变量 \(X\) 的分布函数 \(F(x)\)，存在非负函数 \(f(x)\)，使得对于任意实数 \(x\)，有：

\[ F(x) = \int_{-\infty}^x f(t) dt \]

则称 \(X\) 为连续型随机变量，\(f(x)\) 称为 \(X\) 的概率密度函数，简称概率密度。

部分性质

概率密度的基本性质

基于概率密度函数的定义，可以推导出概率密度的基本性质：

  1. \(f(x) \geq 0\)

  2. \(\int_{-\infty}^\infty f(x) dx = 1\)

  3. 对于任意实数 \(x_1, x_2 (x_1 < x_2)\)，有：

    \[ P\{x_1 < X \leqslant x_2\} = F(x_2) - F(x_1) = \int_{x_1}^{x_2} f(x) dx \]

  4. 若 \(f(x)\) 在 \(x\) 处连续，则有 \(F'(x) = f(x)\)

其他性质

  1. \(f(x) \not \leqslant 1\)

    概率分布可以是不均匀的，即某些值出现的概率大，某些值出现的概率小，所有情况积分为 \(1\) 就行。

  2. 取个别点的概率为 \(0\)

    根据上面的定义，有：

    \[ 0 \leqslant P\{x = x_0\} \leqslant P\{x_0 -\varDelta x < x \leqslant x_0\} = \int_{x_0 -\varDelta x}^{x_0} f(x) dx \]

    当 \(\varDelta x \to 0^+\) 时，上式的结果也就趋于 \(0\)，从几何的角度来看就是曲线在 \(x_0\) 处的面积趋于 \(0\)（\(x = x_0\) 这条线段是没有面积的），即 \(P\{x = x_0\} = 0\)。

    根据这个性质可以引申出一个结论：

    \[ P\{a < X \leqslant b\} = P\{a < X < b\} = P\{a \leqslant X < b\} = P\{a \leqslant X \leqslant b\} \]

    即在连续型随机变量中，端点是否取到与概率计算的结果无关。

概率密度的本质

基于基本性质的性质4，可以得出下式：

\[ f(x) = \lim_{\varDelta x \to 0^+} \frac{F(x + \varDelta x) - F(x)}{\varDelta x} = \lim_{\varDelta x \to 0^+} \frac{P\{x < X \leqslant x + \varDelta x\}}{\varDelta x} \]

从上式中采用 \(\varDelta x\) 作为衡量的一个变量来看，不能将 \(f(x_0)\) 看作是一个具体的概率值，而应将其视为在 \(x_0\) 附近概率的密度大小，这类似物理上对线密度的定义，概率密度函数由此得名。

这个本质也可以从上面其他性质的性质2得到解释，因为在连续型随机变量中，任取个别点的概率为 \(0\)。不像离散型，连续型在密度函数上取单个点是对于概率计算而言是没有意义的。

在连续型随机变量中，应该取区间来计算概率：

\[ P\{a < X \leqslant b\} = \int_{a}^{b} f(x) dx \]

一维连续型随机变量的期望与方差

\[ E(X) = \int_{-\infty}^\infty x f(x) dx \]
\[ Y = g(X) \Rightarrow E(Y) = \int_{-\infty}^\infty g(x) f(x) dx \]

方差和方差的计算公式与离散型随机变量相同：

\[ D(X) = E(X^2) - [E(X)]^2 \]

常见连续型分布

均匀分布

若连续型随机变量 \(X\) 具有概率密度

\[ f(x) = \begin{cases} \frac{1}{b-a}, & a < x \leqslant b \\ 0, & \text{otherwise} \end{cases} \]

则称 \(X\) 服从区间 \([a, b]\) 上的均匀分布，记作 \(X \sim U(a, b)\)。

由上式可得 \(X\) 的分布函数：

\[ F(x) = \begin{cases} 0, & x \leqslant a \\ \frac{x-a}{b-a}, & a < x \leqslant b \\ 1, & x > b \end{cases} \]

当 \(a < x_0 \leqslant b\) 时，\(F(x_0)\) 的值从几何角度来看就是直线 \(x = x_0\) 左侧与 \(f(x)\) 的图像围成的矩形的面积（\(x = a\)、\(x\) 轴、\(x = x_0\)、\(y = \frac{1}{b-a}\) 围成的矩形）。

其期望与方差为：

\[ E(X) = \frac{a + b}{2}, \quad D(X) = \frac{(b - a)^2}{12} \]

指数分布

若连续型随机变量 \(X\) 具有概率密度

\[ f(x) = \begin{cases} \lambda e^{-\lambda x}, & x \geqslant 0 \\ 0, & x < 0 \end{cases} \]

则称 \(X\) 服从参数为 \(\lambda\) 的指数分布，记作 \(X \sim E(\lambda)\)。其中 \(\lambda\) 是该指数分布数学期望的倒数，即针对该指数分布，有：

\[ E(X) = \frac{1}{\lambda} \quad D(X) = \frac{1}{\lambda^2} \]

指数分布的数学期望与方差

\[ \begin{align} E(X) &= \int_{-\infty}^\infty x f(x) dx \\ &= \int_{0}^\infty x \lambda e^{-\lambda x} dx \\ &= \frac{1}{\lambda} \end{align} \]
\[ \begin{align} D(X) &= E(X^2) - [E(X)]^2 \\ &= \int_{-\infty}^\infty x^2 f(x) dx - [E(X)]^2 \\ &= \int_{0}^\infty x^2 \lambda e^{-\lambda x} dx - \left(\frac{1}{\lambda}\right)^2 \\ &= \frac{2}{\lambda^2} - \left(\frac{1}{\lambda}\right)^2 \\ &= \frac{1}{\lambda^2} \end{align} \]

同时由概率密度函数可得 \(X\) 的分布函数：

\[ F(x) = \begin{cases} 1 - e^{-\lambda x}, & x \geqslant 0 \\ 0, & x < 0 \end{cases} \]

指数分布的无记忆性

对于任意 \(s, t \geqslant 0\)，有：

\[ \begin{align} P\{X > s + t | X > s\} &= \frac{P\{X > s + t \cap X > s\}}{P\{X > s\}} \\ &= \frac{P\{X > s + t\}}{P\{X > s\}} = \frac{1 - F(s + t)}{1 - F(s)} \\ &= e^{-\lambda (s + t)} / e^{-\lambda s} = e^{-\lambda t} \\ &= P\{X > t\} \end{align} \]

这称为指数分布的无记忆性。

这个性质可以直观地理解为：经过一段时间 \(s\) 后，再经过一段时间 \(t\)（总共经过 \(s + t\) 的时间）的概率与一开始经过一段时间 \(t\) 的概率是相同的，就像“失去了那段时间为 \(s\) 的记忆”一样。

正态分布

若连续型随机变量 \(X\) 具有概率密度

\[ f(x) = \frac{1}{\sqrt{2\pi\sigma^2}} e^{-\frac{(x-\mu)^2}{2\sigma^2}}, -\infty < x < \infty \]

则称 \(X\) 服从参数为 \(\mu\) 和 \(\sigma^2\) 的正态分布，记作 \(X \sim N(\mu, \sigma^2)\)。

其中参数 \(\mu\) 为期望，\(\sigma^2\) 为方差，即：

\[ E(X) = \mu, \quad D(X) = \sigma^2 \]

由上式可得 \(X\) 的分布函数：

\[ F(x) = \frac{1}{\sqrt{2\pi\sigma^2}} \int_{-\infty}^x e^{-\frac{(t-\mu)^2}{2\sigma^2}} dt \]

令 \(t = \frac{x-\mu}{\sigma}\)，则有：

\[ F(x) = \frac{1}{\sqrt{2\pi\sigma^2}} \int_{-\infty}^{\frac{x-\mu}{\sigma}} e^{-\frac{t^2}{2}} dt \]

这就是正态分布的分布函数。

证明 \(\int_{-\infty}^{+\infty} f(x) dx = 1\)

正态分布的性质

  1. 正态分布曲线关于 \(x = \mu\) 对称：

    \[ P\{\mu - h < x \leqslant \mu\} = P\{\mu < x \leqslant \mu + h\} \]

  2. 当 \(x = \mu\) 时，\(f(x)\) 取得最大值：

    \[ f(\mu) = \frac{1}{\sqrt{2\pi\sigma^2}} \]

  3. 正态分布曲线在 \(x = \mu \pm \sigma\) 处有拐点 \((\mu \pm \sigma, \frac{1}{\sqrt{2\pi\sigma^2}} e^{-\frac{1}{2}})\)

  4. 固定 \(\mu\)，\(\sigma\) 越小，\(f(x)\) 的图形越瘦高，表示总体的分布越集中；反之，\(f(x)\) 的图形越矮胖，表示总体的分布越分散。

标准正态分布

当 \(\mu = 0\)，\(\sigma = 1\) 时，称 \(X\) 服从标准正态分布，记作 \(X \sim N(0, 1)\)：

\[ \varphi(x) = \frac{1}{\sqrt{2\pi}} e^{-\frac{x^2}{2}} \]

分布函数：

\[ \Phi(x) = \frac{1}{\sqrt{2\pi}} \int_{-\infty}^x e^{-\frac{t^2}{2}} dt \]
标准正态分布的性质

  1. \(\Phi(x)\) 为偶函数，即 \(\Phi(-x) = \Phi(x)\)

  2. \(\Phi(-x) = 1 - \Phi(x)\)

  3. \(P\{|X| \leqslant x\} = 2\Phi(x) - 1\)

    \[ \begin{align} P\{|X| \leqslant x\} &= P\{-x \leqslant X \leqslant x\} \\ &= \Phi(x) - \Phi(-x) \\ &= \Phi(x) - (1- \Phi(x)) \\ &= 2\Phi(x) - 1 \end{align} \]

  4. 一般正态分布也可以写成标准正态分布的形式，且有两种形式：

    • 定理一

      \[ f(x) = \frac{1}{\sqrt{2\pi\sigma^2}} e^{-\frac{(x-\mu)^2}{2\sigma^2}} = \frac{1}{\sigma} \varphi(\frac{x - \mu}{\sigma}) \]
      \[ F(x) = P\{X \leqslant x\} = P\{\frac{X - \mu}{\sigma} \leqslant \frac{x - \mu}{\sigma}\} = \Phi(\frac{x - \mu}{\sigma}) \]

    • 定理二

      若随机变量 \(X \sim N(\mu, \sigma^2)\)，则 \(Z = \frac{X - \mu}{\sigma} \sim N(0, 1)\)。

      \[ \begin{align} P\{a \leqslant X \leqslant b\} &= P\{\frac{a - \mu}{\sigma} \leqslant \frac{X - \mu}{\sigma} \leqslant \frac{b - \mu}{\sigma}\} \\ &= P\{\frac{a - \mu}{\sigma} \leqslant Z \leqslant \frac{b - \mu}{\sigma}\} \\ &= \Phi(\frac{b - \mu}{\sigma}) - \Phi(\frac{a - \mu}{\sigma}) \end{align} \]

性质2、3结合图像理解会很直观。