第 4 章. 随机变量和分布

高级类别：【统计】【统计概述】(https://jb243.github.io/pages/1641)

1. 随机变量

2. 分布函数

1.随机变量

⑴ 定义：将样本空间中的每个事件映射为一个实数，或函数映射的实值的函数。

① 随机变量通常用大写字母X表示，每个值用x或x_i表示。

② 示例 1. Die: {1, ···, 6} → ℝ 且 Die(i) = i

③ 示例 2. 硬币：{head, tail} → ℝ 其中 Coin(head) = 1, Coin(tail) = 0

④ 示例 3. 总和：{(i, j) i, j = 1, ···, 6} 且 Sum(i, j) = i + j

⑤ X : Ω → ℝ

⑥ F → B(ℝ) = A, B(ℝ): Borel 场

⑦ A ⊂ ℝ, X^-1(A) = ｛ω X(ω) ∈ A｝

⑧ A ⊂ ℝ, P_X(A) = P(X^-1(A));为了方便起见，P_X记为P。

⑨【随机概念示例问题变量](https://blog.kakaocdn.net/dn/ovesO/btsLz9Zdi50/18Pa7royxmW6YljURrVB91/%E1%84%92%E1%85%AA%E1%86%A8%E1%84%85%E1%85%B2%E1%86%AF%E1% 84%87%E1%85%A7%E1%86%AB%E1%84%89%E1%85%AE%20%E1%84%80%E1%85%A2%E1%84%8 2%E1%85%A7%E1%86%B7%2019%E1%84%8C%E1%85%A6.pdf?attach=1&knm=tfile.pdf)

⑵离散随机变量

① 定义1. 当随机变量X的值域为有限集或可数无限集时

② 定义2. 当累积分布函数F为离散时

③ 支持度：对于离散随机变量X，支持度是所有满足P(X = x) ≠ 0的x的集合。

⑶连续随机变量

① 定义1.当随机变量X的值域是不可数无限集时

② 定义 2. 当累积分布函数 F 是连续的时

⑷ 概率分布：表示特定事件概率的函数关系P_X

① 1类.分布函数：也称为累积分布函数（CDF）

② class 2. 密度：按概率质量函数和概率密度函数分类

③ 3.类矩生成函数

④概率质量函数：离散随机变量的概率分布

⑤ 概率密度函数：连续随机变量的概率分布

⑥ 对分布函数求导得到密度 ↔ 对密度积分成为分布函数

2.分布函数

⑴ 定义

①定义：简称为 F(x_i) = P(-∞ ＜ X ≤ x_i)

②离散随机变量的累积分布函数

③连续随机变量的累积分布函数

⑵ 特点

① F(-无穷大) = 0, F(无穷大) = 1

② 关于 x₁ ＜ x ＜ x₂，F(x₁) ≤ F(x₂)

③无论密度是离散随机变量还是连续随机变量，右极限都与函数值匹配

④ P(a＜X≤b)=F(b)-F(a)

⑤ CDF的独特性

⑶ 各种概率分布

## 3。密度函数

⑴指示功能

①记号：I｛·｝

②定义：一个函数，只有满足·时才为1，否则为0

⑵ 概率质量函数（PMF）

①定义：关于X =｛x₁, x₂,···, x_n｝，指满足p(x_i) = P(X = x_i)的函数p(x)

② 示例

⑶ 概率密度函数（PDF）

①定义：对于累积分布函数F，指函数p(x)，其中F’(x) = p(x)

② 示例

⑷ 共同特点

① p(x) ≥ 0

② ∫ p(x) dx = 1

⑸ 差异

①点概率：概率质量函数不一定有为零的点概率，但概率密度函数总是有为零的点概率

②注意点概率为0和支持函数的定义之间存在差异。

③ 支持函数S_X =｛x | p(x) ＞ 0｝

○ 如果独立，则支持函数对于任何变量都必须是常数

4。力矩生成函数

⑴【期望值】(https://jb243.github.io/pages/1625)

⑵ 时刻

①原点的n阶矩

② 原点一阶矩：期望值

③ 原点二阶矩：惯性矩

③中心一阶矩：0

④ 中心二阶矩：方差

⑤ skewness：倾斜程度

图1.偏度的含义

○ skew > 0 : 当右侧有长尾时，大量数据响应向左倾斜

○ skew < 0 : 如果左侧有长尾

⑥ 峰度：锐度

图 2. 峰度的含义

○ 如果峰度接近 3，则与正态分布类似

○ 峰度↑：外层往往会变得疯狂的值↑，即，尾部增加

○ 峰度↑：更尖

⑧ 问题示例时刻

⑶ 力矩生成函数

① 定义

② 与当下的关系

③ 类似拉普拉斯转换：动量生成函数和概率分布一一对应

④ 特征 1 ψ_aX+b(t) = e^btψ_X(at)

⑤ 特征2. 若X₁、···、X_n独立，则约Y = X₁ + ··· + X_n

> ⑥【力矩生成示例问题函数](https://blog.kakaocdn.net/dn/bSFRhr/btsLKM2sYhh/mqFWlL249b43C4mxw9u780/%E1%84%8C%E1%85%A5%E1%86%A8%E1%84%85%E1%85%B2%E1%86%AF%E1%84% 89%E1%85%A2%E1%86%BC%E1%84%89%E1%85%A5%E1%86%BC%E1%84%92%E1%85%A1%E1%86 %B7%E1%84%89%E1%85%AE%2025%E1%84%8C%E1%85%A6.pdf?attach=1&knm=tfile.pdf)

⑷【伊瑟利斯定理】(https://en.wikipedia.org/wiki/Isserlis%27s_theorem)

①伊瑟利斯定理：随机变量（概率论、统计学）

○ 指出多元正态分布的高阶矩可以用协方差表示。

○ 情况1. 奇数阶矩：0

○ 情况 2. 偶阶矩：可以通过一次将两个变量配对来表示为协方差的乘积。

○ 公式的均值必须为零，才能采用上面的简洁形式，但方差不需要相等。

②威克定理：量子场（物理学、QFT）

○ 应用与伊瑟利斯定理相同的数学，但在量子场论的背景下。

○ 示例： 高斯自由场的n点函数可以分解为两点函数的乘积。

5。概率生成函数

⑴ 定义：主要是针对离散随机变量定义的。

⑵ 与力矩生成函数的关系

⑶ 独立随机变量和概率生成函数之和

⑷ n阶阶矩：记为μ_(n)，可以表示为概率生成函数的n阶导数。

⑸ 概率生成：p_n = Pr(N = n) 可以理解为泰勒级数展开式中xⁿ的系数。

⑹【概率生成示例问题函数](https://blog.kakaocdn.net/dn/bq083z/btsLLPdcui1/nGUhiVVDtvXgm4NfHvK22k/%E1%84%92%E1%85%AA%E1%86%A8%E1%84%85%E1%85%B2%E1%86%AF%E1%84% 89%E1%85%A2%E1%86%BC%E1%84%89%E1%85%A5%E1%86%BC%E1%84%92%E1%85%A1%E1%86 %B7%E1%84%89%E1%85%AE%2010%E1%84%8C%E1%85%A6.pdf?attach=1&knm=tfile.pdf)

6。尺寸扩展

⑴ 定义 (X, Y) 有两个随机变量: Ω → ℝ²

⑵ 联合概率分布（联合概率质量函数）

①离散随机变量：关于 X = ｛x₁, ···, x_m｝, Y = ｛y₁, ···, y_n｝, p(x, y) 使得 p(x_i, y_j) = P(X = x_i, Y = y_j)

② 连续随机变量：函数 p(x, y) 使得 ∂²F(x, y) / ∂x ∂y = p(x, y)

③ 特征1. p(x,y) ≥ 0

④ 特征2. ΣΣ p(x, y) = 1> ⑤【联合概率的示例问题分布](https://blog.kakaocdn.net/dn/DzgPw/btsLFzobjRY/f0NhzXOCKt9Xkm7EC2TgKk/%E1%84%80%E1%85%A7%E1%86%AF%E1%84%92%E1%85%A1%E1%86%B8%E1%8 4%92%E1%85%AA%E1%86%A8%E1%84%85%E1%85%B2%E1%86%AF%E1%84%87%E1%85%AE%E1%8 6%AB%E1%84%91%E1%85%A9%209%E1%84%8C%E1%85%A6.pdf?attach=1&knm=tfile.pdf)

⑥【高级联合概率的示例问题分布](https://blog.kakaocdn.net/dn/mdLef/btsLJtBD7ai/fzkaJIprn0MFbm6ZWUEug0/%E 1%84%80%E1%85%A7%E1%86%AF%E1%84%92%E1%85%A1%E1%86%B8%E1%84%92%E1%85%AA%E1%86%A8%E1%84% 85%E1%85%B2%E1%86%AF%E1%84%87%E1%85%AE%E1%86%AB%E1%84%91%E1%85%A9%20%E1%84%8B%E1%85%B3 %E1%86%BC%E1%84%8B%E1%85%AD%E1%86%BC%2021%E1%84%8C%E1%85%A6.pdf?attach=1&knm=tfile.pdf)

⑶ 边际概率分布

①定义：将联合概率分布改为仅概率变量X或Y

②离散随机变量的边际概率分布

③连续随机变量的边际概率分布

④【边际概率的示例问题分布](https://blog.kakaocdn.net/dn/cwYLak/btsLDWrmh9y/kkekXbHrL5kIsspy0tGxNk/%E1%84%8C%E1%85%AE%E1%84%87%E1%85%A7%E1%86%AB%E1%84%92 %E1%85%AA%E1%86%A8%E1%84%85%E1%85%B2%E1%86%AF%E1%84%87%E1%85%AE%E1%86% AB%E1%84%91%E1%85%A9%202%E1%84%8C%E1%85%A6.pdf?attach=1&knm=tfile.pdf)

⑤【高级边际概率的示例问题分布](https://blog.kakaocdn.net/dn/ufgR6/btsLJT7VJrM/rAp9jmz2EhFkhwcKctpV80 /%E1%84%8C%E1%85%AE%E1%84%87%E1%85%A7%E1%86%AB%E1%84%92%E1%85%AA%E1%86%A8%E1%84%85%E 1%85%B2%E1%86%AF%E1%84%87%E1%85%AE%E1%86%AB%E1%84%91%E1%85%A9%20%E1%84%8B%E1%85%B3%E 1%86%BC%E1%84%8B%E1%85%AD%E1%86%BC%208%E1%84%8C%E1%85%A6.pdf?attach=1&knm=tfile.pdf)

⑷ 示例

表1.联合概率分布和边际概率分布的示例

① 知道联合概率分布就可以知道边际概率的分布

② 知道边际概率分布并不总是意味着知道联合概率分布

③ 辛普森悖论

○ 定义：数据子组内出现一致趋势，但当数据聚合时这些趋势消失甚至逆转的现象。

○ 注意：严格按照公式计算而不是依靠直觉，可以避免被辛普森悖论误导。

表 2. 辛普森悖论

⑸ 关节力矩

① 【关节问题示例时刻](https://blog.kakaocdn.net/dn/cvPvaJ/btsLDxlnpRZ/xqSE9zPihhCzkKnJ82xMJk/%E1%84%80%E1%85%A7%E1%86%AF%E1%84%92%E1 %85%A1%E1%86%B8%E1%84%8C%E1%85%A5%E1%86%A8%E1%84%85%E1%85%B2%E1%86%AF%209%E1%84%8C%E1%85%A6.pdf?attach=1&knm=tfile.pdf)

② 【高级关节示例问题时刻](https://blog.kakaocdn.net/dn/equ9fo/btsLIyj3Awe/BMRYjjbvnw0n6KfitIayxk/%E1%84%80%E1%85%A7%E1%86%AF%E1%84%92%E1% 85%A1%E1%86%B8%E1%84%8C%E1%85%A5%E1%86%A8%E1%84%85%E1%85%B2%E1%86%AF%2025%E1%84%8C%E1%85%A6.pdf?attach=1&knm=tfile.pdf)

⑹ 关节力矩生成函数

① 定义

② 特点

⑹ 有条件分配> ① Y的条件分布： p (y | x) = p(x, y)／p_X(x)

② X的条件分布： p (x | y) = p(x, y)／p_Y(y)

③ 应用1.

④ 应用2. 关于Y = g(X), P(X = x) = p(x)

⑤ 独立性的条件概率表达式

⑥ 有条件独立

⑥【条件式示例问题分布](https://blog.kakaocdn.net/dn/Aj0Il/btsLAWS8jCb/VkMVcsQ1u9pQ2d1rJjl6K0/%E1%84%8C%E1%85%A9%E1%84%80%E1%85%A5%E1 %86%AB%E1%84%87%E1%85%AE%20%E1%84%87%E1%85%AE%E1%86%AB%E1%84%91%E1%85%A9%2014%E1%84%8C%E1%85%A6.pdf?attach=1&knm=tfile.pdf)

⑧ 【联合条件的示例问题分布](https://blog.kakaocdn.net/dn/vBguA/btsLJtbMOTN/qYI9ZkSdIu0BpKzNoMC1GK/%E1%84%80%E1%85%A7%E1%86%AF%E1%84%92%E1%85%A1%E1%86%B8%E1%84%8C% E1%85%A9%E1%84%80%E1%85%A5%E1%86%AB%E1%84%87%E1%85%AE%E1%84%87%E1%85%AE%E1 %86%AB%E1%84%91%E1%85%A9%2020%E1%84%8C%E1%85%A6.pdf?attach=1&knm=tfile.pdf)

⑨ 【联合条件的示例问题时刻](https://blog.kakaocdn.net/dn/EGveo/btsLJOmsEr3/wNU1KQxnqyJgECHFKIzm GK/%E1%84%80%E1%85%A7%E1%86%AF%E1%84%92%E1%85%A1%E1%86%B8%E1%84%8C%E1%85%A9 %E1%84%80%E1%85%A5%E1%86%AB%E1%84%87%E1%85%AE%E1%84%8C%E1%85%A5%E1%86%A8%E1 %84%85%E1%85%B2%E1%86%AF%2011%E1%84%8C%E1%85%A6.pdf?attach=1&knm=tfile.pdf)

⑻ 相互独立

①定义

② 相互独立定义的完整性

○ 可以形成独立性，即使是部分独立性

○ 注意，联合概率分布和边际概率分布是相对的概念

③ 特点1.相互独立、共同分配的功能

输入：2019.06.17 13:52

6624