IEOR E4706: Stochastic Calculus

链接


Fun fact: 高斯积分

布朗运动 \(W_t \sim N(0,t)\)。在随机微积分部分涉及到高斯分布。由于高斯分布的密度函数包含 \(e^{-x^2}\) 的形式,其偶数阶矩和一系列变式的计算都涉及到该积分

\[\int_{-\infty}^{\infty}{e^{-x^2}dx}\]

该值求解用到了 耦合 (coupling) 和极坐标变换的技巧。注:\(dxdy = rdrd\theta\),r是雅可比行列式的值,关于如何证明坐标变换中的雅可比行列式? - 暨厥的回答 - 知乎

\[\begin{aligned} \int_{-\infty}^{\infty}{e^{-x^2}dx} \int_{-\infty}^{\infty}{e^{-y^2}dy} &= \int_{-\infty}^{\infty}\int_{-\infty}^{\infty}{e^{-x^2-y^2}dxdy} \\ &= \int_{0}^{2\pi}{d\theta}\int_{-\infty}^{\infty}{e^{-r^2}rdr} \\ &= \pi \int_{-\infty}^{\infty}{e^{-r^2}dr^2} \\ &= \pi \end{aligned}\]

\[\int_{-\infty}^{\infty}{e^{-x^2}dx} = \sqrt{\pi}\]


Martingales, BM, quadratic variation

描述随机过程: the triple \((\Omega, \mathcal{F},P)\) - sample paths (outcomes space) - Filtration (set of known information by time t) - the true probability measure

some jargons:

  • \(X_t\) is \(\mathcal{F}_t\)-adapted: Known by t
  • the filtration \(\{\mathcal{F}_t\}_{t\geq 0}\) is generated by the stochastic process

BM 定义

Definition 1: standard BM: - \(W_0=0, W_t\in N(0,t)\)
- continuous sample paths - independent stationary increments

Definition 2: n-dimensional BM - 扩展到n维向量,其中每一个分量是BM且iid;

Definition 3: 随机过程 \(X_t\) 是关于 \(\mathcal{F}_t, P\) 的鞅 - \(E^P[|X_t|] < \infty\) for all \(t\geq 0\) - \(E^P[X_{t+s}|\mathcal{F}_t] = X_t\) for all \(t,s \geq 0\)

常见的一些布朗运动鞅:

标准布朗运动 \(W_t\) 是鞅。\(W_t \sim N(0,t)\) 为方便记为变量 \(X\)

\[E[|W_t|] = E[|X|] = 2\int_0^\infty{xf(x)dx} = 2\int_0^\infty{x\frac1{\sqrt{2\pi t}}e^{-\frac{x^2}{2t}}dx} = 2\sqrt{\frac{t}{2\pi}}\]

是收敛的。而条件期望不变显然成立。

此外 \(W_T^2 - t\)\(\exp(\theta W_t - \theta^2t/2)\) 也是鞅。后者被称为指数鞅,其恒为正的性质使其被经常使用。

二次变分

A partition of time interval;

\[0 = t_0 <t_1 <...< t_n= T\]

The quadratic variation of a BM \(X_t\) is defined as

\[Q_n(T) := \lim_{n \to \infty}\sum_{i=1}^n[\Delta X_{t_i}]^2\]

when \(n \to \infty\) or say \(\Delta t = \max_i{(t_i - t_{i-1})} \to 0\).

Theorem 1: 布朗运动在区间 \([0,T]\) 上的二次变分为 \(T\)

证明:考虑 \(n\to \infty\) 个区间划分上的独立同分布的变量 \(\Delta X\), 每个变量都服从分布 \(N(0, \frac{T}{n})\), 根据大数定律转化为期望 \[\lim_{n\to\infty}{Q_n(T)} = \lim_{n\to\infty}{n E[(\Delta X)^2]} = \lim_{n\to\infty}{n \left(E^2[\Delta X] + Var(\Delta X) \right)} = \lim_{n\to\infty}{n \cdot \frac Tn} = T\]

全变分(total variarion) 和二次变分的关系

全变分定义: \[\lim_{\Delta t \to 0}\sum_{k=1}^n{|X_{t_k} - X_{t_{k-1}}|}\] 不等关系: \[\sum_{i=1}^n[\Delta X_{t_i}]^2 \leq \left(\sum_{i=1}^n|\Delta X_{t_i}|\right) \max_{k\in[1,n]}{|\Delta X_{t_k}|}\] 从而若全变分有限,则二次变分必为0:通常的连续函数是这种情况。布朗运动二次变分不为0,则全变分必为无穷。

Theorem 2 (Levy's Theorem) 连续鞅是布朗运动的充要条件是任意 \([0,t]\) 上二次变分为 \(t\)

证明?


Stochastic Integrals 随机积分

注:\(X_t\) 写作 \(X_t(w)\) 表明其随机性质。

Definition 5 (停时): A stopping time of the filtration \(\mathcal{F}_t\) is a random time \(\tau\) such that the event \(\{\tau\leq t\}\in \mathcal F_t\), for all \(t > 0\).

一个区间上的停时是在区间末尾已知的随机变量。

Definition 6 (elementary process): 称一个过程 \(h_t(w)\) 是基本的(elementary) 如果它分段为常数(当然,划分足够细的极限情况就是连续的布朗运动),从而存在一系列停时 \(0=t_0 < t_1 <...< t_n=T\) 和一系列 \(\mathcal{F}_{t_i}\)-measurable 的函数 \(e_i(w)\),使得 \[h_t(w) = \sum_i{e_i(w)I_{[t_i, t_{i+1}]}(t)}\] 第二项是示性函数 Indicator Function。该函数虽然是求和形式,但实际值指向特定的区间上的常数值,因而也可以看作 \[e_{i(t)}(w)\] 其中 \(i(t)\) 函数以 \(t\) 为输入,给出其对应的唯一区间的序数 \(i\) 使得 \(t_i \leq t < t_{i+1}\)

Definition 7: 基本函数 \(h_t(w)\) 对布朗运动 \(W_t\) 的随机积分定义: \[\int_0^T{h_t(w) \ dW_t(w)} := \sum_{i=0}^{n-1}{e_i(w) (W_{t_{i+1}}(w) - W_{t_i}(w)) }\] \(\int \to \sum\) 将连续的积分离散化到时间区间上。每个区间上基本函数的值是常数 \(e_i(w)\)。 需要注意当区间划分足够小时,区间的常数值是对应到左端点的。

以上是基本函数的随机积分。对于更普遍的函数,可以用无穷多个基本函数渐进。

\[\int_0^T X_t(w) \ dW_t(w) := \lim_{n\to \infty} \int_0^T X_t^{(n)}(w) \ dW_t(w)\]

注:intuitively 这 \(n\) 个基本函数的区间划分必然不同,否则还是常数函数。

Example: \(W_t\) 对自身作积分 \(\int_0^T W_t \ dW_t\)

给出一个区间 \([0,T]\) 上的划分,\(n\to \infty\)

\[0 = t_0 < t_1 <... < t_n = T\]

\[W_t = \sum_{i=0}^{n-1}{W_{t_{i}} I_{[t_i, t_{i+1})}}(t)\]

将连续的布朗运动按 Definition 7 离散化

\[\begin{aligned} \int_0^TW_t \ dW_t &= \sum_{i=0}^{n+1}{ (W_{t_{i+1}} - W_{t_{i}})W_{t_i} } \\ &= \frac12 \sum_{i=0}^{n-1}{\left( W_{t_{i+1}}^2 - W_{t_{i}}^2 - (W_{t_{i+1}} - W_{t_{i}})^2 \right) } \\ &= \frac12 W_T^2 - \frac12W_0^2 -\frac12 \sum_{i=0}^{n-1}{(W_{t_{i+1}} - W_{t_{i}})^2 } \\ &= \frac12 W_T^2 -\frac12 T \end{aligned}\]

这种随机积分很少实际使用,一般用伊藤引理。

Definition 8 (勒贝格空间, L^p space): 指 p 次可积函数 \(X_t(w)\) 组成的空间。如 L2 \[E \left[ \int_0^T X_t(w)^2 dt \right] < \infty\]

Itô's Isometry 伊藤等距同构

Theorem 3 (Itô's Isometry) \[E\left[ \left( \int_0^T{X_t(w) \ dW_t(w)} \right)^2 \right] = E\left[ \int_0^T{ X_t(w)^2 \ dt} \right]\] 非常漂亮的结论,随机积分到定积分。

证明仍然用到区间划分和随机积分,由于期望表达式的存在,\(E[W_{t_{i+1}} - W_{t_i}] = 0, E[(W_{t_{i+1}} - W_{t_i})^2] = t_{i+1} - t_i\)

随机积分的鞅性质

Theorem 4 (Martingale property of Stochastic Integrals): \[Y_t := \int_0^t X_s(w) \ dW_s\] is a martingale when \(X_t(w) \in L^2[0,T]\)

\(X_t(w)\) 是基本函数时,给出证明: - \(E[Y_{t+s}|\mathcal F_{t}] = E[Y_t]\) - 因为是基本函数所以可以写成 \(\sum_{i=0}^{n-1}{e_i(w) (W_{t_{i+1}}(w) - W_{t_i}(w)) }\)。考虑 \([0,t]\)\([0, t+s]\) 上的同密度的划分,两个期望作差得到 \([t,t+s]\) 上的期望应当为0:因为基本函数是分段常数,每个小区间上的布朗运动项的期望为0,\(e_i(w)\)对这些布朗运动简单加权,得证。

  • \(E[|Y_t|] < \infty\)
    • 根据 \(X_t(w) \in L^2[0,T]\), \(E \left[ \int_0^t X_s(w)^2 ds \right] < \infty\)
    • 根据伊藤同构,\(E \left[ \int_0^t X_s(w)^2 ds \right] = E \left[ \left( \int_0^t X_s(w) \ dW_s(w) \right)^2 \right] = E[Y_t^2] < \infty\)
    • \(E[|Y_t|] \cdot \min_t{|Y_t|} < E[Y_t^2]\)。由于 \(Y_t\) 有可能取到 0,不能直接根据该式得出 \(E[|Y_t|] < \infty\);然而可以作如下考虑:\(Y_t=0\) 的情况对期望值没有影响,可以在两个期望式中先剔除掉这些情形使 \(|Y_t|\neq 0\),则得到 \(E[|Y_t|] < \infty\),证毕。

Stochastic Differential Equations (SDE, 随机微分方程)

Definition 9 (伊藤过程):

标准布朗运动微分式: \[dX_t = a_td_t + b_tdW_t\] 随机微分方程 SDE 的形式: \[dX_t = a(X_t,t)d_t + b(X_t, t)dW_t\] 解 SDE 的工具使伊藤引理 Itô's Lemma。


Itô's Lemma

Theorem 5: Itô's Lemma in 1d BM

对于二阶可微函数 \(f\) 和 标准布朗运动 \(W_t\)

\[f(W_t) = f(0) + \frac12 \int_0^t f''(W_s)ds + \int_0^t f'(W_s)dW_s\]

或者写为微分式 (为方便将布朗运动记为 \(B\) 并省略下标 \(t\))

\[df = \frac{df}{dB} dB + \frac12 \frac{d^2f}{dB^2}dt\]

Theorem 6: Itô's Lemma in 1d Itô process

一维伊藤过程 \(X_t\) 的 SDE:

\[dX_t = \mu_t d_t + \sigma_t dW_t\]

这里系数含参。

关于一维伊藤过程的函数的SDE求解:

假设 \(Z_t := f(X_t, t)\)\(C^{1,2}\) 函数 (即1、2阶可微),则

\[\begin{aligned} dZ_t &= \frac{\partial f}{\partial t}(X_t, t)d_t + \frac{\partial f}{\partial x}(X_t, t)dX_t + \frac12\frac{\partial^2 f}{\partial x^2}(X_t, t)(dX_t)^2\\ &= \left( \frac{\partial f}{\partial t}(X_t, t) + \frac{\partial f}{\partial x}(X_t, t)\mu_t + \frac12\frac{\partial^2 f}{\partial x^2}(X_t, t)\sigma_t^2 \right)dt + \frac{\partial f}{\partial x}(X_t, t)\sigma_tdW_t \end{aligned}\]

偏导函数后面的参数和原函数相同。\(x\)\(X_t\) 的简记。

用简单符号表示

\[\begin{aligned} df &= \frac{\partial f}{\partial X}(adt+bdB) + \frac{\partial f}{\partial t}dt + \frac12 \frac{\partial^2f}{\partial X^2}(b^2dt) \\ &= \bigg(\frac{\partial f}{\partial X}a + \frac{\partial f}{\partial t} + \frac12 \frac{\partial^2f}{\partial X^2}b^2 \bigg)dt + \frac{\partial f}{\partial X}bdB \end{aligned}\]

The Box Calculus

\((dW_t)^2 = dt\),为何? Theorem 1 指出布朗运动的二次变分必为 \(T\),将二次变分写为微分形式即可。

例子

Example 3

解以下 SDE。

\[dS_t = \mu_tS_tdt + \sigma_tS_t dW_t\]

解:

\(f = \ln S_t\), why? 看起来两边同除以 \(S_t\) 构造出了一个标准一维布朗运动。

\[\begin{aligned} df &= \frac1S_t dS_t -\frac12\frac1{S_t^2}(dS_t)^2 \\ &=\mu_tdt + \sigma_tdW_t - \frac1{2S_t^2}\sigma_t^2S_t^2d_t \\ &= (\mu_t - \frac12 \sigma_t^2)dt + \sigma_tdW_t \end{aligned}\]

\[\ln{S_t} -\ln{S_0} = \int_0^t{(\mu_s - \frac12 \sigma_s^2)ds} + \int_0^t \sigma_s dW_s\]

\[S_t = S_0\exp{ \left( \int_0^t{(\mu_s - \frac12 \sigma_s^2)ds} + \int_0^t \sigma_s dW_s \right)}\]

\(\mu_t, \sigma_t\) 是常数,

\[S_t = S_0\exp{ \left( (\mu - \frac12 \sigma^2)t + \sigma W_t \right)}\]

可以看出

\[\ln{S_t} \sim N((\mu-\sigma^2 / 2)t, \sigma^2t)\]

是一个带漂移扩散的伊藤过程。

Example 4 Ornstein-Uhlenbeck process

OU过程描述一个经历摩擦的布朗粒子(damped random walk)

假设 \(S_t\) 是价格过程, \(X_t = \ln{S_t}\), 即收益率过程, 解以下SDE

\[dX_t = [-\gamma(X_t-\mu t) + \mu]dt + \sigma dW_t\]

如何选取一个合适的 \(f\)?

代入 \(f(X_t, t)\) 并观察如何化简。

\[\begin{aligned} df &= \frac{\partial f}{\partial x}dx + \frac{\partial f}{\partial t}dt + \frac{\partial^2f}{\partial x^2}(dx)^2 \\ &= \frac{\partial f}{\partial x}\sigma dW_t + \left( \frac{\partial f}{\partial x}[-\gamma(x-\mu t)+\mu] + \frac{\partial f}{\partial t} +\frac{\partial^2f}{\partial x^2}\sigma^2 \right)dt \end{aligned}\]

SDE 完成求解的标志是有段不再含有 \(x\)。考虑

\[\frac{\partial f}{\partial x} \cdot(-\gamma x) + \frac{\partial f}{\partial t} = 0 \] \[\frac{\partial^2f}{\partial x^2}= 0\]

构造这样的一个 \(f\)

\[f(X_t, t) = X_t \exp{(\gamma t)}\]

继续求解, \[\begin{aligned} df &= \exp{(\gamma t)}\sigma dW_t + \left(\exp{(\gamma t)}\mu(\gamma t + 1) \right)dt \\ &= \exp{(\gamma t)} \left[\sigma dW_t + (\mu\gamma t+ \mu ) dt \right] \end{aligned}\]

\[f_t - f_0 = \mu \int_0^t{e^{\gamma s}(\gamma s + 1)ds} + \sigma \int_0^t{e^{\gamma s} dW_s}\]

化简定积分

\[\int_0^t{e^{\gamma s}(\gamma s + 1)ds} = \frac1\gamma \int_0^{\gamma t}{e^x(x+1)dx}=\frac1\gamma (xe^x) |_0^{\gamma t} = te^{\gamma t}\]

\(X_t\) 表示:

\[X_t = X_0e^{-\gamma t} + \mu t + \sigma e^{-\gamma t} \int_0^t{e^{\gamma s} dW_s}\]

(解完了。)

分析这个收益率过程 \(X_t\)

\[E[X_t] = X_0e^{-\gamma t} + \mu t\]

\[\begin{aligned} D[X_t] &= D\left[ \sigma e^{-\gamma t} \int_0^t{e^{\gamma s} dW_s} \right] \\ &= (\sigma e^{-\gamma t} )^2 D\left[ \int_0^t{e^{\gamma s} dW_s} \right] \\ &= (\sigma e^{-\gamma t} )^2 E\left[\left(\int_0^t{e^{\gamma s} dW_s} \right)^2 \right] \\ &= (\sigma e^{-\gamma t} )^2 E\left[ \int_0^t{(e^{\gamma s})^2 ds} \right] \qquad \text{ By Ito's Isometry.} \\ &= \frac{\sigma^2}{2\gamma}(1-e^{-2\gamma t}) \end{aligned}\]

讲义