Chapter 4

Supporting notes

Scott Alexander

Frame 5

Note that we can have:
*discrete time, discrete space process (e.g. discrete time Markov chain)
*discrete time, continuous space process (e.g. discrete time Gaussian random walk)
*continuous time, discrete space process (e.g. continuous time Markov chain, Poisson process)
*continuous time, continuous space process (e.g. Wiener process, diffusion process).

Frame 6

Consider the index set    D={(Subscript[t, 1]),(Subscript[t, 2])}    and stochastic process X:Ω×D->ℝ.

X has the distribution function    (Subscript[F, (Subscript[X, (Subscript[t, 1])]),(Subscript[X, (Subscript[t, 2])])])((Subscript[x, 1]),(Subscript[x, 2])):=P((Subscript[X, (Subscript[t, 1])])≤(Subscript[x, 1]),(Subscript[X, (Subscript[t, 2])])≤(Subscript[x, 2])).
Assuming the density function (Subscript[f, (Subscript[X, (Subscript[t, 1])]),(Subscript[X, (Subscript[t, 2])])]) exists
(Subscript[F, (Subscript[X, (Subscript[t, 1])]),(Subscript[X, (Subscript[t, 2])])])((Subscript[x, 1]),(Subscript[x, 2])) = (∫_(-∞)^(Subscript[x, 2]))(∫_(-∞)^(Subscript[x, 1]))(Subscript[f, (Subscript[X, (Subscript[t, 1])]),(Subscript[X, (Subscript[t, 2])])])((Subscript[y, 1]),(Subscript[y, 2]))d(Subscript[y, 1])d(Subscript[y, 2]).

From the consistency property
(lim_((Subscript[x, 2])->∞))(Subscript[F, (Subscript[X, (Subscript[t, 1])]),(Subscript[X, (Subscript[t, 2])])])((Subscript[x, 1]),(Subscript[x, 2])) = (lim_((Subscript[x, 2])->∞))P((Subscript[X, (Subscript[t, 1])])≤(Subscript[x, 1]),(Subscript[X, (Subscript[t, 2])])≤(Subscript[x, 2])) = P((Subscript[X, (Subscript[t, 1])])≤(Subscript[x, 1]),(Subscript[X, (Subscript[t, 2])])<∞) = P((Subscript[X, (Subscript[t, 1])])≤(Subscript[x, 1]))
  =(Subscript[F, (Subscript[X, (Subscript[t, 1])])])((Subscript[x, 1]))    ((Subscript[F, (Subscript[X, (Subscript[t, 1])])]) is marginal distribution function)
or
(lim_((Subscript[x, 2])->∞))(∫_(-∞)^(Subscript[x, 2]))(∫_(-∞)^(Subscript[x, 1]))(Subscript[f, (Subscript[X, (Subscript[t, 1])]),(Subscript[X, (Subscript[t, 2])])])((Subscript[y, 1]),(Subscript[y, 2]))d(Subscript[y, 1])d(Subscript[y, 2]) = (∫_(-∞)^(Subscript[x, 1]))(lim_((Subscript[x, 2])->∞))(∫_(-∞)^(Subscript[x, 2]))(Subscript[f, (Subscript[X, (Subscript[t, 1])]),(Subscript[X, (Subscript[t, 2])])])((Subscript[y, 1]),(Subscript[y, 2]))d(Subscript[y, 2])d(Subscript[y, 1])
  = (∫_(-∞)^(Subscript[x, 1]))(∫_(-∞)^∞)(Subscript[f, (Subscript[X, (Subscript[t, 1])]),(Subscript[X, (Subscript[t, 2])])])((Subscript[y, 1]),(Subscript[y, 2]))d(Subscript[y, 2])d(Subscript[y, 1])
 = (∫_(-∞)^(Subscript[x, 1]))(Subscript[f, (Subscript[X, (Subscript[t, 1])])])((Subscript[y, 1]))d(Subscript[y, 1])
  = (Subscript[F, (Subscript[X, (Subscript[t, 1])])])((Subscript[x, 1]))   ((Subscript[f, (Subscript[X, (Subscript[t, 1])])]) is marginal density function)

Frame 11-12

Gaussian White noise

TT=500;
data=RandomReal[NormalDistribution[],TT+1];
ListPlot[data,PlotMarkers->{Automatic,4},AxesLabel->{"t","(Subscript[X, t])"}]

Frame 13-14

Useful result

var((∑_(j=1)^m)(Subscript[X, j])) = (∑_(j=1)^m)var((Subscript[X, j]))    for independent RVs

Proof.
var((∑_(j=1)^m)(Subscript[X, j])) = cov((∑_(j=1)^m)(Subscript[X, j]),(∑_(k=1)^n)(Subscript[X, k]))
  = 𝔼[(∑_(j=1)^m)(Subscript[X, j])(∑_(k=1)^n)(Subscript[X, k])]-𝔼[(∑_(j=1)^m)(Subscript[X, j])]𝔼[(∑_(k=1)^n)(Subscript[X, k])]
  = (∑_(j=1)^m)(∑_(k=1)^n)𝔼[(Subscript[X, j])(Subscript[X, k])]-(∑_(j=1)^m)(∑_(k=1)^n)𝔼[(Subscript[X, j])]𝔼[(Subscript[X, k])]
  = (∑_(j=1)^m)(∑_(k=1)^n)(𝔼[(Subscript[X, j])(Subscript[X, k])]-𝔼[(Subscript[X, j])]𝔼[(Subscript[X, k])])
  = (∑_(j=1)^m)(∑_(k=1)^n)cov((Subscript[X, j]),(Subscript[X, k]))
  = (∑_(j=1)^m)cov((Subscript[X, j]),(Subscript[X, j]))    (independence)
  = (∑_(j=1)^m)var((Subscript[X, j]))

A more general useful result

cov((∑_(j=1)^m)(Subscript[a, j])(Subscript[X, j]),(∑_(k=1)^n)(Subscript[b, k])(Subscript[Y, k])) = (∑_(j=1)^m)(∑_(k=1)^n)(Subscript[a, j])(Subscript[b, k])cov((Subscript[X, j]),(Subscript[Y, k]))

Proof.
cov((∑_(j=1)^m)(Subscript[a, j])(Subscript[X, j]),(∑_(k=1)^n)(Subscript[b, k])(Subscript[Y, k])) = 𝔼[(∑_(j=1)^m)(Subscript[a, j])(Subscript[X, j])(∑_(k=1)^n)(Subscript[b, k])(Subscript[Y, k])] - 𝔼[(∑_(j=1)^m)(Subscript[a, j])(Subscript[X, j])]𝔼[(∑_(k=1)^n)(Subscript[b, k])(Subscript[Y, k])]
  = (∑_(j=1)^m)(∑_(k=1)^n)(Subscript[a, j])(Subscript[b, k])𝔼[(Subscript[X, j])(Subscript[Y, k])] - (∑_(j=1)^m)(Subscript[a, j])𝔼[(Subscript[X, j])](∑_(k=1)^n)(Subscript[b, k])𝔼[(Subscript[Y, k])]
  = (∑_(j=1)^m)(∑_(k=1)^n)(Subscript[a, j])(Subscript[b, k])𝔼[(Subscript[X, j])(Subscript[Y, k])] - (∑_(j=1)^m)(∑_(k=1)^n)(Subscript[a, j])(Subscript[b, k])𝔼[(Subscript[X, j])]𝔼[(Subscript[Y, k])]
  = (∑_(j=1)^m)(∑_(k=1)^n)(Subscript[a, j])(Subscript[b, k])(𝔼[(Subscript[X, j])(Subscript[Y, k])] - 𝔼[(Subscript[X, j])]𝔼[(Subscript[Y, k])])
  = (∑_(j=1)^m)(∑_(k=1)^n)(Subscript[a, j])(Subscript[b, k])cov((Subscript[X, j]),(Subscript[Y, k])).

Gaussian random walk

var((Subscript[Y, t])) = var((∑_(k=1)^t)(Subscript[X, k])) = cov((∑_(k=1)^t)(Subscript[X, k]),(∑_(i=1)^t)(Subscript[X, i])) = (∑_(k=1)^t)(∑_(i=1)^t)cov((Subscript[X, k]),(Subscript[X, i]))
  = (∑_(k=1)^t)cov((Subscript[X, k]),(Subscript[X, k]))    (independence implies    cov((Subscript[X, k]),(Subscript[X, i]))=0 for k≠i)
  =(∑_(k=1)^t)var((Subscript[X, k])) = (σ^2)t

TT=500;
data=RandomReal[NormalDistribution[-.1,2],TT];
data=Prepend[data,0];
data=Accumulate[data];
ListPlot[data,PlotMarkers->{Automatic,4},AxesLabel->{"t","(Subscript[Y, t])"}]

TT=500;
paths=10;
data=Table[RandomReal[NormalDistribution[-.1,2],paths],TT];
data=Transpose[Prepend[data,Table[0,paths]]];
data=Map[Accumulate,data];
ListPlot[data,PlotMarkers->{Automatic,4},AxesLabel->{"t","(Subscript[Y, t])"}]

Frame 15-16

Standard Brownian motion

TT=500;
data=Table[RandomReal[NormalDistribution[]],{TT}];
data=Prepend[data,0];
data=Accumulate[data];
ListPlot[data,Joined->True,AxesLabel->{"t","(Subscript[B, t])"}]

Non-standard Brownian motion

TT=1; steps=1000; dt=TT/steps;
μ=-10; σ=4;
data=RandomFunction[WienerProcess[μ,σ],{0,TT,dt}];
ListLinePlot[data,AxesLabel->{"t","(Subscript[B, t])"}]

Frame 18

var((Subscript[W, t+Δ])-(Subscript[W, t])) = cov((Subscript[W, t+Δ])-(Subscript[W, t]),(Subscript[W, t+Δ])-(Subscript[W, t]))
  = cov((Subscript[W, t+Δ]),(Subscript[(Subscript[W, t+Δ]), t]))-cov((Subscript[W, t+Δ]),(Subscript[W, t]))-cov((Subscript[W, t]),(Subscript[W, t+Δ]))+cov((Subscript[W, t]),(Subscript[W, t]))
  = var((Subscript[W, t+Δ]))+var((Subscript[W, t]))-2cov((Subscript[W, t+Δ]),(Subscript[W, t]))
  = (σ^2)(t+Δ)+(σ^2)t-2(σ^2)min(t+Δ,t)
  = (σ^2)(t+Δ)+(σ^2)t-2(σ^2)t
  = (σ^2)Δ

Frame 22-23

We have    (Subscript[B, t])-(Subscript[B, u])~N(0,t-u).

Let     Z~N(0,1)    and note that    (Subscript[B, t])-(Subscript[B, u])~(Sqrt[t-u])Z

𝔼[((((Subscript[B, t])-(Subscript[B, u])))^4)] = 𝔼[((((Sqrt[t-u])Z))^4)] = (((t-u))^2)𝔼[(Z^4)]
  = 3(((t-u))^2).

Expectation[(x^4),x\[Distributed]NormalDistribution[0,(Sqrt[t-u])]]

Frame 24

Let    Z=(((Subscript[B, t+Δ])-(Subscript[B, t]))/Δ).

𝔼[Z] = 𝔼[(((Subscript[B, t+Δ]) - (Subscript[B, t]))/Δ)] = (1/Δ)𝔼[(Subscript[B, t+Δ])]-(1/Δ)𝔼[(Subscript[B, t])] = 0.

var(Z) = var((((Subscript[B, t+Δ]) - (Subscript[B, t]))/Δ)) = (1/(Δ^2))var((Subscript[B, t+Δ]) - (Subscript[B, t]))
  = (1/(Δ^2))(var((Subscript[B, t+Δ])) - 2cov((Subscript[B, t+Δ]),(Subscript[B, t])) + var((Subscript[B, t])))    (see Frame 18 above)
  = (1/(Δ^2))(t+Δ - 2t + t)
  = (1/Δ)
so
Z=(((Subscript[B, t+Δ])-(Subscript[B, t]))/Δ)~N(0,(1/Δ)).

Frame 26

Note that
𝔼[((|(Subscript[B, t]^H)-(Subscript[B, s]^H)|)^2)] = 𝔼[((((Subscript[B, t]^H)-(Subscript[B, s]^H)))^2)]
  =𝔼[((((Subscript[B, t]^H)))^2)+((((Subscript[B, s]^H)))^2)-2(Subscript[B, t]^H)(Subscript[B, s]^H)]
 = 𝔼[((((Subscript[B, t]^H)))^2)]+𝔼[((((Subscript[B, s]^H)))^2)]-2𝔼[(Subscript[B, t]^H)(Subscript[B, s]^H)]
or
𝔼[(Subscript[B, t]^H)(Subscript[B, s]^H)] = (1/2)(𝔼[((((Subscript[B, t]^H)))^2)]+𝔼[((((Subscript[B, s]^H)))^2)]-𝔼[((|(Subscript[B, t]^H)-(Subscript[B, s]^H)|)^2)])
  = (1/2)(𝔼[((((Subscript[B, t]^H)-(Subscript[B, 0]^H)))^2)]+𝔼[((((Subscript[B, s]^H)-(Subscript[B, 0]^H)))^2)]-𝔼[((|(Subscript[B, t]^H)-(Subscript[B, s]^H)|)^2)])
  = (1/2)((t^(2H))+(s^(2H))-((|t-s|)^(2H))).

But
cov((Subscript[B, t]^H),(Subscript[B, s]^H)) = 𝔼[(Subscript[B, t]^H)(Subscript[B, s]^H)]-𝔼[(Subscript[B, t]^H)]𝔼[(Subscript[B, s]^H)]
  = 𝔼[(Subscript[B, t]^H)(Subscript[B, s]^H)]
  = (1/2)((t^(2H))+(s^(2H))-((|t-s|)^(2H))).

Note that we have used
(Subscript[B, 0]^H)=0
which is justified as
(Subscript[B, 0]^H)~N(0,0).

Frame 27

Let (Subscript[B, t]^(1/2)) be fractional Brownian motion with Hurst parameter H=(1/2).

Then
𝔼[(Subscript[B, t]^(1/2))] = 0
and
cov((Subscript[B, t]^(1/2)),(Subscript[B, s]^(1/2))) = (1/2)((t^(2×(1/2)))+(s^(2×(1/2)))-((|t-s|)^(2×(1/2))))    (see page 23)
  = (1/2)(t+s-|t-s|)
  = (1/2)({{{, ({{t+s-(t-s), t>s}, {t+s-(s-t), s≤t}})}})
  = (1/2)({{{, ({{2s, t>s}, {2t, s≤t}})}})
  = ({{{, ({{s, t>s}, {t, s≤t}})}})
  = min(t,s)
so by Definition 4 (page 24) (Subscript[B, t]^(1/2)) is a standard Brownian motion.

Frame 28

TT=100;
μ=0;  σ=1; 
Table[ListPlot[RandomFunction[FractionalBrownianMotionProcess[μ,σ,h],{0,TT,1}],Joined->True,PlotLabel->"H = "<>ToString[h]],{h,0.1,0.9,0.1}]

Frame 29-30

Standard Brownian bridge

TT=1;
data=RandomFunction[BrownianBridgeProcess[],{0,TT,.01}];
ListLinePlot[data,AxesLabel->{"t","(Subscript[B, t]^b)"}]

Non-standard Brownian bridge

σ=5; (* volatility *)
t1=1; b1=4; (* start point *)
t2=6; b2=-5; (* end point *)
steps=1000; (* number of discretisation steps *)
dt=((t2-t1)/steps); (* time step *)
data=RandomFunction[BrownianBridgeProcess[σ,{t1,b1},{t2,b2}],{t1,t2,dt}];
ListLinePlot[data,AxesLabel->{"t","(Subscript[B, t]^b)"}]

Frame 32-33

(Subscript[X, t]) = λ (Subscript[X, t-1])+(Subscript[e, t])
  = λ(λ (Subscript[X, t-2])+(Subscript[e, t-1]))+(Subscript[e, t]) = (λ^2)(Subscript[X, t-2])+λ (Subscript[e, t-1])+(Subscript[e, t])
  = (λ^2)(λ (Subscript[X, t-3])+(Subscript[e, t-2]))+λ (Subscript[e, t-1])+(Subscript[e, t]) = (λ^3)(Subscript[X, t-3])+(λ^2)(Subscript[e, t-2])+λ (Subscript[e, t-1])+(Subscript[e, t])
  = ⋯
  = (λ^t)(Subscript[X, t-t])+(λ^(t-1))(Subscript[e, 1])+(λ^(t-2))(Subscript[e, 2])+(λ^(t-3))(Subscript[e, 3])+⋯(λ^(t-t))(Subscript[e, t])
  = (λ^t)(Subscript[X, 0])+(λ^(t-1))(Subscript[e, 1])+(λ^(t-2))(Subscript[e, 2])+(λ^(t-3))(Subscript[e, 3])+⋯(λ^0)(Subscript[e, t])
  = (λ^t)(Subscript[X, 0])+(∑_(k=0)^(t-1))(λ^k)(Subscript[e, t-k])

var((Subscript[X, t])) = var((λ^t)(Subscript[X, 0])+(∑_(k=0)^(t-1))(λ^k)(Subscript[e, t-k]))
  = cov((λ^t)(Subscript[X, 0])+(∑_(k=0)^(t-1))(λ^k)(Subscript[e, t-k]),(λ^t)(Subscript[X, 0])+(∑_(j=0)^(t-1))(λ^j)(Subscript[e, t-j]))
  =  cov((λ^t)(Subscript[X, 0]),(λ^t)(Subscript[X, 0]))+ cov((λ^t)(Subscript[X, 0]),(∑_(j=0)^(t-1))(λ^j)(Subscript[e, t-j]))+ cov((∑_(k=0)^(t-1))(λ^k)(Subscript[e, t-k]),(λ^t)(Subscript[X, 0]))+ cov((∑_(k=0)^(t-1))(λ^k)(Subscript[e, t-k]),(∑_(j=0)^(t-1))(λ^j)(Subscript[e, t-j]))
  = var((λ^t)(Subscript[X, 0]))+cov((∑_(k=0)^(t-1))(λ^k)(Subscript[e, t-k]),(∑_(j=0)^(t-1))(λ^j)(Subscript[e, t-j]))    ((Subscript[X, 0]) and (Subscript[e, k]) are independent)
  = var((λ^t)(Subscript[X, 0]))+(∑_(k=0)^(t-1))(∑_(j=0)^(t-1))cov((λ^k)(Subscript[e, t-k]),(λ^j)(Subscript[e, t-j]))
  = var((λ^t)(Subscript[X, 0]))+(∑_(k=0)^(t-1))cov((λ^k)(Subscript[e, t-k]),(λ^k)(Subscript[e, t-k]))    ((Subscript[e, k]) are independent, so cov((λ^k)(Subscript[e, t-k]),(λ^j)(Subscript[e, t-j]))=0 when k≠j )
 = (λ^(2t))var((Subscript[X, 0]))+(∑_(k=0)^(t-1))(λ^(2k))var((Subscript[e, t-k]))
 = (λ^(2t))var((Subscript[X, 0]))+(σ^2)(∑_(k=0)^(t-1))(λ^(2k))

Frame 34

X0=0;  σ=1;TT=100;
data=Table[RandomFunction[ARProcess[{λ},σ],{0,TT}],{λ,{0.2,0.5,0.99}}];
ListPlot[data,Joined->True,PlotRange->All,AxesLabel->{"t","(Subscript[X, t])"},
PlotLabels->{"λ = 0.2","λ = 0.5","λ = 0.99"}
]

X0=0;  σ=1;TT=100;
Table[ListPlot[RandomFunction[ARProcess[{λ},σ],{0,TT}],Joined->True,PlotLabel->"λ= "<>ToString[λ]],{λ,-0.8,0.8,0.2}]