Chapter 6

Supporting notes

Scott Alexander

Frame 5

Suppose    (Subscript[X, t])=i    (i.e. P((Subscript[X, t])=i)=1).

Then
P((Subscript[T, i])>v+s|(Subscript[T, i])>v) = P((Subscript[X, t+u])=(Subscript[x, i]),0≤u≤v+s|(Subscript[X, t+u])=(Subscript[x, i]),0≤u≤v)

  = ((P({ω|(Subscript[X, t+u])(ω)=(Subscript[x, i]),0≤u≤v+s}⋂{ω|(Subscript[X, t+u])(ω)=(Subscript[x, i]),0≤u≤v}))/(P((Subscript[X, t+u])=(Subscript[x, i]),0≤u≤v)))
  = ((P({ω|(Subscript[X, t+u])(ω)=(Subscript[x, i]),v≤u≤v+s}⋂{ω|(Subscript[X, t+u])(ω)=(Subscript[x, i]),0≤u≤v}))/(P((Subscript[X, t+u])=(Subscript[x, i]),0≤u≤v)))

  = P((Subscript[X, t+u])=(Subscript[x, i]),v≤u≤v+s|(Subscript[X, t+u])=(Subscript[x, i]),0≤u≤v)
  = P((Subscript[X, t+u])=(Subscript[x, i]),v≤u≤v+s|(Subscript[X, t+v])=(Subscript[x, i]))    (Markov property)
  = P((Subscript[X, t+u])=(Subscript[x, i]),0≤u≤s|(Subscript[X, t])=(Subscript[x, i]))    (homogeneity)

  = ((P({ω|(Subscript[X, t+u])(ω)=(Subscript[x, i]),0≤u≤s}⋂{ω|(Subscript[X, t])(ω)=(Subscript[x, i])}))/(P((Subscript[X, t])=(Subscript[x, i]))))
  = ((P({ω|(Subscript[X, t+u])(ω)=(Subscript[x, i]),0≤u≤s}))/1)

  =P((Subscript[T, i])>s).

Frame 6

CDF of X~Exp(λ) is
(Subscript[F, X])(x) = P(X≤x) = (∫_(-∞)^x)(Subscript[f, X])(u)du
  = (∫_0^x)λ (e^(-λ u))du 
  = -(∫_0^x)(d/(du)) (e^(-λ u))du
  = -(Subscript[[(e^(-λ u))], 0]^x)
  = -(e^(-λ x))+1.

Frame 16

y[x_]:=x;
Plot[y[x],{x,0,4},AxesLabel->{"(Subscript[A, i])","(Subscript[D, i])"},PlotStyle->Dashed,Filling->Bottom]

Frame 18

Backward equation

(d/(ds))P(s) = A P(s)
or
(d/(ds))(({{(Subscript[p, 11])(s), (Subscript[p, 12])(s), ⋯, (Subscript[p, 1n])(s)}, {(Subscript[p, 21])(s), (Subscript[p, 22])(s), ⋯, (Subscript[p, 2n])(s)}, {⋮, ⋮, ⋱, ⋮}, {(Subscript[p, n1])(s), (Subscript[p, n2])(s), ⋯, (Subscript[p, nn])(s)}})) = (({{(Subscript[a, 11]), (Subscript[a, 12]), ⋯, (Subscript[a, 1n])}, {(Subscript[a, 21]), (Subscript[a, 22]), ⋯, (Subscript[a, 2n])}, {⋮, ⋮, ⋱, ⋮}, {(Subscript[a, n1]), (Subscript[a, n2]), ⋯, (Subscript[a, nn])}})) (({{(Subscript[p, 11])(s), (Subscript[p, 12])(s), ⋯, (Subscript[p, 1n])(s)}, {(Subscript[p, 21])(s), (Subscript[p, 22])(s), ⋯, (Subscript[p, 2n])(s)}, {⋮, ⋮, ⋱, ⋮}, {(Subscript[p, n1])(s), (Subscript[p, n2])(s), ⋯, (Subscript[p, nn])(s)}}))
which is
(({{(d/(ds))(Subscript[p, 11])(s), (d/(ds))(Subscript[p, 12])(s), ⋯, (d/(ds))(Subscript[p, 1n])(s)}, {(d/(ds))(Subscript[p, 21])(s), (d/(ds))(Subscript[p, 22])(s), ⋯, (d/(ds))(Subscript[p, 2n])(s)}, {⋮, ⋮, ⋱, ⋮}, {(d/(ds))(Subscript[p, n1])(s), (d/(ds))(Subscript[p, n2])(s), ⋯, (d/(ds))(Subscript[p, nn])(s)}})) = (({{(∑_(k=1)^n)(Subscript[a, 1k])(Subscript[p, k1])(s), (∑_(k=1)^n)(Subscript[a, 1k])(Subscript[p, k2])(s), ⋯, (∑_(k=1)^n)(Subscript[a, 1k])(Subscript[p, kn])(s)}, {(∑_(k=1)^n)(Subscript[a, 2k])(Subscript[p, k1])(s), (∑_(k=1)^n)(Subscript[a, 2k])(Subscript[p, k2])(s), ⋯, (∑_(k=1)^n)(Subscript[a, 2k])(Subscript[p, kn])(s)}, {⋮, ⋮, ⋱, ⋮}, {(∑_(k=1)^n)(Subscript[a, nk])(Subscript[p, k1])(s), (∑_(k=1)^n)(Subscript[a, nk])(Subscript[p, k2])(s), ⋯, (∑_(k=1)^n)(Subscript[a, nk])(Subscript[p, kn])(s)}})).

Frame 20

Problem - how to find transition probabilities?

Solution of Kolmogorov equations (page 18).

Clear[AA,PP,p0,p01,p02,p03];
AA={{-6/100,3/100,2/100,1/100},{1/10,-4/10,2/10,1/10},{2/10,4/10,-1,4/10},{0,0,0,0}};
PP[s_]:=MatrixExp[s AA];
PP[0]//MatrixForm//N
PP[10]//MatrixForm//N
PP[100]//MatrixForm//N
PP[600]//MatrixForm//N
Limit[PP[t],t->∞]//MatrixForm
p0={p01,p02,p03,1-p01-p02-p03};
Limit[Transpose[PP[t]],t->∞].p0//MatrixForm

As t->∞ the probability firm defaults->1!

Frame 21

A = (({{-λ, λ}, {μ, -μ}})).

Matrix Form backward equation.
(d/(ds))P(s) = A P(s)
or
(d/(ds))(({{(Subscript[p, 11])(s), (Subscript[p, 12])(s)}, {(Subscript[p, 21])(s), (Subscript[p, 22])(s)}})) = (({{(Subscript[a, 11]), (Subscript[a, 12])}, {(Subscript[a, 21]), (Subscript[a, 22])}})) (({{(Subscript[p, 11])(s), (Subscript[p, 12])(s)}, {(Subscript[p, 21])(s), (Subscript[p, 22])(s)}})) = (({{-λ, λ}, {μ, -μ}})) (({{(Subscript[p, 11])(s), (Subscript[p, 12])(s)}, {(Subscript[p, 21])(s), (Subscript[p, 22])(s)}}))
which is
(({{(d/(ds))(Subscript[p, 11])(s), (d/(ds))(Subscript[p, 12])(s)}, {(d/(ds))(Subscript[p, 21])(s), (d/(ds))(Subscript[p, 22])(s)}})) = (({{-λ (Subscript[p, 11])(s)+λ (Subscript[p, 21])(s), -λ (Subscript[p, 12])(s)+λ (Subscript[p, 22])(s)}, {μ (Subscript[p, 11])(s)-μ (Subscript[p, 21])(s), μ (Subscript[p, 12])(s)-μ (Subscript[p, 22])(s)}})).

Scalar form backward equation for i=1,j=1.
(d/(ds))(Subscript[p, 11])(s) = (∑_(k=1,k≠1)^2)(Subscript[a, 1k])(Subscript[p, k1])(s)+(Subscript[a, 11])(Subscript[p, 11])(s) = (Subscript[a, 12])(Subscript[p, 21])(s)+(Subscript[a, 11])(Subscript[p, 11])(s) = λ (Subscript[p, 21])(s)-λ (Subscript[p, 11])(s)
(Subscript[p, 12])(s) = 1-(Subscript[p, 11])(s)    (probabilities sum to 1)


Scalar form backward equation for i=2,j=1.
(d/(ds))(Subscript[p, 21])(s) = (∑_(k=1,k≠2)^2)(Subscript[a, 2k])(Subscript[p, k1])(s)+(Subscript[a, 22])(Subscript[p, 21])(s) = (Subscript[a, 21])(Subscript[p, 11])(s)+(Subscript[a, 22])(Subscript[p, 21])(s) = μ (Subscript[p, 11])(s)-μ (Subscript[p, 21])(s)
(Subscript[p, 22])(s) = 1-(Subscript[p, 21])(s)    (probabilities sum to 1)

Calculations

DSolve[{
p11'[s]==-λ p11[s]+λ p21[s],
p12'[s]==-λ p12[s]+λ p22[s],
p21'[s]==μ p11[s]-μ p21[s],
p22'[s]==μ p12[s]-μ p22[s],
p11[0]==1,
p12[0]==0,
p21[0]==0,
p22[0]==1
},
{p11,p12,p21,p22},s
]

DSolve[{
p11'[s]==-λ p11[s]+λ p21[s],
p12[s]==1- p11[s],
p21'[s]==μ p11[s]-μ p21[s],
p22[s]==1- p21[s],
p11[0]==1,
p12[0]==0,
p21[0]==0,
p22[0]==1
},
{p11,p12,p21,p22},s
]

Frame 23

Note that
(P^T)(s)π = (e^(s (A^T)))π
  = (I+(((s^1) ((((A^T)))^1))/(1!))+(((s^2) ((((A^T)))^2))/(2!))+(((s^3) ((((A^T)))^3))/(3!))+⋯)π
  = π+(s/(1!))(A^T)π+(((s^2)(A^T))/(2!))(A^T)π+(((s^3)((((A^T)))^2))/(3!))(A^T)π+⋯
  = π+((s/(1!))+(((s^2)(A^T))/(2!))+(((s^3)((((A^T)))^2))/(3!))+⋯)(A^T)π
  = π
if
(A^T)π = 0.

Frame 29

p1=ListStepPlot[{{0,0},{1.2,1},{3.34,2},{4.5,3}},Joined->False];
p2=ListPlot[{{0,0},{1.2,1},{3.34,2},{4.5,3}},PlotMarkers->{Automatic,10}];
Show[p1,p2,AxesLabel->{"t","(Subscript[N, t])"},PlotLabel->"Plot of (Subscript[N, t])"]

Frame 31

"Little o" notation.

Let h>0.

The statement
f(h) ∈ o(g(h))
means that for any ϵ>0 there exists an (Subscript[h, ϵ])>0 such that
|f(h)| ≤ ϵ g(h)    for    h<(Subscript[h, ϵ]).

This also means that
((|f(h)|)/(g(h)))≤ ϵ    for    h<(Subscript[h, ϵ])    implying that    ((|f(h)|)/(g(h)))∈ o(1).

So    (lim_(h->0))((f(h))/(g(h)))=0.


In particular, the statement
f(h) ∈ o(h)
means that for any ϵ>0 there exists an (Subscript[h, ϵ])>0 such that
|f(h)| ≤ ϵ h   for    h<(Subscript[h, ϵ]).

This also means that
((|f(h)|)/h) ≤ ϵ   for    h<(Subscript[h, ϵ])    implying that    ((f(h))/h)∈ o(1).

So    (lim_(h->0))((f(h))/h)=0.


Definition 5 says
(lim_(h->0))((P((Subscript[N, t+h])-(Subscript[N, t])=1))/h) = (lim_(h->0))(((λ h)/h)+((o(h))/h)) = λ+(lim_(h->0))((o(h))/h) = λ+(lim_(h->0)) o(1) = λ
and
(lim_(h->0))((P((Subscript[N, t+h])-(Subscript[N, t])≥2))/h) = (lim_(h->0))((o(h))/h) = (lim_(h->0)) o(1) = 0.

Frame 36

λ=10;TT=1;
data=RandomFunction[PoissonProcess[λ],{0,TT}];
ListLinePlot[data,InterpolationOrder->0,AxesLabel->{"t","(Subscript[N, t])"}]

Frame 40

Note that
𝔼[(e^((∑_(k=1)^n)i u (Subscript[Y, k])))] = 𝔼[(∏_(k=1)^n)(e^(i u (Subscript[Y, k])))] = (∏_(k=1)^n)𝔼[(e^(i u (Subscript[Y, k])))]
where the last is by independence of the (Subscript[Y, k]).

For some RV X, to see that
𝔼[I(X∈A)] = P(X∈A) ≡ P(A)
note that by Def 8 pg 29 Chapter 1 Notes
𝔼[I(X∈A)] = (∫_Ω)I(X∈A)dP = (∫_A)dP = P(A).

Frame 40

Set    (Subscript[Y, 0])=0.

Then
𝔼[(e^(i u (Subscript[X, t])))] = 𝔼[(e^((∑_(k=1)^(Subscript[N, t]))i u (Subscript[Y, k])))] = 𝔼[(e^((∑_(k=0)^(Subscript[N, t]))i u (Subscript[Y, k])))]    ((Subscript[Y, 0])=0)
  = 𝔼[𝔼[(e^((∑_(k=0)^(Subscript[N, t]))i u (Subscript[Y, k])))|(Subscript[N, t])]]    (law of total expectation/tower law)
  = (∑_(n=0)^∞)𝔼[(e^((∑_(k=0)^(Subscript[N, t]))i u (Subscript[Y, k])))|(Subscript[N, t])=n]P((Subscript[N, t])=n)
  = (∑_(n=0)^∞)𝔼[(e^((∑_(k=0)^n)i u (Subscript[Y, k])))|(Subscript[N, t])=n]P((Subscript[N, t])=n)    (applying condition)
  = (∑_(n=0)^∞)𝔼[(e^((∑_(k=0)^n)i u (Subscript[Y, k])))]P((Subscript[N, t])=n)    (independence from (Subscript[N, t]))
  = (∑_(n=0)^∞)𝔼[(∏_(k=0)^n)(e^(i u (Subscript[Y, k])))]P((Subscript[N, t])=n) = (∑_(n=0)^∞)(∏_(k=0)^n)𝔼[(e^(i u (Subscript[Y, k])))]P((Subscript[N, t])=n)    (independence from each other)
  = (∑_(n=0)^∞)((𝔼[(e^(i u Y))])^n)P((Subscript[N, t])=n)    ((Subscript[Y, k]) are iid, (Subscript[Y, 0])=0)
  = (∑_(n=0)^∞)(Subscript[φ, Y])(((u))^n)(((e^(-λ t))(((λ t))^n))/(n!)) = (e^(-λ t))(∑_(n=0)^∞)((((λ t (Subscript[φ, Y])(u)))^n)/(n!))
  = (e^(-λ t))(e^(λ t (Subscript[φ, Y])(u))) = (e^(λ t ((Subscript[φ, Y])(u)-1))).

Frame 42

λ=10;TT=1;μ=1;σ=2;
data=RandomFunction[CompoundPoissonProcess[λ,NormalDistribution[μ,σ]],{0,TT}];
ListLinePlot[data,InterpolationOrder->0,AxesLabel->{"t","(Subscript[N, t])"}]

Frame 43

Let (Subscript[Y, k]) be size of k-th family migrating with
P((Subscript[Y, k])=i) = ({{{, ({{1/6,, i=1}, {1/3,, i=2}, {1/3,, i=3}, {1/6,, i=4}})}}).

Then
𝔼[(Subscript[Y, k])] = (∑_(i=1)^4)i*P((Subscript[Y, k])=i) = 1(1/6)+2(1/3)+3(1/3)+4(1/6)
  = (5/2)
and
𝔼[(Subscript[Y, k]^2)] = (∑_(i=1)^4)(i^2)*P((Subscript[Y, k])=i) = (1^2)(1/6)+(2^2)(1/3)+(3^2)(1/3)+(4^2)(1/6)
  = (43/6).

1(1/6)+2(1/3)+3(1/3)+4(1/6)

(1^2)(1/6)+(2^2)(1/3)+(3^2)(1/3)+(4^2)(1/6)