[关闭]
@Frankchen 2016-04-07T05:58:34.000000Z 字数 32078 阅读 2161

Stochastic Processes Theory of Applicatins

Translation


2.1 Introduction

泊松过程是一种常见的并且被广泛使用的,为事件到达一个系统的次数而建模的随机过程。它可以被看作是连续时间下的伯努利过程。在1.41章节,我们用一序列独立同分布随机变量表示伯努利过程,其中我们用表示在时间点处某事件到达,否则为。我们发现(当时没有详细证明)这个过程同样可以被描述为一几何分布时间间隔的序列。
  对于泊松过程来说,到达可能在任意正值时间发生,而对于一个确定的时间点来说,事件发生的几率为0。这意味着:以给定时间点事件发生的概率来描述泊松过程的方式是不存在的。以事件到达时间间隔的序列的方式来定义泊松过程是更为方便的,而这些间隔是独立同分布的。在这之前,我们将对到达过程作一些细节上的描述。

2.1.1 Arrival processes

一个到达过程指的是若干增长的随机变量的序列,,其中意味着是一个正值的随机变量,换言之,一个随机变量。 随机变量称为到达次数,表示某些随机重复的事件的到达次数。注意到这个过程从事件0开始并且多个事件发生不能同时发生(此种批量事件发生的现象可以以给每个事件发生关联到一个随机变量的方式来解决)。我们有时会允许事件同时发生或者事件在0时刻发生,这需要把它们当做是零概率事件,但是这可以被忽略。为了用随机变量的序列来完全描述到达过程,我们需要对于所有的定义子序列的联合分布。
  尽管我们倾向于把这些过程当成是到达过程,它们也可以很好的描述从系统离开的过程,或者任何其他的事件的序列。尽管把离开或者到达当做事件,在模拟领域这是很常见的,但我们在这里将避免讨论这种麻烦。第个到达次数是个随机变量,并且举例来讲,就是一个事件。把第n个到达本身当做一个事件,这样会让人产生困惑。
此处输入图片的描述
  如同图2.1展示的,任意的到达过程同样能用两个不同的随机过程表示。第一个是到达时间的序列,。这里的是随机变量,以到达次数的方式定义:并且对于。类似的,每个到达次数定义:

因此对于的联合分布原则上足够定义到达过程。又因为在我们感兴趣的大多数情况下,到达时间间隔是独立同分布的,定义而不是的联合分布是一种更加常见的做法。
  第二种定义方式是计数过程,其中对于每个,随机变量是直到并不超过的到达数的总和。
  在图2.1中展示的计数过程的随机变量的不可数无限集合,其中对于计数随机变量表示在时间段内的到达总数,即:区间内的到达数。约定俗成,圆括号表示开区间而中括号表示闭区间。随机变量定义为以概率1是0,这意味着我们只考虑到达发生在正值时间的情况。
  对于所有的到达过程,计数过程有如下特性:对于所有(即对于是一非负随机变量)。
  对于任意给定的整数和时间,第个到达时间,,以及计数随机变量,有这样的关系:


为了阐述这一点,我们注意到表示第个到达发生在时间,这表示,并且因此。类似的,对于意味着,也有。尽管这个等式从图2.1看来是很明显的,但是有时候也是比较难以明白。从(2.2)我们容易得到:

举个例子,事件意味着第一次到达发生在时刻之后,并且(即)。这种关系将会到达时间和计数随机变量之间反复使用。原则上,(2.2)或者(2.3)可以用来以计数变量的累积分布函数的方式来定义到达时间的联合累积分布函数(CDF),反之亦然,故两者方法都可以用来定义一个到达过程。
  总结来说,一个到达过程能以三种方式定义:到达时间、到达时间间隔,或者计数随机变量。原则上,定义了其一其他的也就被定义了。

2.2 Definition and properties of a Possion process

对于到达过程来说,最简洁优雅,却也是最为重要的概念前提是:到达间距时间是独立同分布的,而这种到达过程称为更新过程,率属于第五章节。
  泊松过程是最普遍也是被最广泛使用的更新过程。泊松过程定义为满足指数分布的到达时间间隔。我们马上将要看到为什么这种指数分布的到达时间间隔能够简化这些过程,并且让我们能以不同的简洁的方式来研究这些过程。我们以更新过程和泊松过程的定义来开始。
定义 2.21 更新过程是一种到达过程,它的到达时间间隔序列是一序列的正值独立同分布随机变量构成。
定义 2.22 泊松过程是一种更新过程,在此过程中,到达时间间隔拥有指数形式的联合累积分布函数;即:对于某实数,在的情况下每个拥有概率密度函数

参数称作到达率。我们之后将会看到,对于任意的时间间隔就是这个间隔预期发生的到达数,这就是到达率的由来。

2.2.1 Memoryless property

让泊松分布在再生分布中如此特别的是它的指数分布的无记忆特性。

定义 2.2.3(无记忆随机变量) 如果一个正值随机变量拥有如下特性,我们就称它拥有无记忆特性:


注意到(2.4)是一种关于的累积分布函数的陈述。这暗示着,等式中事件与事件或者并没有什么特别的关联之处。
  对于一个到达率的指数的随机变量,对于。这对于所有的满足(2.4)式,于是是无记忆的。相反,只有当一个随机变量是指数的时候,其才是无记忆的。为看到这一点,令然后观察到:对于是非增的,也是如此。并且,(2.4)说明对于所有的。这两个等式意味着对于一定是线性的,因此对于一定是指数关系的。
  因为一个无记忆随机变量一定是指数形式的,那么一定存在某些,对于所有的。这意味着我们可以改写(2.4)式为:

如果解释为直到到达为止的等待时间,那么(2.5)表示:在到达在时间时刻还没有发生的前提下,剩下的等待时间(在(2.5)式左边的定义)的分布和原来的时间(在(2.5)式右边定义)的分布是一样的,即,剩下的等待时间对于之前的等待是“没有记忆的”。


例 2.2.4 假设是等待巴士到来时间,从0时刻开始,并且假设是无记忆的。在我们从时间0时刻等待到时间t时刻后,从时间t开始剩余的时间的分布和我们已经等待的时间t的分布是一样的。这意味着此时刻t正在等待的乘客,并没有比其在0时刻时候有任何的优势。另一方面,如果我们知道巴士是每隔16分钟来一趟的话,已经等待了15分钟的乘客可以确定还需要等待1分钟。这时候,规律的到来的巴士不能称之为无记忆的。相反,如果巴士经常发生故障,那么已经等待了15分钟的前提可能指示我们需要等待更长的时间,这种情况也不能被称之为无记忆的。我们将在第5章节学习更新过程的时候研究这种无记忆的情况。


尽管无记忆分布必须是指数形式的,这可以看成是,如果无记忆的定义是限制在整数时间范围内的话,那么几何分布成为无记忆的,并且,它可以看成是在那之前这是唯一的无记忆的整数时间分布。因此,伯努利过程(到达时间间隔是几何分布)就像是离散时间版本的泊松过程(到达时间间隔是指数形式)。
  我们现在利用指数随机变量的无记忆特性来发现在任意给定时间后第一个到达的分布。我们将不仅发现这个这个分布,并且显示在时间t之后的第一个到达是独立于t时间内的所有的到达。为更加精确,我们将证明下面的定理。
定理 2.25 对于一个到达率为的泊松过程,对于任意给定的时间,从t到t之后第一个到达之间的时间间隔是一个正值的随机变量,对于其 CDF是。这个随机变量和和时间t之前的到达时刻都是独立的,其与随机变量的集合也是独立的。

在这个定理之中的基本概念是,取决于t时刻之前的最后一次到达时刻,其只是在下次到达之前的剩余时间。因为,从时刻开始的到达时间间隔是指数形式的并且是无记忆的,和小于等于t的是互相独立的,并且和所有之前的到达是独立的。接下来的证明能详细说明这个细节。
此处输入图片的描述
证明是t与t时刻后第一个到达之间的间距。我们首先以为条件(图2.2),我们可以得到并且,然后,


在(2.6)中,我们使用了,这一点从图(2.1)中是显而易见的(从(2.3)也是如此)。在(2.7)中,我们使用了(2.5)中的无记忆条件并且是指数形式的。
  接下来我们从对于任意的和对于任意的的前提开始推导。这里的条件和没有本质的区别,只不过添加了一些细节(见图2.3)。
  由条件,t之后的第一次到达就是之后的第一次到达,即等价于


此处输入图片的描述
(2.9)式的由来是,给定条件下,我们可以得到(见图2.3)。(2.10)式,因为是相互独立的。(2.11)式由于在(2.5)式中的无记忆条件,并且是指数形式的。
  在(2.8)式中,我们不仅以而是为条件,同样的语句也是适用的。又因为对于以全部的在区间内的为条件是等价的,我们有:

接下来考虑从给定时间t开始的到达时间间隔序列。这个序列的第一个元素是随机变量()从t开始到t之后第一次到达。对于定义为从t时刻后的第次到达与第次到达之间的间距。因此,给定,可得对于。并且,以是独立同分布的指数随机变量。而又因为,这一点与是独立的,于是推出是无条件的独立同分布,并且独立于。而独立于

定义 2.2.6 对于一个计数过程,如果对于所有的拥有相同的累积分布函数,我们就称此计数过程拥有平稳增量特性。
对于给定的,我们定义为时间间隔内的到达数。我们刚刚证明了,UI与一个泊松过程,随机变量具有相同的分布。因此,时间间隔内的到达数的分布只和间隔长度有关而与开始点无关。

定义 2.2.7 对于一个计数过程,如果对于所有的整数并且对于个时间点,个随机变量在统计特性上是独立的,我们就称此计数过程拥有独立增量特性。

对于泊松过程,定理2.2.5说明,对于任何,从之后的第一个到达的时间间距是独立的,这对于所有的成立。定义,这意味着都是独立的。分别改写
,我们可以发现是独立的。因为这一点对于所有的都成立,泊松过程拥有独立增量特性。总结来说,我们已经证明了下面的定理。

定理 2.2.8 泊松过程同时拥有平稳增量特性和独立增量特性。

注意到如果限于整数时间的情况下,伯努利过程也拥有平稳增量特性和独立增量特性。

2.2.2 Probability density of and joint density of ,...,

让我们回顾一下 (2.1)式,对于一个泊松过程,是n个独立同分布随机变量的和,其中每一个随机变量的概率密度函数是。同样回顾一下,两个随机变量的和的概率密度可以用两者的卷积和来表示,因此可以从和本身的卷积和得到,并且可以从的卷积和得到,同理可以得到之后的各项。这个结果,对于,称为伽玛密度,


通过引进的联合密度,我们可以从一个略微不同的角度来更好地理解之上的这个概率密度。对于的联合概率密度是

此式中,有,因为我们之前已经了解到以为条件的的概率密度只是表示为的指数的到达时间间距概率密度。因此,


这个式子说明了除约束条件,联合概率密度并不包括。因此,对于任意的固定的,联合概率密度和因此产生的在给定的情况下的 的条件概率密度在上是统一的。在卷积等式中 上的积分接着与 间隔大小 倍乘,产生边缘概率密度函数,对于与(2.13)一致。
  接下来的定理显示,对于一个数目为n的独立同分布的随机变量的和,这样的神奇的现象仍然存在。

定理 2.2.9是独立同分布的随机变量,对于是其概率密度。对于,又令。那么,对于所有的有,


证明 在(2.14)式中,把替换成,我们可以看见定理对于成立。而这一点是接下来的归纳性的证明的基础。假设(2.15)对于所给的成立。那么,

这里我们在所给的上使用(2.15)式。现在有。因为对于是独立的,

把上式带入到(2.16)产生(2.15)式。
对于这里的解释和对的解释是一样的。在给定的约束下,这个联合概率密度并不包括除 以外的任何到达时间,并且因此这个联合概率密度, 对于一个固定的,满足这个约束的到达时间的所有的可能值是固定的。同样,对于,以及其他的各项,我们得到伽马公式(2.13)。伽马密度等于(2.15)中的联合概率密度乘以满足条件的值,这将会在之后讨论。

2.2.3 the probability mass function(PMF)for

泊松计数过程 ,对于每个 ,由一个非负整数随机变量 构成。在这一节,我们将展示这个随机变量的概率质量函数,也就是著名的泊松概率质量函数,就和接下来的定理展示的一样。对于这个定理,我们给出两个证明,对于每个证明我们提供对于其自身的理解,并且展示其与 的密切联系。

定理 2.2.10 对于一个抵达率为 的泊松过程,并且对于任意的,即在 ]内的到达数,是由泊松概率质量函数定义的,

证明1 对于给定的,对于某些极小的,这个证明基于两种计算的方式。第一种方式是基于已知的的概率密度,并且给定

其中项用于描述一个的函数,此函数在 时,是 的无穷小。更加精确的来讲,一个函数 可以写成 的形式,如果有关系式存在。因此 只是内拥有连续概率密度这一事实的推论。

  第二种计算的方式是,首先,我们观察到在 内多于一个到达发生的概率为。忽略这个概率,如果我们确定 ]内有个到达发生而在内有1个到达发生,则产生了 。由于独立增量特性,这是个概率为的事件。因此,


除以,并使用极限,我们得到

在(2.13)中使用的概率密度,我们得到(2.17).

证明 2 这里的过程主要是使用基本关系式 定义这些事件的概率,

for all and

因为,在指定所有的 的情况下,上式左边的和,对于所有的,等同于定义 。因此这个定理用在所有的 上是等效的。

如果我们在(2.18)的两边对 取导数,我们发现除左边第一项以外每一项都消除了,式子变为


因此在(2.18)的两边对取导数等同于对于对其他项取导数。 的两边在 时也是相等的,于是(2.18) 在任意情况都是满足的,于是完成证明。

2.2.4 alternative definitions of Possion process

泊松过程的第二个定义 泊松过程 是满足(2.17)式的计数过程(即拥有泊松概率质量函数),并且具有独立增量特性和平稳增量特性。

我们已经见到,定义2中的特性在定义1的开始时是满足的(使用独立同分布的指数到达时间间距),于是定义1隐含着定义2.练习2.4展示了独立同分布的指数到达时间间距是定义2所隐含的,于是这两个定义是等效的。

此处输入图片的描述

一个在每一个拥有泊松概率质量函数的计数过程并不需要是泊松过程,意识到这一点可能对于我们来说是比较惊奇的,而在其中独立增量特性和平稳增量特性是必须的。看到这一点的一种方式是对于所有的在计数过程中的的泊松概率质量函数 与每一个已到达的时间点的伽马密度是等同的。对于规定其概率密度为伽马密度,就是规定了边界的密度,但是并不需要规定这些随机变量的联合概率密度。图2.4以联合概率密度的形式规定了这一点,

for

上式在别处都为0。上图展示了如何再不改变边缘概率密度的情况下改变联合概率密度。
  这和在离散的计数过程中 的伯努利过程具有相似的作用,对于时间的到达数,其中,其中的每一个整数,对每个随机变量来说,它都是一个伯努利随机变量,但是这个过程却不是伯努利过程。
  泊松过程的下一个定义是基于其增量特性。我们考虑在很小的时间间距内的到达数。因为的分布是一样的,我们可以从(2.17)得到

泊松过程的定义3 泊松计数过程是满足(2.19)式,并且具有独立增量特性和平稳增量特性的计数过程。

我们已经知道定义1暗含了定义3。从另一个方面来说明这些变量的本质是,对于任意的到达时间间距是在一个极小宽度 的区间内一个到达的概率,在式(2.19)中是。把它转换为不同的等式(见练习2.7),我们得到我们需要的指数形式的到达时间间距。由于定义3是基于在任意的拆散的时间间距内的独立到达的理念,它具有一种直观上的诉求。它具有的缺点是必须做大量的工作,以确保这些条件相互一致的,而最简单的方法可能是是先从定义1开始并派生出这些属性。展示出这里有一个独特的过程满足定义3的条件更是难上加难,但在这一点上这样做没有必要,因为我们需要的是利用这些属性。第2.2.5节将说明如何更好地使用这个定义(或更准确地说,如何使用(2.19))。
此处输入图片的描述

  在定义3中,除了独立增量特性和平稳增量特性的保证,(2.19)式起的作用主要是防止大量的到达。举个例子来说,考虑一个其到达总是成对出现的计数过程,而每对到达之间的艰巨是独立同分布并且是关于的指数分布(见图2.5)。对于这个过程,并且,因此违反了(2.19)式。这个过程虽具有独立增量特性和平稳增量特性,但是这个过程把一对到达当做一个单独的时间,它是泊松过程。

2.2.5 The Possion process as a limit of shrinking Bernoulli process

直观上来讲,从伯努利过程开始来理解定义3是比较不抽象的一种方法,因为伯努利过程在离散时间下具有定义3的特性。然后,我们将对这些过程的序列做适当的限制,并且发现,这种伯努利过程序列在某种程度上收敛成泊松过程。
  让我们回顾一下在独立同分布序列中的伯努利过程,是二元随机变量,其 and 。我们可以把当做在{\it arrival}时刻的到达,并把当做在此时刻没有到达但是我们同样也可以"收缩"时间尺度,于是对于某些整数是表示在时间处有到达或者没有到达。我们考虑一序列的下标为的这样缩小了的伯努利序列, 并且为了固定到达率,对于第j个过程,我们令。因此对于j中的单位增量,上面的伯努利过程把每个刻度变为两个刻度,其中每个刻度的概率变为原来的一半。期望的每单位时间的到达数是,符合我们要近似的泊松过程。
  如果对于一个泊松过程,我们关注与定义3相关的第j个过程,我们可以看到对于这些大小为规律的间隔增量,在一个增量内到达的概率为,没有到达的概率为,因此(2.19)式是满足的,并且实际上项是0。对于任意大小的增量,无关的增量是本质上是独立的到达。增量并不是固定的是因为,举例来说,一个大小为的增量包含着一个大小为几倍或其他倍于的时间,这取决于它的位置。然而,对于任意一个大小为的固定的增量,的倍数(即,可能的到达点的数目)要么是 或者是. 因此,在极限, 增量既是平稳的又是独立的。

  对于每一个,第j个伯努利过程拥有一个相关的伯努利计数过程。它是直到时间为止到达的数目,并且它是一个拥有多项式形式的概率质量函数。即,当时,。我们现在展示当增加时,这个概率质量函数逼近泊松概率质量函数。

定理 2.2.11 (泊松定理) 考虑到达概率为,时间单位为的收缩的伯努利过程的序列。那么对于任何的固定的时间和固定的到达数,当j递增时,其计数概率质量函数逼近泊松概率质量函数(相同的),即,


证明 我们首先改写多项式概率质量函数,对于个变量其

我们在(2.21)式中并且在(2.22)式中扩展了联合项。在(2.23)式,我们发现对于
因为多项式概率质量函数(像上面进行了尺变)对于每个拥有泊松概率质量函数的极限,对于每个的累积分布函数也收敛至泊松累积分布函数。另一方面,对于每个,伯努利过程的计数随机变量收敛至泊松过程的的分布。
  这并不是说伯努利计数过程在任意的场景下都收敛至泊松计数过程,因为联合分布还是待确定的。接下来的推论讨论了这一点。

推论 2.2.12 对于任意的有限的整数,令称为任意的时间时刻的集合。那么,当的累积分布函数逼近N(t_{1}),N(t_{2}), \ldots N(t_{k})$的累积分布函数。

证明 对于每个伯努利过程,我们可以改写联合概率质量函数

这里我们对于伯努利过程我们使用了独立增量特性。对于泊松过程,类似的我们有

把(2.24)式的极限为,我们从定理2.2.11发现,(2.24)式的每一项在(2.25)式都有相关的对应。对于随机变量,这需要定理2.2.11中的详细的一般化来应对这样的任意的开始时间。

我们从这里归纳到,在推论的场景下,伯努利过程序列收敛到泊松过程。回顾1.7.5章节,我们发现有很多种方式可以让一序列随机变量收敛。我们也可以想象到,一序列的随机过程收敛的方法更多,而推论只保证了其中的一种。注意到,尽管这表示只有对于每个收敛到的条件是很不有力的前提条件,因为这表示过程的时序没有提供任何的信息。另一方面,我们甚至不知道在无限的数目的时间上怎么定义一个联合分布而不管去怎么应对有限的特征。考虑任意的时间集合形成一个良好的根基。
  泊松过程和伯努利过程都是很容易分析的,因为收缩的伯努利过程收敛至泊松过程是常用的最简单的方式来确保两者的特性。另一方面,这个收敛对于直觉上理解两个过程是强力的帮助。另外,伯努利过程和泊松过程的关系对于采用新角度去看待问题是很有用的,但却不是最好的分析这两个问题的方法。

2.3 Combiimg and splitting Possion process

假设 是连个独立的泊松过程,它们分别计数到达率为 的过程。对于,我们想要观察它们的和过程。另一方面,是包含在过程1和过程2中的所有的到达的过程。我们将要展示,是一个到达率为 的泊松过程。我们将用三种方式证明,第一种使用泊松过程的定义3(因为那是对于这个问题是最自然的方法),然后使用定义2再是定义1。我们之后将得到一些总结,关于哪个方法中的路径是有用的。因为是独立的,并且都具有平稳增量和独立增量特性,这是从定义也具有平稳增量和独立增量特性总结而来。对于独立过程使用(2.19)中的近似,我们得到



其中已经被丢弃。同样的,近似的被代替并且近似于,其误差都是。因此我们得到是泊松过程。
  在第二种方法中,我们已经有了前提。因为对于任意的给定的是两个独立的泊松随机变量的和,其均值为。如果读者对于两个独立的的泊松随机变量的和还是一个泊松随机变量这一结论不明确的话,这一结论可以由两个概率质量函数的离散卷积得出(见练习1.22)。其实我们可以发现,我们已经暗示过这个结论。这就是,如果我们把一个间距拆成两个子间距推出,那么(泊松过程)的到达就是中到达数(独立的泊松过程)的和。最后,因为对于每个都是泊松过程,又因为独立增量特性和平稳增量特性是满足的, 是一个泊松过程。
  在第三个证明方法中, ,对于和过程来说是第一个间距,它是的最小值,表示第一个过程的第一个到达时间间距,表示第二个过程的第一个到达时间间距。因此,当且仅当都超过时,有,于是

使用无记忆特性,每个后面的到达时间间距都可以用同样的方式分析。
  第一种方法对于这个问题是最直观的证明方法,但是它需要保持对于差距项的大小的关注。第二方法是最简单的解析(在承认独立的泊松随机变量的和也是泊松过程随机变量之后),并且无需近似。第三种方法回顾起来是非常简单,但不是很自然。如果我们把许多独立的泊松过程加起来,很明显,通过一次加入一个的方式,和过程都是泊松过程。更有趣的是,把许多独立计数进程(不一定是泊松过程)相加,如果相比和过程,单独的过程的概率很小,那么总和过程往往趋于约为泊松过程。若要获取有关为什么可以预料一些粗俗的直觉,请注意
对于每个过程到达时间间隔(假定没有同时到达)将趋向于总和过程的到达时间间隔的均值。因此,差不多时间点的到达很可能来自不同的过程。在一个间距内的到达数很大程度相关于组合过程的到达时间间距的均值,但是与独立的到达时间间距的相关程度较小,到达数将为不同过程的到达数的和,其中的每一个都是大概率为0,小概率为1,于是它们的和将近似为泊松过程。

2.3.1 subdividing a Possion process

接下来我们讨论如何将一个到达率为 的泊松过程 为两个过程。假设在中的每个到达以概率 发送到第一个过程并以概率 发送到第二个过程(见图2.6)。每个到达的开启是独立于其他的到达并且,独立于到达时刻。把此过程看成是两个独立的过程的组合也许是有助于理解的。第一个过程是到达率为 的泊松过程第二个过程是伯努利过程,并且 。第n个泊松过程的到达以概率 标记为第一种类型的到达,即标记为。以概率标记为类型2,即,标记为
此处输入图片的描述

  我们将要展示上面的结果是两个过程都是泊松过程,其中,并且,两个过程是独立的。注意到,以原来的过程为条件,两个新的过程不是互相独立的;实际上,其中一个完全决定了另一个。于是,这种独立性看起来有点令人吃惊。
  首先我们考虑一个很小的增量]。原过程在这个增量内有一个到达的概率是 (忽略 项), 并且因此过程1有一个到达的概率是,并且过程2有一个到达的概率是。因为原过程的独立增量特性,和两个过程之间的到达的区分是独立的,新的过程都具有独立增量特性,并且从上面得到它们都具有平稳增量特性。注意到,现在我们不能确认这两个过程是独立的,因为这个模型比较简单。我们需要证明对于过程1和过程2的到达数在时间]\delta^{2}(t,\ t+\delta内到达新过程的概率为0。如果在时间内两个过程都有一个到达是不可能的,那么这两个过程是独立的是不可能的。而两个过程同时有一个到达是可能的,但是这却是项顺序下的。因此,如果我们不关注项,我们就无法证明这两个过程是独立的。
  为了证明过程1和过程2是独立的,我们首先计算对于任意的时间t,的联合累积分布函数。对于原过程,以给定的到达数 为条件,我们有

.

等式(2.26)只是一个二项式分布,因此,对于原过程,给定到达的情况下,每个到达以概率属于过程1。因为事件是上述条件事件的子集,于是,


与(2.26)式组合,得到,


再排列各项,得到,

这表示是独立的。为了证明两个过程是独立的,我们必须证明对于任意的和任意的时间集合,集合和集合 是相互独立的。这等同于证明集合和集合 (其中 等于) 是独立的。上面的推理证明了对于 i\neq j{N(t);t>0}$的独立增量特性推出。

2.3.2 Examples using independent Poission process

我们已经观察到,如果泊松过程的到达被分割为两个新的到达过程,并且原过程的到达独立地以固定概率进入 第一个新的过程,那么每一个新的过程都是泊松过程并且独立于彼此。这最有用的推论是,任意的两个独立的泊松过程可以看成以这种方式从一个原过程产生出来。因此,如果一个过程的到达率是另一个的到达率是,它们可以看成是由一个到达率为的过程产生出来。对于组合过程,每个到达以概率进入过程1,以概率进入过程2。


例 2.3.1 上面的的观点对于找到概率是非常有用的,比如,是第一个过程的第k个到达的时间点 ,而过程2的第j个到达的时间点。这个问题可以用组合过程的方式转述成:对于组合过程的 前 个到达,有个或者更多的到达进入过程1 的概率是多少?(注意到如果或者更多的 进入过程1,那么最多有进入过程2,于是第k个到达进入过程1发生在第j个进入过程2之前;类似,如果对于前个到达,少于 个到达进入过程1,于是第j个进入过程2发生在第k个到达进入过程之前。因为前个到达的每一个都是以同样的概率 独立的转换至两个过程,答案是,


例 2.3.2 ( 排队) 排队理论使用一种标准的被分隔的符号的标记“/”来描述通常类型的排队系统。第一个符号描述了队列中的到达过程。代表了无记忆特性并且表示一个泊松到达过程; 表示决定性并且代表到达时间间距是固定的并且不是随机的; 表示通常的到达间距分布。我们假设到达时间间距是独立同分布的(这样使到达过程成为更新过程)但是许多作者使用GI来明确的指定独立同分布的到达间距。第二个符号表示服务过程。使用同样的字母,代表指数分布的服务次数。第三个符号代表服务员的数目。假设,当我们使用这种标记时,服务次数是独立同分布的,且独立于到达时间点并且独立于使用的服务器。
  考虑一个序列,即泊松到达系统(到达率)的排队系统,并且,一个服务员以服务时间分布是来服务顾客。服务时间是互相独立并且独立于到达间距。在任何一个服务员正在服务的时刻,一个顾客以到达率为的泊松过程(过程2)离开这个系统。我们可以看到,在某个时间,如果有个或者更多的顾客在等待,(2.29)式给出了第k个子序列在第j个离开之前到达的概率。


例 2.3.3 (几何分布的许多指数分布的随机变量的和) 考虑在繁忙时间在街上等待出租车。我们将把出租车从我们面前经过的过程建模为到达率为的泊松过程。我们假设,每个出租车的空载与否是独立的(即是否会停下载我们),其概率是。空出租车符合到达率为而我们的等待时间参数为的指数分布。来关注微小的区别,我们被第一辆出租车停下来载客的概率是,第二辆的概率是,第m量的概率是。另一方面来讲,装载我们的出租车的数目(到达的数目)是一个几何分布的随机变量,叫做,而我们的等待时间就是前 个到达间距时间的和,即

  类似于在出租车例子中展示的那样,用指数分布的几何的和来建模等待时间是常见的。一个我们将要第7章分析的重要的例子是,在稳固时间内,对于分布是 的服务时间(即,在初始的空队列的作用消失之后)。我们之后将要展示,在一个到达之后的进入系统的顾客数是如下概率质量函数的几何分布

那么,新的到达花在系统的时间是个服务时间的和,其中每一个的参数的指数分布。这些服务时间互相独立并且对于也独立。因此新的到达的系统时间(在队列和在服务中的时间)是参数的指数分布。

2.4 Non-homogeneous Possion process

泊松过程以常数到达率定义。通常来说,考虑一个过程,其到达率随时间变化, 这是更加通用的。一个非齐次泊松过程就是一个拥有独立增量特性的到达过程,其到达率定义为随时间变化,并且对于所有的,满足:

其中。非齐次泊松过程没有平稳增量特性。
  一个常见的在最优化通讯中的应用是,非齐次泊松过程常用于建模最优调制器的光子流;调制是通过变换实现的。我们将在下一个例子中见到另一个简短的例子。有时候我们之前讲的泊松过程称作齐次泊松过程。
  我们可以再次使用“放缩伯努利过程”来近似非齐次泊松过程。为表明如何这样做,假设非零有界,我们分割时间轴为长度为与成反作用关系的的增量,因此保持在一个增量中到达的概率为某个固定的值 。因此,在一个增量内暂时的忽略 的变动。
此处输入图片的描述


定义为如下,可以更精确的定义这个分割

就像图2.7展示的一样,第i个增量在结束,其有
  类似之前的,令为一序列的独立同分布的随机变量,其有。在 中的每个,考虑计数过程,表示在间隔 ]内的到达数,其中 satisfies 。因此,。如果递减,每个增量都被划分为一对增量。于是,和(2.23)式中一样:

类似的,对于任意的间距,令,并且对于某些 ,令,我们得到


当极限,上面的计数过程 逼近非齐次泊松过程,我们有如下的定理。

定理 2.4.1 对于一个右连续的到达率为有界非零的的非齐次泊松过程,的分布,在时间内的到达满足

因此,我们可以把非齐次泊松过程当做是一个在非线性时间尺度上的(齐次)泊松过程。即是,令 成为到达率为1的(齐次)泊松过程。对于每个,非齐次泊松过程定义为


例 2.4.2 ( 序列) 使用在例2.3.2中的排队标记,队列表示一个泊松到达的序列,一个通用的服务的分布,和无限数目的服务员。因为队列的服务员数量无限,到达的顾客不需要等待。每个到达马上开始被某个服务员服务,第个顾客的服务时间在给定累积分布函数情况下,是与独立同分布的;服务时间是从服务开始到服务结束的时间,并且它也是和到达时间独立的。我们将找出在给定的时间时,在服务中的顾客的数量的联合累积分布函数。
  令为泊松计数过程,其顾客到达率为 。考虑在某个固定的时刻,这些还在服务中的顾客的到达时间。在某个任意的小间距 内,到达的概率是 并且两个或更多的到达的概率是被忽略的()。在]内顾客到达,并在时间还在被服务的概率是。考虑一个计数过程,,其是在之间并且在任然在被服务的到达数。这个计数过程拥有独立增量特性。为了证明这一点,注意到所有在的到达拥有独立增量特性;并且 拥有独立的服务时间,因此它们不管是不是在时间内都是独立的。这引出,是一个非齐次泊松过程,在时间其到达率为。在时间期望的还在被服务的到达数是


在时间时的在服务的到达数的概率质量函数是

注意到当,在(2.36)式中的积分逼近服务时间分布的均值(即,服务时间的完全累积分布函数的积分)。这意味着,在稳定状态下, 在时刻的服务数量只取决于服务时间分布 的均值。这个例子可以用于模拟在给定时刻的通话数目。这需要新的通话的到达被建模为泊松过程,并且等待时间为一个独立于其他等待时间和通话到达时间的随机变量。最后,在图2.8展示的那样,我们可以把 当成是到达过程的切分。使用2.3节中相同的论证,在时间已完成服务的顾客数独立于还在服务的顾客数。


此处输入图片的描述

2.5 Conditional arrival densities and order statistics

涉及到泊松过程的不同系列的问题都可以转变为下面的问题来应对,在时间内的给定 个到达数,转变为事件即。因为泊松过程的增量视角是在每个时间轴的增量内的独立并且平稳的到达,我们可以猜测在给定条件下,这些到达将呈现某种程度上的联合分布。更加精确的来说,下面的定理显示在给定条件下,的联合分布, 在区域内是统一的。

定理 2.5.1在给定条件下的联合概率密度。此密度在区域 内是固定的并且


我们给与两个证明,每一个都涉及一些有用的技巧。

证明1 回顾一下,在(2.15)给出的,无条件下前 个到达的联合概率密度。我们首先贝叶斯公式计算在条件下的的联合概率密度


注意到当且仅当时有 。因此,如果那么是1在其他情况下是。我们只关注 并且 的情形,

这是一个重要的表达式,但是相比我们更加关注。因此,我们将(2.39)式的左边变换成:

为前提,是时间 之后初次到达的时间点,由于无记忆特性,其条件独立于 在规定条件下。因此,对于,第一项是。代入(2.39)式,产生(2.38)式。
证明 2 这个证明源自 (2.38)式,关注在非常小的增量大小(见图 2.9)内的到达。对于一个给定的和给定的时间个到达数 我们计算在每个间距内只有一个到达,并且在内没有其它的到达的概率。令为这个事件,


上面的所有间距的长度的和是,同样 for each , so

事件可以表示为这样的一个事件,首先,,其次,对于,在个到达发生。因此我们计算

这可以被简化成(2.38)式。
此处输入图片的描述

到达间距的联合概率密度,,在给定条件下, 可以直接由定理2.5.1得到, 在时,通过线性变换 。概率密度没有改变,但是约束区域转变为 其中 对于 (见图 2.10):

比较在 条件下,的联合分布与在个独立同分布的随机变量,这对于我们的分析是有用的。对于任意的的点,联合概率密度是

for

空间上都是统一的,其中它们都是非零,但是当,如同图2.11展示的,后者的体积是前者体积的倍。为了更加完整的说明这一点,我们可以定义一个随机变量的集合 , ,其中不是类似泊松过程中的到达时间点的方式,而是当成独立同分布的统一的随机变量 , 的次序统计函数,即,

; etc.

此处输入图片的描述

个正方形被划分为个区域, 有 。从整数 1到 的每个排列,都有一个额外的区域。为了对称,每一个这样的区域都有同样的大小,第个正方形的大小

  所有的这些个区域映射到给定值的同样的区域。因此这些次序统计拥有相同的概率密度函数,类似于条件下的到达时间点。对于次序统计我们目前所知道的(或者能发现的),对于给定条件下的泊松到达过程,反之亦然。
  接下来,我们需要找到在条件下的单独的的边缘累积分布函数。从开始,并且把它看作是独立同分布的随机变量的最小值,我们发现,对于所有的,当且仅当时有。因此,


对于,概率密度表面上看起来比联合累积分布函数要简单一些。为找到,观察在]内的个统一分布的随机变量。其中的一个处于间距内的概率是。在剩下的 之外,
处于间距 内的概率,是由成功几率为的二项式分布给出。因此,我们想要的概率密度是

通过整合(2.41)式中的互补联合累积分布函数,我们很容易可以找到在条件下,我们对于所期望的值,


我们将稍晚一会儿返回来发现对于情况下的。首先,我们观察到达间距的边缘分布,回顾(2.40)我们得到

这个联合概率密度对于这个约束区域内的所有的点都是相同的,并且这个约束并不区分于 , 。因此, , 必须都具有相同的边缘分布,更通用的来讲,的所有子集的边缘分布只能由自己的大小来决定。我们已经发现了 的分布,它是与一样的,并且因此


从这里,对于 ,我们能立即发现,

我们可以继续推导所有的在这个点的类别的联合分布,但是有一种额外的到达的种类在这里必须讨论。定义 为在之前的最后的时间点到自身的间距。改写(2.44)式,

上面的约束对于 , 实对称的,并且在约束区域内, , (条件为) 的联合概率密度是统一的。注意到,并不存在在条件下的 , 的联合概率密度,因为 对于 , 是一个决定了的函数。然而,在 , 上的概率密度可以由在任意其他的 , 之外的随机变量通过单位行列式的线性变换来代替。因此,的每一个拥有相同的边缘分布。这一点可以让我们对于我们的工作做一个部分的检查,因为间距] 被分割为 个大小为 ,并且每一个的均值为

我们同样可以发现,对于任意的 , 的子集的联合累积分布函数,取决于子集的大小而不取决于子集中任意的随机变量。

  一个重要的结论是,我们可以从前向或者后向的角度来关注一个泊松过程在时间内的到达,而它们“看起来是一样的”。向后看的话,到达间距是 , 。这些间距是独立同分布的,并且来决定。我们这里将不会用到这个特性,但是我们在其他种类的过程中探索这种时间可逆特性。对于泊松过程,这种可逆性可以直接从平稳增量特性和独立增量特性得到。而怎样把这个特性用等式表示出来是不太明确的,但是这一点在这里不是那么重要了。

2.6 Summary

我们以三种相等的泊松过程的定义方式开始了这一章--第一种是指数分布的再生间距的更新过程,第二种是平稳独立的计数过程,其在每个间距内的到达数是泊松分布的,第三种则是本质上是缩放的伯努利过程。我们可以见到每种定义都对这个过程的一些内在特性做出了描述。我们强调了指数分布的无记忆特性的重要性,它既是一个解决问题的有用工具,又是为何泊松过程如此有力的潜在原因。

  我们接下来展示独立泊松过程的和仍然是泊松过程。我们也展示了如果泊松过程中的到达是独立的以固定的概率被分配到不同的位置,然后在这些位置上的到达产生不同的泊松过程。这种把独立的泊松过程看成是单独的一个过程或者是一个组合过程的切分的能力,是对于找到对于许多问题的解决方法的强有力的技巧。

  记下来我们展示了,一个非齐次泊松过程能够看成是在一个尺变的时间尺度上的(齐次) 泊松过程。这让我们能够直接在非齐次泊松过程上运用所有的泊松过程的特性。从这里产生的最简单却最有用的结果是(2.35),显示在任意间距内的到达数拥有泊松概率质量函数。这个结果用来展示在一个序列中,在给定的任意的时刻在被服务的顾客数量拥有泊松概率质量函数,当极限取时,此函数均值逼近与乘以期望的服务时间。

  最后我们关注在以在时间内有个到达为条件的到达时刻的分布。我们发现这些到达时刻与在 个统一的独立同分布的随机变量拥有相同的分布。通过在统一变量和泊松到达过程中使用对称性和前向后向特性,我们发现到达时间间距次数的分布、到达时刻的分布和不同种类情况下的分布。

添加新批注
在作者公开此批注前,只有你和作者可见。
回复批注