跳到主要内容
Sandbox Physics
神经元的统计物理

L3 · 第 6 章

分支过程怎样产生神经雪崩,部分记录又看到什么

前几章只看一块膜。现在把许多神经元连起来:一个峰电位让几个邻居在下一步放电,这些邻居再点燃下一批。这种级联在记录里表现为一阵阵的活动,称为神经雪崩。本章先用分支过程算出级联有多大,再看电极阵列只记录到其中一部分时,记录里的统计量怎样偏离网络本身。

一个峰电位能点燃几个

Lab 里的网络是 40 乘 25 的一片单元,共 1000 个。每个单元连向 5 格之内随机挑选的 10 个邻居。某一步有一个单元放电,它的每个邻居在下一步各以 σ/10\sigma/10 的概率放电;刚放过电的单元下一步不能再放。于是一个峰电位直接点燃的后代数服从二项分布 Bin(10,σ/10)\mathrm{Bin}(10,\sigma/10),平均为 σ\sigma,这个数叫分支比。

如果每一代都独立地这样繁殖,第 kk 代的平均大小是 σk\sigma^k,整个级联的平均大小是几何级数之和。σ<1\sigma<1 时级联总会熄灭,σ>1\sigma>1 时有一定概率永远长下去,σ=1\sigma=1 正好在两者之间,这就是临界点。

在没有外部输入的安静网络里踢动一个单元,重复 20000 次来检验这个推理。σ=0.5\sigma=0.5 时第一代平均 0.4986±0.00490.4986\pm0.0049,只放一个峰电位的比例 0.6006,精确值 0.9510=0.59870.95^{10}=0.5987;级联平均大小 1.989±0.0141.989\pm0.014,理论值 2。σ=0.8\sigma=0.8 时第二代平均 0.630±0.0070.630\pm0.007,低于独立繁殖给出的 0.64;平均大小 4.83±0.064.83\pm0.06,低于 5。

差别来自网络本身:两个峰电位同时打中同一个邻居,只能让它放一次电;刚放过电的单元也不能接着放。第一代的后代都来自同一个单元的 10 个不同邻居,不会撞车,所以和二项分布完全一致;越往后,撞车越多,后代就比独立繁殖少。

⟨Ak⟩=σk,⟨s⟩=∑k≥0σk=11−σ(σ<1)\langle A_k\rangle=\sigma^{k},\qquad \langle s\rangle=\sum_{k\ge0}\sigma^{k}=\frac{1}{1-\sigma}\quad(\sigma<1)
第 kk 代的平均峰电位数和整个级联的平均大小 ⟨s⟩\langle s\rangle,级联从一个峰电位开始,各代独立繁殖。

来源:S. Zapperi · J. Wilting and V. Priesemann

临界点上,大小分布按负二分之三次方下降

Zapperi、Lauritsen 和 Stanley 研究了最简单的情形:每个活跃位点以概率 pp 产生两个新的活跃位点,否则停下。分支比是 2p2p,临界点在 p=1/2p=1/2。这时级联大小只能是奇数,精确分布由 Catalan 数给出:P(1)=0.5P(1)=0.5,P(3)=0.125P(3)=0.125,P(5)=0.0625P(5)=0.0625,P(7)=0.0390625P(7)=0.0390625。

大尺寸时,他们的式 (8) 把它近似成 s−3/2s^{-3/2} 乘一个指数截断。截断尺寸 scs_c 在临界点发散:p=0.45p=0.45 时是 199,p=0.49p=0.49 时是 4999。我们用精确的 Catalan 公式检查这个近似:p=1/2p=1/2、s=2001s=2001 时两者之比 0.99963,s=101s=101 时 0.99265;p=0.45p=0.45、s=401s=401 时 0.99814。

他们还给出级联持续时间的分布按 t−2t^{-2} 下降。指数 3/2 不只属于二分支:我们直接模拟了 20000 棵后代数服从平均为 1 的 Poisson 分布的树,用下一章的最大似然方法拟合,得到 1.4981±0.00451.4981\pm0.0045。

反过来不成立。下一章会看到,没有任何临界级联的系统也能给出很像 3/2 的指数。

P(2k+1)=Ck pk(1−p)k+1,Ck=1k+1(2kk);P(s)≃2(1−p)πp  s−3/2e−s/sc,sc=−2ln⁡[4p(1−p)]P(2k+1)=C_k\,p^{k}(1-p)^{k+1},\quad C_k=\frac{1}{k+1}\binom{2k}{k};\qquad P(s)\simeq\sqrt{\frac{2(1-p)}{\pi p}}\;s^{-3/2}e^{-s/s_c},\quad s_c=-\frac{2}{\ln[4p(1-p)]}
左式:二分支过程级联大小的精确分布。右式:Zapperi 等人的式 (8),在 1≪s1\ll s 时成立,scs_c 是截断尺寸。

来源:S. Zapperi

从峰电位到雪崩:时间箱决定了切法

实验看不到级联的家谱,只看到一串带时间的峰电位。通常的做法是:把所有电极记录到的事件合在一起,按宽度相同的时间箱计数;连续的非空箱组成一场雪崩,两边各有一个空箱。雪崩大小是这些箱里的事件总数,持续时间是箱的个数。

下图的计数序列被切成三场雪崩,大小是 6、1、6,持续时间是 3、1、2。把箱宽加倍,相邻两箱合并,原来被一个空箱隔开的后两场就连成一场。雪崩的大小分布因此既取决于网络,也取决于箱宽。

Lab 默认的电极阵列覆盖 1000 个单元中的 608 个,30 万步里记录到 2979 场雪崩,平均大小 114.5,最大 7461。对 10 个随机种子求平均,箱宽为 1、4、8 步时拟合指数分别是 1.461、1.393、1.387,变化不大。没有耦合、输入速率在几档之间跳变的模仿模型,同样三种箱宽给出 6.16、3.96、1.87。Priesemann 和 Shriki 指出,这种对箱宽的敏感正是区分两者的线索之一。

箱宽 1023100104200616箱宽 224016067
从分箱计数里切出雪崩。柱高是每个箱的事件数,琥珀色括号标出一场雪崩,数字是它的大小。上:十二个宽一步的箱,被空箱隔开的非空箱段给出大小为 6、1、6 的三场雪崩。下:同样的事件放进宽两倍的箱,后两场合成一场大小为 7 的雪崩。计数是虚构的例子,不是记录数据。

来源:V. Priesemann and O. Shriki · S. Zapperi

只记录一部分,分支比看起来变小

最直接的估计是把下一箱的计数对这一箱的计数做回归,斜率就是分支比,称为传统估计。Wilting 和 Priesemann 指出,只记录一部分单元时,每个滞后 kk 的回归斜率 rkr_k 都被乘以同一个因子 bb。一步斜率因此偏小,但斜率随 kk 衰减的速率不变,拟合整条衰减曲线就能找回 mm,这叫多步回归。他们的例子中,m=0.9m=0.9 的过程只记录 10% 时,传统估计只有 0.312。

对每个峰电位独立地以 10% 的概率保留,可以从完整记录的均值、方差和一步协方差精确算出保留后的一步斜率。Lab 网络的一份记录预测 0.601,实测 0.6015±0.01040.6015\pm0.0104;12 份记录的偏差都在 2.4 个标准误以内。

Lab 默认设置下,阵列记录的一步斜率是 0.965,多步回归给出 0.9848±0.00070.9848\pm0.0007;对全部 1000 个单元做多步回归得到 0.9855。名义分支比是 1.05,实际只有 0.985,原因还是撞车和刚放过电的单元不能接着放。在安静网络里踢动一个单元,平均点燃 155 个峰电位,对应 1−1/155=0.99361-1/155=0.9936。

rk=Cov⁡(at+k,at)Var⁡at=b mk,m^C=r1=b m,τ=−Δtln⁡mr_k=\frac{\operatorname{Cov}(a_{t+k},a_t)}{\operatorname{Var}a_t}=b\,m^{k},\qquad \hat m_{\mathrm{C}}=r_1=b\,m,\qquad \tau=-\frac{\Delta t}{\ln m}
ata_t 是第 tt 箱记录到的计数。部分记录让所有 rkr_k 乘以同一个 bb;传统估计只用 r1r_1,多步回归拟合整条曲线。τ\tau 是活动的相关时间。

来源:J. Wilting and V. Priesemann

完整例题:从 20 个电极读出分支比

题目。在 Lab 默认网络的同一份记录里,只用一角 5 乘 4 的 20 个电极。一步、十步、二十步的回归斜率是 r1=0.4908r_1=0.4908,r10=0.2738r_{10}=0.2738,r20=0.2175r_{20}=0.2175。传统估计是多少?用十步和二十步两个斜率估计 mm、bb 和相关时间,并与整个网络的 0.9855 比较。

建模。用 rk=b mkr_k=b\,m^k。两式相除消去 bb:m=(r20/r10)1/10m=(r_{20}/r_{10})^{1/10}。

计算。传统估计就是 r1=0.491r_1=0.491,照字面理解,一次级联平均只有 1/(1−0.491)≈21/(1-0.491)\approx2 个峰电位。两步估计 m=(0.2175/0.2738)1/10=0.9772m=(0.2175/0.2738)^{1/10}=0.9772,b=0.2738/0.977210=0.345b=0.2738/0.9772^{10}=0.345,相关时间 τ=−1/ln⁡0.9772=43\tau=-1/\ln0.9772=43 步。整个网络的 0.9855 对应 68 步。

解释。两步估计把 0.491 拉回到 0.977,大部分偏差来自部分记录,可以被消掉;剩下的差距来自电极的位置。同一份记录里把 20 个电极随机撒在整片网络上,试了 5 种撒法,两步估计在 0.981 到 0.988 之间,多步回归在 0.9845 到 0.9864 之间,与整个网络一致。一个可能的原因是:挤在一角的电极总是一起看到同一场局部级联,级联很快走出这一角,给斜率加上了一段快速的早期衰减,这不是网络本身的分支比。

检验。随机撒开的 20 个电极一步斜率只有 0.30 到 0.34,比挤在一角的 0.491 还小,但它们给出的分支比更准。分支比体现在斜率随滞后衰减的速率上;一步斜率的大小主要反映阵列记录到了网络的多少。

来源:J. Wilting and V. Priesemann

到实验里试一试

临界与亚临界的级联

  1. 先预测:把耦合从 σ=1.05\sigma=1.05 降到 0.8,雪崩大小分布的尾巴和分支比估计会怎样变?
  2. 先看“接近临界点的级联”,读出拟合指数和多步估计;再选“很快熄灭的级联”,比较大小分布图和两个读数。
  3. 解释:分支比降到约 0.77,级联很快熄灭,最大的雪崩只有一百多个事件,幂律拟合被否定;踢动一个单元只得到几个峰电位。

箱宽和电极位置

  1. 先预测:在接近临界的网络里,把分析用的时间箱从 1 步拖到 8 步,拟合指数会变多少?在“漂移输入,没有耦合”里呢?
  2. 依次在两个预设里拖动时间箱,记下指数;再选“少数电极看到的很少”,拖动阵列或它的角,看分支比估计怎样变。
  3. 解释:耦合网络的指数只从约 1.46 变到约 1.39,漂移输入的模仿者变化大得多。电极少而且挤在一起时,多步估计也会偏低,阵列放大后回到 0.985 附近。

练习与解答

  1. σ=0.5\sigma=0.5 时,一个峰电位一个后代都没有的概率是多少?如果把后代数近似成平均 0.5 的 Poisson 分布呢?

    展开解答

    二项分布给出 (1−0.05)10=0.599(1-0.05)^{10}=0.599,Poisson 近似给出 e−0.5=0.607e^{-0.5}=0.607。模拟得到 0.6006,与二项分布一致;只有 10 个邻居时 Poisson 近似略高。

  2. 二分支过程的截断尺寸要超过 Lab 默认记录中最大的雪崩 7461,pp 至少要多接近 1/2?

    展开解答

    由 −2/ln⁡[4p(1−p)]=7461-2/\ln[4p(1-p)]=7461 得 4p(1−p)=e−2/74614p(1-p)=e^{-2/7461},解出 p=0.4918p=0.4918,离 1/2 不到 0.01。在有限的记录里,略低于临界和正好临界很难分开。

  3. 计数序列 0, 2, 3, 1, 0, 0, 1, 0, 4, 2, 0, 0 在箱宽为 1 时切出大小 6、1、6 的三场雪崩。箱宽加倍(每两个相邻箱合并)后,雪崩的大小和持续时间是多少?

    展开解答

    合并后的序列是 2, 4, 0, 1, 6, 0,只剩两场雪崩:大小 6、持续 2 箱,大小 7、持续 2 箱。原来大小为 1 的那场被并进了后面的一场。

  4. 部分记录让所有斜率乘以 b=0.6b=0.6,真实分支比 m=0.985m=0.985。一步斜率和三十步斜率各是多少?

    展开解答

    r1=0.6×0.985=0.591r_1=0.6\times0.985=0.591,r30=0.6×0.98530=0.381r_{30}=0.6\times0.985^{30}=0.381。只看 r1r_1 会把网络误判成明显亚临界。

来源与复算范围

  1. S. Zapperi, K. B. Lauritsen and H. E. Stanley, Self-organized branching processes: mean-field theory for avalanches, arXiv:cond-mat/9509161v1; Physical Review Letters 75, 4071 (1995)

    v1,全文已读。二分支过程,临界概率为二分之一。式 (6a)、(7):雪崩大小的生成函数。式 (8):指数 3/2 的大小分布,截断大小为 −2/ln[4p(1−p)]。式 (11):临界时的分布。持续时间的指数为 2。我们用 Catalan 数复算了小尺寸的精确概率,并检查了渐近式的系数。

  2. J. Wilting and V. Priesemann, Inferring collective dynamical states from widely unobserved systems, arXiv:1608.07035v3; Nature Communications 9, 2325 (2018)

    v3,读了正文第 1 至 3 页,未读补充方法。带外部驱动的分支过程;传统估计量是下一步计数对当前计数的回归斜率;欠采样让每个滞后斜率乘上同一个因子;多步回归估计量在多个滞后上拟合这条指数曲线。文中的例子:m = 0.9 的过程只采 10 % 时,传统估计给出 0.312。

  3. V. Priesemann and O. Shriki, Can a time varying external drive give rise to apparent criticality in neural systems?, PLoS Computational Biology 14, e1006081 (2018)

    读了引言、结果和讨论,未读方法部分。如何从分箱后的事件定义雪崩。恒定速率的 Poisson 过程不会给出幂律;速率在几个值之间切换时,大小分布在有限范围内接近指数约 3/2 的幂律。能区分两者的统计量;以及他们的结论:被动分析排除不了模仿临界活动的外部驱动,需要小而可控的扰动。

反馈这个页面有错误、看不明白,或者缺了什么?告诉我们
反馈类型

提交时会附带本页地址、Lab ID、网站语言和设备类型。请不要填写个人信息。反馈最多保存 12 个月。隐私政策