跳到主要内容
Sandbox Physics
从模拟里学到的后验能不能信

神经网络给出的漂亮后验,怎样证明可以相信

Sandbox Physics ·

要过三道关。先拿几千条答案已知的模拟信号考它,数一数它的 90% 范围有几成罩住了真实的源;再在同一批数据上,和一种慢而精确的算法对答案;最后检查真实数据是不是真的像它学过的那些模拟。前两关都过了的网络,碰上真实数据照样可能出错,第三关就是为这个设的。

只响几毫秒的钟

两个黑洞并合以后,新生的黑洞会像被敲过的钟一样“嗡”一声,再慢慢安静下来。它发出的引力波是一个几毫秒就衰减掉的音。音调高低和衰减快慢,取决于黑洞的质量和自转。从带噪声的探测器记录里量出这两个数,是天文学家真要做的事。

传统做法很慢:计算机试上百万个候选的音,逐个和数据比,留下对得上的。神经网络可以学会跳过这一步。先给它看几百万条模拟记录,每条都是一个已知的音加上随机噪声,它就学会从记录直接给出答案。训练好以后,一条记录只要几秒钟。

网络交回来的是一团云

它交回来的不是一个音调、一个衰减时间,而是一团可能的取值:越可信的地方越密。统计学把这团云叫作后验,意思是看过数据以后,你对源应该有的判断。把云里最密的 90% 圈起来,就是 90% 区域。

这个区域带着一个承诺:拿很多条记录来算,真实的源大约十次里有九次落在圈里。圈画小了,罩住的次数就少;画大了,几乎次次罩住,却说明不了什么。守住这个承诺的后验,叫作校准的后验。

在模拟上检验承诺

网络是从模拟里学的,所以可以再做一批新模拟,直接检验它的承诺:随机挑一个源,造一条带噪声的记录,让网络画出 90% 区域,看真实源在不在里面。重复几千次,数一数就知道。Sean Talts 等人在 2018 年把这套做法整理成标准检验,还给出一种图,能看出后验错在哪里:太窄、太宽,还是整体偏向一边。Talts 等,2018

2021 年,引力波神经网络 DINGO 通过了这项检验。Maximilian Dax 等人用模拟噪声里的 1000 个模拟信号去考它:每个参数落在各级区域里的比例,都贴着承诺的那条线。Dax 等,2021

请慢方法再看一遍

模拟检验算的是很多个源的平均。平均下来对,碰到你关心的那一类源却可能不对。第二道关是逐条比:同一条记录,网络的答案和一种在假定模型下精确的慢算法比。DINGO 对 8 个真实事件给出的结果,和公认的慢方法非常接近,差别只比慢方法自己跑两遍之间的差别略大一点。

两道关都看不见的地方

这两道关有同一个盲区:都默认模拟器描述的就是真实的探测器。真实数据里会有模拟器没写进去的东西。比如仪器突然冒出一小段噪声(叫作毛刺),噪声比预想更大,或者模型漏掉了第二个音。网络从没见过这些,训练里也没有任何东西告诉它该怎么办。

2023 年的后续工作补上了一道检查。拿网络给出的候选答案,按每个候选在假定模型下和数据吻合的程度重新称一称分量。网络学得好,各个候选的分量差不多;网络糊涂了,分量就集中到少数几个候选身上。在一条只含毛刺、没有信号的记录上,真正派上用场的候选只剩大约十万分之一,这条记录就被标了出来。Dax 等,2023

这道检查也有边界:它拿假定的模型检验网络,却不检验模型本身对不对。假如真实信号里藏着一个很弱的第二个音,而模型里没有,那么精确算法和网络用的是同一个错模型,两者答案一致,重新称分量也挑不出毛病,可它们的 90% 区域漏掉真实源,远不止十次里一次。2022 年有人专门拿故意写错的模拟器去考各种神经网络方法,发现这类失配会严重破坏结果,试过的补救办法也没有一种处处管用。Cannon、Ward 与 Schmon,2022

拿到一个快速后验时该问什么

先问:它有没有在答案已知的模拟上考过?考的是不是你关心的那类源、那种噪声水平?再问:在同一批数据上,有没有和精确或慢速的方法比过?最后问:凭什么说真实数据像训练用的模拟?是做了重新称分量的检查,还是检查了减去最佳拟合信号后剩下的部分,或者换了更完整的模型再算一遍?漂亮的后验,要三问都答得上来,才值得相信。

来源

  1. Talts 等,2018
  2. Dax 等,2021
  3. Dax 等,2023
  4. Cannon、Ward 与 Schmon,2022

继续阅读

这一页直接连着哪些内容

当前页面神经网络给出的漂亮后验,怎样证明可以相信

文章

从模拟里学到的后验能不能信 · 阅读路径

从后验到校准,再到模型失配

  1. 当前页面神经网络给出的漂亮后验,怎样证明可以相信
  2. 文章后验分布与 90% 可信区域到底保证什么
  3. 文章用秩统计和覆盖率检查后验是否校准
  4. 文章用重要性权重和残差检验找出错误的模拟器
  5. 文章动手复算振铃后验的校准检验
  6. 文章读懂 DINGO 论文里的 P–P 图、散度和采样效率
这个页面有错误、看不明白,或者缺了什么?告诉我们
反馈类型

提交时会附带本页地址、Lab ID、网站语言和设备类型。请不要填写个人信息。反馈最多保存 12 个月。隐私政策