基于高斯过程和卷积神经网络的多阶段半导体过程虚拟计量方法与流程

本发明涉及工业系统中数据挖掘领域，具体涉及一种基于高斯过程和卷积神经网络的多阶段半导体过程概率型虚拟计量方法。

背景技术：

半导体制造涉及许多阶段。例如，在电子芯片的生产中，线锯首先将硅锭切成段，然后进行几个平坦的阶段，包括清洁，抛光和研磨，然后将处理过的晶圆转移到形成最终芯片的前端和后端工艺中。由于半导体制造业的高通量特性以及测量晶圆的高成本，人们无法在每个阶段测量所有生产晶圆的质量变量。由于物理测量的限制，晶圆到晶圆的建模越来越多地被用于预测最终产品的质量，从而可以及时调整工具和设备，以减少工艺偏差。然而，由于所涉及的物理现象的复杂性，根据一些基本的数学模型很难解释这些维度的纳米级偏差。因此，基于数据驱动的虚拟计量技术从半导体器件、电子板和系统中获取具有内在价值信息的万亿字节级制造数据，进而建立模型，在半导体工业中得到了广泛的应用。

过去在半导体制造领域，研究者们对虚拟计量进行了相关的研究，例如局部加权偏最小二乘法，支持向量机，k-nn回归等。然而，对于晶圆制造，通常有几个不同的工艺工具对应不同的生产阶段，从而产生大规模的数据集进行分析。传统的机器学习方法在具有一定数量输入的情况下不易应用，需要进行适当的预处理。过去，将跟踪数据简化为4个汇总统计(包括最小值、最大值、均值和标准偏差)的典型方法在半导体工艺中被广泛应用。但这种方法会造成一定信息的丢失，模型的预测能力可能受到影响。由于原始数据包含了更多的信息，因此，如何处理原始数据，以获得足够的统计信息，并确保不会丢失信息，对于虚拟计量研究尤其重要。

另一方面，过去的方法仅能得到结果的标量预测，这意味着模型不能反映预测值的可信度。而理论上，不确定度越高，此时的预测值就越不可靠。这清楚地表明，需要添加该点附近的数据点，以提高模型的精度。由此，预测值的准确度也应当在虚拟计量研究中被重视。

基于以上背景，找到一种可以通过采集的原始样本数据提取出多阶段的过程特征，同时获得输出的不确定性，以表明预测的可靠性的方法，得到虚拟计量变量分布，对于准确得到所需质量变量值有非常重要的使用价值，也有助于对工业工程整体控制性能进行评估。

技术实现要素：

本发明提供了一种基于高斯过程和卷积神经网络的多阶段半导体过程虚拟计量方法，能够适用于多阶段工业控制回路过程，检测方法普遍适用于高维度过程原始数据，只需获取常规运行数据，无需过程机理知识。

一种基于高斯过程和卷积神经网络的多阶段半导体过程虚拟计量方法，包括以下步骤：

(1)对待检测的控制过程，采集与待检测变量相关的过程变量传感器的输出信号；

(2)对采集的过程变量的信号数据进行预处理，去除异常值；

(3)对预处理后的数据进行重新排列并保留数据的阶段信息；

(4)将每个变量输入卷积滤波器，逐层提取沿一维处理时间方向的变量间相关性中的局部特征，各层特征输出通过激活函数传递；收集特征提取最后一层的所有阶段的所有单个特征输出至高斯过程层最终建立回归模型；

(5)保存当前模型的参数权重，计算最终最大后验值，若不满足停止条件，更新参数权重并重复步骤(4)，直至达到停止条件；

(6)保存各层参数值，对新的预测点进行重新计算并获得几何质量的概率分布。

本发明可以提高虚拟计量的检测准确度和可靠性，且能为新测试点提供数据支持，在提高经济效益方面具有重要的实用价值。

本发明直接同时提取多阶段工业控制回路中高维原始数据特征，然后采用概率模型建模，输出得到分布，保留各层参数，从而预测新的量测点。根据模型输出可信度不断更新模型，进而增强模型预测准确性。

步骤(2)中，所述预处理的具体过称为：检测出过程变量中非数值或者与过程变量分布相差较大的值，采用该变量均值或者零值进行填补。

步骤(3)中，根据不同阶段分离数据，以保留数据的阶段信息；半导体数据在每个阶段都包含按时间序列维度的传感器采集的变量数据，将这些数据安排到每个变量的单个通道中。

步骤(4)的具体过程如下：

(4-1)令s＝1，2，…，s，l＝1，2，…，l为第l层，第s阶段其中第个通道输入(共有s阶段，第s阶段第l层共有个通道输入)，与为第s阶段第l层核与偏置，则第s阶段第l层输出特征图表示为如下卷积过程：

(4-2)利用以下公式按点计算激活函数后特征图输出：

其中，q为上述中每一个元素，f(·)为sigmoid函数，由此将转化为相同大小

(4-3)将经过多层卷积和激活函数操作后所有特征连接起来作为最后一层高斯过程层输入建立联合概率分布，并得到输出分布，模型最大后验表示为：

其中，θ＝(a1,...,ad,v0)为高斯过程层中超参数，对于所有数据d:(x,y)，为模型输入矩阵(n为观测总数量，d为输入每个测量样本对应维度)；y∈r^n×1为对应模型输出向量，并设定y中每一个数值yn独立同分布。

由此建立最终模型损失函数，即上述最大后验的log值：

其中，k^l为输入数据协方差矩阵，由以下协方差公式进行计算：

(4-4)，根据梯度下降法训练更新参数：

其中，α表示固定的学习率并且α＞0，参数梯度和由以下公式得到，

其中是指在卷积中，中与按元素对应相乘的部分

当中的迭代部分表示为：

其中，符号指按元素一对一操作，rot180是matlab中将矩阵旋转180度的函数。

步骤(5)中，所述的停止条件为：最大后验增加量在一定范围内或达到设定最大循环次数。

步骤(6)中，对于新预测点，几何质量的概率分布通过均值和方差体现，均值和方差的具体公式表示为：

为新预测点在第l层高斯过程的输入值，为新预测点特征(第l层高斯过程的输入)自协方差值，k为源数据特征(第l层高斯过程的输入)协方差矩阵；即新预测点与源数据特征(第l层高斯过程的输入)之间的协方差矩阵；均值μ*和方差为新预测点在回归模型中高斯过程层的输出。

与现有技术相比，本发明具有以下有益效果：

1、本发明的方法同时处理多阶段高维输入，该方法能够很好地提取不同变量之间和不同阶段之间的特征，特别是能够很好地表达不同阶段晶片之间的特征。

2、本发明中由于高斯过程的固有特性，可以得到估计观测值的分布。结合生成的特征，输出的不确定性可以用来表示预测的可靠性。

3、本发明中，深层架构产生了高效和低维的特性，可以减少高斯过程中的计算负载。

4、本发明中，参数可以有效地基于最大后验通过梯度的方法自动调整。

5、本发明完全采用数据驱动型的方法，无需过程先验知识，无需预先设计滤波器。

附图说明

图1为本发明一种基于高斯过程和卷积神经网络的多阶段半导体过程虚拟计量方法的流程示意图；

图2为本发明实施例中回归模型的结构示意图；

图3为本发明实施例中过程测试数据真实值与模型输出的示意图。

具体实施方式

下面结合附图和实施例对本发明做进一步详细描述，需要指出的是，以下所述实施例旨在便于对本发明的理解，而对其不起任何限定作用。

下面以国内某工厂的沉积过程结果预估为例，对经由多阶段化工过程的晶圆高度值进行虚拟计量。

在生产过程中，化学气相沉积过程，与半导体工业中经常使用的在表面上涂覆固体薄膜涂层工艺相似。此过程是复杂的，因为它涉及许多化学反应，多反应器系统中的反应器是独立控制的，以便在各种条件下使膜沉积在工艺室中。化学气相沉积设备配备了相当数量的传感器。通过虚拟计量开发，晶圆的质量将从历史工艺和生产设备数据中预测，而无需昂贵的质量测量。

如图1所示，一种基于高斯过程和卷积神经网络的多阶段半导体过程虚拟计量方法，包括以下步骤：

步骤1，对待检测控制过程，采集与待检测变量相关的过程变量传感器输出信号。

步骤2，进行一定的数据预处理去除异常值。

检测出输入变量中非数值或者与输入变量分布相差较大的值，采用均值或者零值进行填补。

步骤3，重新排列数据并保留数据的阶段信息。

根据不同阶段分离数据，以保留数据的阶段信息，半导体数据在每个阶段都包含按时间序列维度的传感器变量数据，这些数据被安排到每个变量的单个通道中。

如图2所示，在每一个阶段(s)，每一片产出的晶元拆为个变量，也称为个通道，此时每个通道含有ts个由时间序列点组成的输入

步骤4，所有数据进行特征提取并建立回归模型。

每个通道输入卷积滤波器，逐层提取沿一维处理时间方向的变量间相关性中的局部特征，各层特征输出通过激活函数传递；收集特征提取最后一层的所有阶段的所有单个特征输出至高斯过程层最终建立回归关系并获得几何质量的概率分布。

整个模型特征提取并建模步骤如下：

(4-1)令s＝1,2,…,s,为第l层，第s阶段其中一个通道输入，与为第l层核与偏置，则第l层输出特征图可以表示为如下卷积过程：

(4-2)利用以下公式按点计算激活函数后特征图输出：

其中，q为上述中每一个元素，由此将转化为相同大小

(4-3)，将经过多层卷积和激活函数操作后所有特征连接起来作为最后一层高斯过程层输入建立联合概率分布，并得到输出分布，模型最大后验表示为：

其中，θ＝(a1,...,ad,v0)为高斯过程层中超参数(协方差矩阵中参数)，d:(x,y)，为模型输入。

由此建立最终模型损失函数：

其中，k^l为输入数据协方差矩阵，由以下协方差公式进行计算：

(4-4)，根据梯度下降法训练更新参数：

其中，参数梯度可以由以下公式得到，

当中的迭代部分可以表示为：

特征提取是依据现有技术“lecuny,bottoul,bengioy,&haffnerp.gradient-basedlearningappliedtodocumentrecognition.proceedingsoftheieee1998；86:2278-2324.”中所提出的卷积神经网络扩展得到的。

高斯回归模型是依据现有技术“rasmussence.gaussianprocessesinmachinelearning.advancedlecturesonmachinelearning.springer；2004.p.63-71.”实施的。

步骤5，保存当前权重，计算最终最大后验值，若不满足停止条件，权重更新并重复步骤4，直至达到停止条件；

停止条件指最大后验增加量在一定范围内或达到设定最大循环次数。

步骤6，保存各层参数值，对新的预测点进行重新计算。根据联合概率分布可得到预测值相应均值与方法表示为：

其中，均值μ*和方差为新预测点在回归模型中高斯过程层的输出。

本实施例中，结果如图3所示，所提出的方法表现很好，提取出高维数据中特征，预测值与实际数据匹配，并能表示出结果的不确定度。

利用本发明方法，在进行多阶段原始数据虚拟计量的基础上，还能够计算预测结果的不确定度，为模型进一步提升提供数值基础。

以上所述的实施例对本发明的技术方案和有益效果进行了详细说明，应理解的是以上所述仅为本发明的具体实施例，并不用于限制本发明，凡在本发明的原则范围内所做的任何修改、补充和等同替换，均应包含在本发明的保护范围之内。