光华讲坛——社会名流与企业家论坛第7011期

主题：Robustly enhancing density estimation through model averaging with density power divergence通过基于密度幂散度的模型平均稳健增强密度估计

主讲人：首都师范大学数学科学学院 邹国华教授

主持人：统计与数据科学学院 林华珍教授

时间：10月23日16:00-17:00

地点：柳林校区弘远楼408会议室

主办单位：统计与数据科学学院 科研处

主讲人简介：

邹国华，首都师范大学特聘教授。博士毕业于中国科学院系统科学研究所，国家级人才计划入选者、中国科学院“百人计划”入选者，先后获中国科学院和北京市优秀研究生指导教师称号。

主要从事统计学的理论研究及其在经济金融、生物医学中的应用研究工作，在统计模型选择与平均、抽样调查的设计与分析、决策函数的优良性、疾病与基因的关联分析等方面的研究中取得了一系列重要成果，得到了国内外同行的好评与肯定，并被广泛引用。共出版教材2本，发表学术论文140余篇；主持和参加国家科学基金项目以及全国性的实际课题30余项，提出的预测方法被实际部门所采用。

内容提要：

Effective density estimation plays a pivotal role in both statistics and machine learning by providing a foundational framework for understanding and modeling the underlying distribution of data. Over the past decades, how to estimate the density of the data has received considerable attention. However, the traditional parametric density estimation methods are usually built on maximum likelihood, which is highly sensitive to outliers. To address this issue, we develop a robust cross-validation (CV) density averaging method based on the density power divergence, which allows balancing the robustness and efficiency in estimation by a tuning parameter. To alleviate the computational burden, we derive an approximation to the CV criterion using influence function and Taylor expansion techniques. The proposed robust density model averaging estimator is demonstrated to be asymptotically optimal in terms of minimizing the out-of-sample estimation error. Furthermore, we establish that the resultant weight estimator converges to the theoretically optimal weight vector. Additionally, in the case where the candidate model set includes the true density function, we demonstrate that the proposed density model averaging estimator is consistent with the true density function. The influence function of our density model averaging estimator is also derived. We evaluate the proposed technique on both simulated datasets and a real world rainfall dataset from Sutton Bonington, England. The results show that our method outperforms some commonly used estimation techniques in the presence of outliers.

有效的密度估计在统计学与机器学习中都具有关键作用，因为它为理解并刻画数据的潜在分布提供了基础性框架。过去几十年来，如何估计数据密度受到了广泛关注。然而，传统参数密度估计方法通常建立在极大似然基础上，因而对异常值高度敏感。为解决这一问题，研究团队发展了一种基于密度幂散度的稳健交叉验证密度平均方法；该方法可通过一个调节参数在估计的稳健性与效率之间取得平衡。为降低计算负担，研究团队利用影响函数与泰勒展开技术，对交叉验证准则推导出一种近似。所提出的稳健密度模型平均估计量被证明在最小化样本外估计误差意义下具有渐近最优性。进一步地，研究团队证明了所得权重估计量会收敛到理论最优权重向量。此外，当候选模型集合包含真实密度函数时，研究团队证明了所提出的密度模型平均估计量与真实密度函数相合。研究团队还推导了该密度模型平均估计量的影响函数。主讲人及所在团队在模拟数据集以及来自英格兰 Sutton Bonington 的真实降雨数据集上评估了所提方法。结果表明，在存在异常值的情形下，该方法优于若干常用估计技术。