方向三、大规模高性能计算
图 方向三研究内容
本方向围绕支撑新型智能算法计算所需的大规模算力需求,开展大规模并行计算、大规模预训练、正向推理和微调优化等方面的研究工作,为新型智能算法的研究提供强有力的基础保障。此外,本方向还通过与宁波市大数据局共同成立宁波市人工智能超算中心浙大宁波理工学院分中心,有效支撑本实验室相关研究工作的顺利开展。
(一)本方向主要研究内容
(1)大规模并行计算
l 研究可扩展高效并行方法,实现计算性能随资源增长而线性或拟线性增长,有效提高计算资源利用率;
l 研究基于预测反馈的计算资源自适应调度管理方法,提高并行计算性能和效率,降低计算资源空耗。
(2)大规模预训练
l 研究新型预训练方法,提升大规模预训练速度,节省计算资源;
l 针对数据集偏差和污染问题,研究动态纠偏方法,降低标签错误率并在线平衡不同标签类别比例。
(3)正向推理
l 研究精度可配近似矩阵计算方法,通过动态调整精度,有效降低计算复杂度和功耗,实现正向推理过程中性能与精度的平衡;
l 研究在线稀疏化方法,在数据流到达时动态的对特征和模型参数进行稀疏化,提升正向推理效率。
(4)微调优化
l 研究智能超参数优化方法,利用算法自动搜索和确定模型微调过程中的最佳超参数组合,有效提升微调性能;
l 研究保持泛化能力的微调策略,降低过拟合风险,提高模型适用性。
(二)本方向负责人简介
陈根浪,方向三负责人、博士、教授、计算机与数据工程学院执行院长、浙江大学硕士生导师。在新冠疫情期间,作为甬行码创始人,在全国率先研发并推出保障健康出行的甬行码,并荣获浙江省抗击新冠肺炎先进个人、宁波市“抗疫”先锋团队称号。 2012年获浙江大学计算机应用专业工学博士;2003年获浙江大学计算机学院硕士;2000年获浙江大学计算机科学与工程学系学士。主持科研项目30多项,研发宁波“天一信用分”项目。发表论文20多篇,其中学科国际顶级刊物和SCI检索10多篇、EI索引10多篇。入选宁波市“四有”好老师,宁波市优秀共产党员、宁波市“抗疫”先锋团队,浙大宁波理工学院先进工作者等荣誉称号。申请专利10多项,其中发明专利2项。