3月11日,德国比勒菲尔德大学王曦璐博士应邀为学院师生作题为“联邦多任务贝叶斯优化”的线上学术报告,报告由学院副院长李飞主持,讲座吸引了学院广大教师和研究生的积极参与。
报告中,王曦璐深入介绍了多个相关的本地黑箱任务与不同客户端在有关联情景下的联邦贝叶斯优化,通过在本地设备上训练模型,再将模型的更新聚合到中央服务器,从而达到保护用户数据的隐私与安全来实现大模型学习。他指出在采用联邦贝叶斯优化时的高斯过程超参数可以控制模型的预测,通过分享每个客户端高斯过程的超参数来实现知识迁移并防范用户数据的泄露。在使用联邦贝叶斯优化进行模型融合过程中,针对数据的相似性可能会导致用户数据泄露的问题,他提出了通过计算模型与模型之间的相似性,并根据相似性排序,让每个客户端选择规定数量的最相似模型进行模型融合来防止数据泄露。他还介绍了一个崭新的获取函数去实现使用个性化客户端模型与建立全局模型的目标,并指出在联邦贝叶斯优化的研究中,如何私密分享本地数据以共同构建高斯过程将是一个值得深入探索的研究方向。
通过这次精彩的学术交流,进一步丰富了我院师生特别是研究生的学术视野,增强了国内外之间的学术交流与互动。为了提升研究生培养质量,学院将继续秉承开放、包容互鉴和相互学习的学术探索精神,不断拓展跨学科合作,为推动学院学术研究和人才培养贡献力量。
(撰稿人:刘宇豪、李清莲;审核:程木田)