可信联邦学习与联邦大语言模型初探

时间:2023-09-21         阅读:

光华讲坛——社会名流与企业家论坛第6580期

主题:可信联邦学习与联邦大语言模型初探

主讲人:哈尔滨工业大学(深圳)徐增林教授

主持人:计算机与人工智能学院 刘贵松院长

时间:9月23日 15:00-17:00

地点:柳林校区经世楼D203(新财经综合实验室)

主办单位:计算机与人工智能学院 科研处

主讲人简介:

哈尔滨工业大学(深圳)教授、博士生导师。曾入选国家、四川省、深圳市高层次人才计划,现任国际神经网络学会副理事长。2009年毕业于香港中文大学计算机科学与工程专业并获博士学位,先后在密西根州立大学、德国马普计算机研究所/萨尔大学、普渡大学、电子科技大学等从事研究工作。主要研究兴趣为机器学习及应用,近年来主要关注联邦学习的优化、泛化与大模型方面,发表论文180多篇,获2016年APNNS青年学者奖。多次担任人工智能领域的主要国际会议如AAAI/IJCAI/ACL/EMNLP等会议的领域主席和高级程序委员会成员。担任Neural Networks 等期刊编委。

主讲内容:

随着人工智能技术特别是大语言模型的快速发展,可信联邦学习成为了各种实际应用场景中备受关注的话题。本报告摘要围绕可信联邦学习展开,介绍了其在商业应用和前沿技术领域的重要性。本报告然后介绍联邦学习和可信人工智能的基本概念,随后介绍可信赖联邦学习系统的主要方面。然后介绍我们提出在联邦学习开源软件FedLab,并介绍目前在安全性、稳健性和隐私性方面的研究进展,包括编码联邦聚合方案、联邦异构优化、联邦参数高效调优等技术。最后结合法律人工智能场景,介绍联邦大语言模型的关键技术和未来展望。