#21 基于参数稀疏化的个性化联邦算法

Open
created 1 year ago by jiaqi · 1 comments
jiaqi commented 1 year ago
##### 算法目标 * 解决联邦学习中客户端计算能力受限,无法独立训练完整模型的问题; * 通过参数稀疏化提高联邦学习通信及计算效率; * 针对每个参与客户端不同的数据分布独立选择个性化参数,实现客户间参数共享和个性化训练结合的个性化联邦训练; * 充分发挥云脑计算资源优势,在Server端维护融合各客户端优势的大规模模型
jiaqi commented 1 year ago
Poster
##### 研究进展 * 基于前期Fed-Dropout算法实验设计改进思路,融合AFD算法及Head Importance评估设计提出新算法; * 研究学习Freeze-Thaw, 个性化联邦等相关算法,改进模型参数稀疏化筛选过程; * 基于BERT模型进行前期调研实验。 ##### 当前问题 * 稀疏化模型参数筛选方法优化; * 稀疏化模型评估效率问题; * Server端维护模型规模及计算效率优化;
Sign in to join this conversation.
No Milestone
No Assignees
1 Participants
Notifications
Due Date

No due date set.

Dependencies

This issue currently doesn't have any dependencies.

Loading…
There is no content yet.