AISynergy/examples/Fed-MAE/mae

• 基于MAE预训练模型的Fed-Dropout联邦参数优化算法
• • 实验设置
  • 代码运行
  • 实验结果

基于MAE预训练模型的Fed-Dropout联邦参数优化算法

本示例场景为Fed-Dropout算法在MAE预训练模型上的应用实例。Fed-Dropout是一种采用随机Dropout思想的联邦学习参数优化算法，可以有效降低Client端通信及计算量负担，减轻Client端参与联邦学习的压力。

具体算法内容可参考Federated Dropout -- A Simple Approach for Enabling Federated Learning on Resource Constrained Devices

实验设置

数据集：先天性心脏病医学图像，训练图像总量：4946，Client 1：2500，Client 2：2446
基础模型：MAE
Dropout Rate: 20%

代码运行

• server端执行：

python Server.py

• client1执行：

python Client_pretrain_A.py

• client2执行：

python Client_pretrain_B.py

实验结果