DSFedMed论文精读:双尺度联邦医学图像分割中大模型与轻量化模型的无数据互蒸馏机制
本文针对多中心医学分割中基础大模型联邦部署面临的计算、通信和推理高成本问题,提出双尺度联邦框架 DSFedMed。该框架通过服务器端基础模型与客户端轻量模型协作,并利用 ControlNet 生成的合成 image-mask 数据与可学习性引导样本选择,实现了不依赖真实共享医学图像的双向知识蒸馏。
技术实践、学习笔记与论文精读。
本文针对多中心医学分割中基础大模型联邦部署面临的计算、通信和推理高成本问题,提出双尺度联邦框架 DSFedMed。该框架通过服务器端基础模型与客户端轻量模型协作,并利用 ControlNet 生成的合成 image-mask 数据与可学习性引导样本选择,实现了不依赖真实共享医学图像的双向知识蒸馏。
这是一篇关于在算力与内存受限的医疗边缘节点中,如何通过非对称架构和特征重编程技术,高效引入基础大模型知识的论文。
这是一篇被 ICCV 2025 接收的论文,核心解决了将 LoRA 简单缝合进联邦学习时产生的“服务端聚合偏差”和“客户端初始化滞后”两大暗坑,在不增加通信成本的前提下实现了性能飞跃。
这是一篇研究医学场景下的隐私保护联邦 LoRA 微调的论文。
这是一份基于李沐讲解《Attention Is All You Need》整理的Transformer模型深度解析个人笔记。笔记结构进行了逻辑梳理,重点突出了模型架构、核心组件原理及李沐的深度见解,便于日后复习查阅。
本文包含WSL2、Ubuntu、Docker Desktop的安装步骤,以及安装过程中真实遇到的报错与解决方案。新手只需一步一步跟着做即可。
这是一篇关于计算机网络的笔记,记录了我在学习计算机网络过程中的一些知识和经验。
这是一篇深度学习的个人笔记。基于b站李沐[动手学深度学习系列](https://www.bilibili.com/video/BV1CV411Y7i4?vd_source=fe146844c3a7d03bc7a83fe89415755d)
这是一篇用于记录Gin框架的个人笔记。
这是一篇用于记录Go语言基础语法的个人笔记。