2023-09-17懵逼的深度学习#分布式训练框架论文阅读: Horovod: fast and easy distributed deep learning in TensorFlow摘要 最近忙实习去了，断更大半年。整理了一下论文，有十几篇没读，后面有时间慢慢更。 这篇论文主要工作是对 TensorFlow 框架 API 的重写，使用 ring-allreduce 和 broadcast 方法，进行数据并行。
2023-09-17懵逼的深度学习#分布式训练框架论文阅读: PyTorch Distributed: Experiences on Accelerating Data Parallel Training摘要 本文提出的 DistributedDataParallel 在优化器运行之前进行梯度平均，用相同的梯度集更新所有模型副本，这样在数学上和本地训练完全等价，而且可以实现异步，比参数平均更加高效。
2023-02-23数学建模#数据分析2023MCM-ICM美赛C题第二问思路摘要 在睡了十一个小时后，蹦出的思路，目前网上没有看到相同的方法（不知道比赛刚结束就发思路会不会出事），第一题和第三题大家大同小异，就不讲解了。
2023-01-07CUDA 编程#工具CUDA编程性能分析工具 nvprof/ncu --metrics参数含义摘要 在网上没有比较全的中文 ncu --metrics 参数含义，于是自己整理了一下官方和外国友人的笔记。
2022-10-06图像处理#知识点CT-Windowing医学CT图像增强摘要 CT winding 是CT扫描的一项图像处理任务，它有助于突出关键的组织结构，通过修改 HU (Hounsfield Units) 参数，使图像更易于分析。