Aeeeeeep Blog

摘要

本文提出的 DistributedDataParallel 在优化器运行之前进行梯度平均，用相同的梯度集更新所有模型副本，这样在数学上和本地训练完全等价，而且可以实现异步，比参数平均更加高效。

论文阅读: Horovod: fast and easy distributed deep learning in TensorFlow

2023-09-17

懵逼的深度学习

摘要

最近忙实习去了，断更大半年。整理了一下论文，有十几篇没读，后面有时间慢慢更。

这篇论文主要工作是对 TensorFlow 框架 API 的重写，使用 ring-allreduce 和 broadcast 方法，进行数据并行。

2023MCM-ICM美赛C题第二问思路

2023-02-23

数学建模

摘要

在睡了十一个小时后，蹦出的思路，目前网上没有看到相同的方法（不知道比赛刚结束就发思路会不会出事），第一题和第三题大家大同小异，就不讲解了。

HGame_2023_Week3_3ctu4_card_problem

2023-01-31

misc

摘要

干扰特征非常多的二分类问题，解题步骤如下

linux下中文路径命名规范化

2023-01-29

摘要

shell 中无法正常访问带空格或某些字符的目录，写了个脚本规范一下中文路径命名

新年愿望

2023-01-21

生活

写于壬寅年除夕夜

caj文档批量转换为pdf-shell脚本多线程

2023-01-10

摘要

最近看的论文有些多，但知网上的 caj 文档又卡又难做笔记，遂写了一个 caj 文档批量转换为 pdf 的 shell 脚本。

CUDA编程性能分析工具 nvprof/ncu --metrics参数含义

2023-01-07

CUDA 编程

摘要

在网上没有比较全的中文 ncu —metrics 参数含义，于是自己整理了一下官方和外国友人的笔记。

CT-Windowing医学CT图像增强

2022-10-06

图像处理

摘要

CT winding 是CT扫描的一项图像处理任务，它有助于突出关键的组织结构，通过修改 HU (Hounsfield Units) 参数，使图像更易于分析。

GroupFormer简要学习笔记

2022-08-31

懵逼的深度学习

摘要

快速记录下 GroupFormer 网络的核心思想。