2024-02-06CUDA 编程#CUDACUDA编程: CUDA流,并发与上下文摘要 深入介绍流的使用,包括流的并发,多线程调度流,并发限制,创建流间依赖关系,重叠主机与设备的执行等,同时,结合实例讲解了 CUDA 上下文以及 MPS 的概念,简单介绍了 CUDA Driver API 对 Context 的管理。
2024-01-30CUDA 编程#CUDACUDA编程: CUDA流,事件与同步摘要 详细讲解 CUDA 流,事件的概念以及声明,以此为基础,深入了解 CUDA 流操作之间的依赖关系,流的同步与异步,以及如何优化事件的创建与管理等等。
2023-12-26CUDA 编程#CUDACUDA编程: PyCUDA编程简介摘要 PyCUDA GPU 编程。主要内容是掌握几种PyCUDA 的基本内核函数,在 Python 中生成和调用并行化的 CUDA C 内核函数,以及了解 PyCUDA 的并行前缀算法。
2023-12-19CUDA 编程#CUDACUDA编程: CUDA C编程简介摘要 讲解 CUDA C 编程中的简单的内存管理,线程操作,如何编写核函数,使用 Thrust 库,并行计算,性能分析工具。
2023-12-12CUDA 编程#CUDACUDA编程: GPU编程概述和CUDA环境搭建摘要 模型变得越来越深,参数愈加庞大,虽然准确率不断增长,由于硬件受限,对实际场景部署的要求也越来越高,CUDA 编程成为了一门必备的武林绝学。
2023-01-07CUDA 编程#工具CUDA编程性能分析工具 nvprof/ncu --metrics参数含义摘要 在网上没有比较全的中文 ncu --metrics 参数含义,于是自己整理了一下官方和外国友人的笔记。