🐟
  文章分类
人工智能 6 51单片机 9 高性能计算 5 C语言 8 C# 2
【实践】FlashAttention学习过程 【实践】FlashAttention学习过程
FlashAttentionv1实操过程，已验证！
2025-04-29 高性能计算
LLM CUDA
【理论】FlashAttention学习过程 【理论】FlashAttention学习过程
更少的内存！更快的速度！这就是FA！
2025-03-26 高性能计算
LLM
Multi-head Latent Attention模型理解 Multi-head Latent Attention模型理解
作为FlashMLA的核心之一，MLA设计了在保持性能的同时着重减少KV Cache的attention机制，十分值得细究！
2025-03-19 高性能计算
DeepSeek GPU
LLM2框架搭建过程 LLM2框架搭建过程
参照"不归牛顿管的熊猫"的课程视频搭建的LLM2框架，目前还在对算子进行调试优化阶段
2024-10-08 高性能计算
LLM CUDA
CUDA编程：基础与实践学习笔记 CUDA编程：基础与实践学习笔记
樊哲勇老师的CUDA编程教程包括CUDA编程的语法知识、优化策略及程序开发实践，对新手很友好！
2024-08-02 高性能计算
CUDA GPU