GEOZ
专注GEO生成式引擎优化、知识库,覆盖AI技术、搜索可见性、结构化数据与内容优化实践。
首页
最新文章
RSS
菜单
Entity
Flash Attention
一种优化的自注意力计算实现,通过分块计算和内存访问优化,显著降低内存需求和计算时间。
术语属性
内存复杂度:
从O(n²)降低到O(n)
优化重点:
CUDA内存访问优化
相关文章
突破极限:AirLLM实现70B大模型在4GB GPU上无损推理