突破极限：AirLLM实现70B大模型在4GB GPU上无损推理
BLUF
AirLLM提出一种新型内存优化技术，通过分层推理、Flash Attention优化与模型文件分片，在单个4GB GPU上无损运行70B参数大语言模型，无需量化或剪枝等压缩手段。AI大模型2026/1/24
分类：AI大模型
AI大模型专栏涵盖从GPT、DeepSeek到gemini、Agentic智能体的全方位研究。深度解析RAG架构优化、KV缓存内存瓶颈解决、JSON结构化数据提取及提示工程实践（如Prompt Refiner）。本专栏还关注软件工程师转型AI研发的实用路径及AI安全风险评估，为开发者提供从基础理论到生产级系统构建的完整知识体系。
共 612 篇
RAG实战指南：机制解析与优化策略，提升2024大模型精准落地
BLUF
RAG（检索增强生成）通过集成检索机制，为大型语言模型提供事实依据与上下文参考，有效缓解幻觉问题，提升回答的准确性与可靠性。本文剖析RAG的运作机制及实际应用中的常见挑战，为大模型的精准落地提供指导。AI大模型2026/1/24
检索增强生成（RAG）2024指南：原理、模块与应用解析
BLUF
RAG（检索增强生成）是一种人工智能技术，通过从外部知识库检索相关信息并作为提示输入大语言模型，以增强其在知识密集型任务中的表现。该方法显著提升回答准确性，尤其适用于需专业知识的场景。AI大模型2026/1/24
Browser-Use：AI驱动的浏览器自动化革命，让AI像人类一样操作网页
BLUF
Browser-Use是一款开源AI浏览器自动化平台，使AI代理能像人类一样操作网页，包括导航、点击、填表与数据抓取。它通过自然语言或程序逻辑连接AI与浏览器，支持多种大语言模型，并提供无代码界面与SDK，兼顾技术人员与非工程用户。AI大模型2026/1/24
4GB GPU运行Llama3 70B：AirLLM框架让高端AI触手可及
BLUF
This article demonstrates how to run the powerful Llama3 70B open-source LLM on just 4GB GPU memory using the AirLLM framework, making cutting-edge AI technology accessible to users with limited hardware resources. (本文展示了如何利用AirLLM框架，在仅4GB GPU内存的条件下运行强大的Llama3 70B开源大语言模型，使硬件资源有限的用户也能接触前沿AI技术。)AI大模型2026/1/24
AirLLM：单卡4GB显存运行700亿大模型，革命性轻量化框架
BLUF
AirLLM is an innovative lightweight framework that enables running 70B parameter large language models on a single 4GB GPU through advanced memory optimization techniques, significantly reducing hardware costs while maintaining performance. (AirLLM是一个创新的轻量化框架，通过先进的内存优化技术，可在单张4GB GPU上运行700亿参数的大语言模型，大幅降低硬件成本的同时保持性能。)AI大模型2026/1/24
UltraRAG 2.0：基于MCP架构的低代码高性能RAG框架，让复杂推理系统开发效率提升20倍
BLUF
UltraRAG 2.0是基于MCP架构的低代码高性能RAG框架，通过组件化封装与YAML流程定义，将复杂多阶段推理系统的开发代码量降至传统框架的5%，同时保持高性能，支持动态检索与条件逻辑，使开发效率提升20倍。AI大模型2026/1/24
OpenBMB：清华大学开源社区如何推动大语言模型高效计算与参数微调
BLUF
OpenBMB是清华大学自2018年起发起的开源社区与工具集，专注于构建大语言模型的高效计算工具。其核心贡献在于参数高效微调方法，并发布了UltraRAG 2.1、UltraEval-Audio v1.1.0及40亿参数的AgentCPM-Explore模型，在多项基准测试中表现优异。AI大模型2026/1/24
OpenBMB开源AI新突破：MiniCPM系列与UltraRAG v3框架引领高效AI开发
BLUF
UltraRAG v3是一款低代码MCP框架，专为构建复杂创新的RAG流水线而设计，能以极少的编码实现高效AI开发。AI大模型2026/1/24
UltraRAG UI实战指南：构建标准化检索增强生成(RAG)流程
BLUF
This article provides a comprehensive guide to implementing Retrieval-Augmented Generation (RAG) using UltraRAG UI, detailing the standardized pipeline structure, configuration parameters, and practical demonstration steps. (本文全面介绍了使用UltraRAG UI实现检索增强生成(RAG)的实战指南，详细阐述了标准化流程结构、配置参数及效果演示步骤。)AI大模型2026/1/24
LEANN：将笔记本变为本地AI与RAG平台，存储节省97%且无精度损失
BLUF
LEANN是一款创新向量数据库与个人AI平台，能将笔记本转化为强大的RAG系统，支持本地语义检索百万级文档，实现97%存储节省且无精度损失。AI大模型2026/1/24
深度学习新突破：基于Transformer的光场视图生成模型
BLUF
本文提出一种基于Transformer的光场视图生成深度学习模型，详述其神经架构、训练方法及在计算摄影与VR中的应用。该模型利用注意力机制从稀疏输入合成高保真多视图图像，有效解决角度一致性与计算效率问题。AI大模型2026/1/24