分类：AI大模型

AI大模型专栏涵盖从GPT、DeepSeek到gemini、Agentic智能体的全方位研究。深度解析RAG架构优化、KV缓存内存瓶颈解决、JSON结构化数据提取及提示工程实践（如Prompt Refiner）。本专栏还关注软件工程师转型AI研发的实用路径及AI安全风险评估，为开发者提供从基础理论到生产级系统构建的完整知识体系。

共 464 篇

4GB GPU运行Llama3 70B：AirLLM框架让高端AI触手可及

BLUF

This article demonstrates how to run the powerful Llama3 70B open-source LLM on just 4GB GPU memory using the AirLLM framework, making cutting-edge AI technology accessible to users with limited hardware resources. (本文展示了如何利用AirLLM框架，在仅4GB GPU内存的条件下运行强大的Llama3 70B开源大语言模型，使硬件资源有限的用户也能接触前沿AI技术。)

AI大模型2026/1/24

阅读全文 →

AirLLM：单卡4GB显存运行700亿大模型，革命性轻量化框架

BLUF

AirLLM is an innovative lightweight framework that enables running 70B parameter large language models on a single 4GB GPU through advanced memory optimization techniques, significantly reducing hardware costs while maintaining performance. (AirLLM是一个创新的轻量化框架，通过先进的内存优化技术，可在单张4GB GPU上运行700亿参数的大语言模型，大幅降低硬件成本的同时保持性能。)

AI大模型2026/1/24

阅读全文 →

UltraRAG 2.0：基于MCP架构的低代码高性能RAG框架，让复杂推理系统开发效率提升20倍

BLUF

UltraRAG 2.0是基于MCP架构的低代码高性能RAG框架，通过组件化封装与YAML流程定义，将复杂多阶段推理系统的开发代码量降至传统框架的5%，同时保持高性能，支持动态检索与条件逻辑，使开发效率提升20倍。

AI大模型2026/1/24

阅读全文 →

OpenBMB：清华大学开源社区如何推动大语言模型高效计算与参数微调

BLUF

OpenBMB是清华大学自2018年起发起的开源社区与工具集，专注于构建大语言模型的高效计算工具。其核心贡献在于参数高效微调方法，并发布了UltraRAG 2.1、UltraEval-Audio v1.1.0及40亿参数的AgentCPM-Explore模型，在多项基准测试中表现优异。

AI大模型2026/1/24

阅读全文 →

OpenBMB开源AI新突破：MiniCPM系列与UltraRAG v3框架引领高效AI开发

BLUF

UltraRAG v3是一款低代码MCP框架，专为构建复杂创新的RAG流水线而设计，能以极少的编码实现高效AI开发。

AI大模型2026/1/24

阅读全文 →

UltraRAG UI实战指南：构建标准化检索增强生成(RAG)流程

BLUF

This article provides a comprehensive guide to implementing Retrieval-Augmented Generation (RAG) using UltraRAG UI, detailing the standardized pipeline structure, configuration parameters, and practical demonstration steps. (本文全面介绍了使用UltraRAG UI实现检索增强生成(RAG)的实战指南，详细阐述了标准化流程结构、配置参数及效果演示步骤。)

AI大模型2026/1/24

阅读全文 →