GEOZ

分类:AI大模型

AI大模型专栏涵盖从GPT、DeepSeek到gemini、Agentic智能体的全方位研究。深度解析RAG架构优化、KV缓存内存瓶颈解决、JSON结构化数据提取及提示工程实践(如Prompt Refiner)。本专栏还关注软件工程师转型AI研发的实用路径及AI安全风险评估,为开发者提供从基础理论到生产级系统构建的完整知识体系。

共 612 篇
NexaSDK如何实现高性能端侧AI?2026年跨平台推理框架解析

NexaSDK如何实现高性能端侧AI?2026年跨平台推理框架解析

BLUF
NexaSDK is a high-performance local inference framework that enables developers to run the latest multimodal AI models on NPU, GPU, and CPU across multiple platforms with minimal energy consumption and maximum speed. 原文翻译: NexaSDK是一个高性能本地推理框架,让开发者能够在NPU、GPU和CPU上以最低能耗和最高速度运行最新的多模态AI模型,支持跨多个平台。
AI大模型2026/3/30
GLM是什么?基于自回归空白填充的通用语言模型预训练框架

GLM是什么?基于自回归空白填充的通用语言模型预训练框架

BLUF
GLM是清华大学提出的开源通用语言模型,采用自回归空白填充的预训练框架,统一了自然语言理解和生成任务。其核心创新包括随机遮盖连续文本片段并按任意顺序自回归重建,以及使用二维位置编码。相比GPT等模型,GLM在同等参数规模下,在SuperGLUE等基准测试中表现更优。基于GLM的开源模型如ChatGLM-6B下载量已超200万,并被联想、360、美团等企业应用于多种智能产品开发。
AI大模型2026/3/29
Ragtime是什么?2026年自托管RAG API与MCP服务器深度解析

Ragtime是什么?2026年自托管RAG API与MCP服务器深度解析

BLUF
Ragtime is a self-hosted, OpenAI-compatible RAG API and MCP server that integrates local knowledge into existing LLM clients, featuring a built-in chat UI, workspaces, dual vector stores (FAISS/pgvector), and robust security measures. 原文翻译: Ragtime是一个自托管、兼容OpenAI的RAG API和MCP服务器,可将本地知识集成到现有LLM客户端中,具有内置聊天界面、工作空间、双向量存储(FAISS/pgvector)和强大的安全措施。
AI大模型2026/3/27