把 AI 运维塞进真实工作流:多智能体 Kubernetes 故障诊断原型实测
本文介绍了一个自主SRE指挥中心原型,它结合Gemini 4 Argon、Google ADK、Neo4j和MCP,通过多智能体协作实现Kubernetes故障的自动诊断与修复。系统包含8种混沌工程场景,强调人在回路和零信任安全,能将45分钟的故障排查压缩至30秒。

24GB 显存单用户只快 1.2 倍:L4 跑 Gemma 4 的真实并发收益
本文详细测试了在 AWS EC2 G6 实例的 NVIDIA L4 显卡上使用 llama.cpp 部署 Gemma 4 E2B 和 E4B 量化模型的表现,并与本地 8GB RTX 3050 和 4GB GTX 1650 Ti 进行对比。结果显示,单用户场景下 L4 仅比 3050 快 1.2-1.3 倍,但在高并发(64 请求)时可达 1.6 倍;草稿模型(drafter)能显著提升生成速度,且在不同显卡上最佳草稿长度不同。

给 AI 爬虫单独开白名单,近三成网站反而放行了搜索页和账户页
一项针对5,539个robots.txt文件的分析发现,29.8%的文件在为AI爬虫单独设置规则时,意外放行了原本对所有人屏蔽的路径,如搜索、账户和API。同时,仅7.1%的网站采取了“屏蔽训练爬虫、保留答案引擎”的策略。文章解释了robots.txt的匹配规则,并给出了修复建议。

TPU v5e 与 v6e 实测:Gemma 4 推理吞吐量对比与量化收益
本文是“Inference on Google Cloud”演讲的配套文章,详细介绍了如何在Cloud TPU v5e和v6e上通过vLLM部署Gemma 4模型,并对比了不同硬件(包括NVIDIA L4、Blackwell、AMD MI300X和AWS Inferentia)的性能。文章通过实际测试展示了量化(int8)和4位嵌入表对吞吐量的提升,并提供了从环境准备到长上下文处理的完整步骤。

LLM Wiki 实测:把文档编译成知识库,比传统 RAG 强在哪
LLM Wiki 是一个跨平台桌面应用,它利用大语言模型将你的文档自动转化为结构化的维基知识库。与传统的RAG每次查询都重新检索不同,它采用增量构建方式,知识只编译一次并持续维护。该项目基于Karpathy的LLM Wiki模式,并增加了图形界面、知识图谱、多格式文档解析等大量增强功能。

花14美元就能让AI搜索引用你?低门槛发布路径实测
这篇论文研究了AI搜索平台如何选择引用来源,发现引用高度集中在少数平台特定域名上,且许多被引域名允许低门槛发布内容。实验表明,普通发布内容可在7天内被10个平台中的8个引用,甚至一个14美元的GEO购买就能在1小时内让内容进入AI搜索引用。

Frigate 语义搜索实测:中文搜索必须上 V2,但性能只提升 3%
Frigate 的语义搜索功能允许你通过图片或文字描述来查找监控中的目标,比如“红色衣服的人”。它依赖本地运行的 Jina AI CLIP 模型,需要至少 8GB 内存和 AVX2 指令集。本文详细介绍了如何启用、配置模型(V1/V2)、设置触发器以及最佳实践。

小显卡跑 Gemma 4 投机解码:单请求加速 1.72 倍,并发反而变慢
本文提供了一份分步指南,教你如何使用llama.cpp的投机解码功能,在RTX 3050 OEM和GTX 1650 Ti两张小型NVIDIA显卡上部署Gemma 4 E2B和E4B模型及其QAT助手草稿模型。实测显示,单请求下草稿模型能带来1.18倍到1.72倍的加速,且答案质量不变,但在多请求或长对话场景下加速效果会减弱甚至变为负优化。

嵌入模型分不清「我没干」和「我干了」:Llama Village 实测暴露的语义盲区
本文是 Llama Village 系列的第二部分,详细介绍了如何利用本地嵌入模型(EmbeddingGemma)和 llamadart 库,在 AI 对话中判断信息传递。教程涵盖了嵌入生成、余弦相似度比较、关键词匹配以及游戏规则设计,并指出了当前实现中相似度回退可能绕过否定语义的缺陷。

310篇文章
