如何用本地硬件72小时生成1065条高质量LLM微调指令数据集？（附多智能体方案）

背景与动机

我需要高质量的指令数据集来微调本地大语言模型（LLM），但商业选项的价格令人望而却步（一个质量尚可的数据集需要500至2000美元）。

于是我问自己：如果我能在睡觉时构建一个系统来自主生成这些数据集，会怎样？

结果：72小时内生成了1065个专业的指令/响应对，100%本地运行，零API成本。以下是具体的实现方法。

---

现有数据集的问题

当你想要为特定任务微调本地LLM时，通常面临三种选择：

1. 使用通用数据集 → 与你的领域不匹配 (Use generic datasets → Don't match your domain)
2. 手动创建 → 耗时费力，速度慢，无法规模化 (Manual creation → Exhausting, slow, doesn't scale)
3. 购买商业数据集 → 昂贵（500-2000美元），定制化有限 (Buy commercial datasets → Expensive ($500-2,000), limited customization)

我需要包含以下特征的代码指令对：

• Python/AI/ML/DevOps/数据库主题 (Python/AI/ML/DevOps/Database topics)
• 包含思维链推理（不仅仅是答案） (Chain-of-Thought reasoning (not just answers))
• 具有现实世界的复杂性（非模板化响应） (Real-world complexity (no template responses))
• 能够持续生成（如果可能，24/7不间断） (Continuous generation (24/7 if possible))

现有的选项都无法同时满足这四点要求。

---

解决方案：多智能体自主系统

我构建了一个受学术研究工作流启发的三智能体系统：

┌──────────────────┐
│   策展智能体     │ ← 从知识库中选择主题
│   (Qwen 7B)      │
└────────┬─────────┘
         │
         ▼
┌──────────────────┐
│   生产智能体     │ ← 生成指令 + 响应 + 思维链
│   (Qwen 7B)      │
└────────┬─────────┘
         │
         ▼
┌──────────────────┐
│   评审智能体     │ ← 验证逻辑，检查幻觉
│   (DeepSeek 1.5B)│
└────────┬─────────┘
         │
         ▼
    [接受/拒绝]

智能体角色

策展智能体：

• 读取包含潜在主题的ChromaDB向量存储库 (Reads ChromaDB vector store of potential topics)
• 基于多样性和优先级选择下一个主题 (Selects next topic based on diversity + priority)
• 通过相似性搜索防止重复 (Prevents duplicates via similarity search)
• 可以将其视为研究图书馆员 (Think of it as a research librarian)

生产智能体：

• 生成实际的指令/响应对 (Generates the actual instruction/response pair)
• 包含思维链推理 (Includes Chain-of-Thought reasoning)
• 利用领域知识创建真实场景 (Uses domain knowledge to create realistic scenarios)
• 可以将其视为专家作者 (Think of it as the expert writer)

评审智能体：

• 审查生产智能体的输出，检查以下方面： (Reviews Producer's output for:)
  • 幻觉 (Hallucinations)
  • 逻辑错误 (Logical errors)
  • 不完整的推理 (Incomplete reasoning)
  • 通用模板响应 (Generic template responses)
• 二元决策：接受或拒绝 (Binary decision: Accept or Reject)
• 可以将其视为同行评审员 (Think of it as the peer reviewer)

---

技术栈

核心组件

Version/Model Primary Use Notes Ollama (Local LLM Engine) Custom Modelfile (8k context) Model inference & generation qwen2.5-coder-8k:7b (4.7GB, main generator)
deepseek-r1-8k:1.5b (1.1GB, validator) CrewAI v1.12+ Agent orchestration & workflow management Define Agent, Task, Crew ChromaDB - Deduplication & memory storage Vector similarity search, prevents duplicates Flask - Real-time monitoring dashboard Visualizes generation progress & metrics

硬件配置

Model/Specification Notes Processor AMD Ryzen AI 9 HX 370 12 cores, 32GB RAM (shared as VRAM) Host Geekom A9 Max Mini PC ~$899 Storage NVMe SSD For fast model loading

总投资：899美元（硬件）+ 约3.60美元（72小时电费）

---

实施细节与挑战

挑战一：长时间运行中的内存泄漏

问题：智能体实例会累积状态。在大约100个周期后，性能下降并导致崩溃。

解决方案：每个周期都重新创建所有智能体。

from crewai import Agent, Crew, Task

for cycle in range(1000):
    # 从头重新创建智能体（防止内存泄漏）
    # Recreate agents from scratch (prevents memory leaks)
    curator = Agent(
        role="Topic Curator",
        goal="Select next topic to generate",
        llm=ollama_qwen
    )

    producer = Agent(
        role="Content Producer",
        goal="Generate high-quality instruction pair",
        llm=ollama_qwen
    )

    critic = Agent(
        role="Quality Critic",
        goal="Validate logic and catch hallucinations",
        llm=ollama_deepseek
    )

    # 定义顺序工作流
    # Define sequential workflow
    tasks = [
        Task(description="Select topic", agent=curator),
        Task(description="Generate content", agent=producer),
        Task(description="Validate quality", agent=critic)
    ]

    crew = Crew(agents=[curator, producer, critic], tasks=tasks)
    result = crew.kickoff()

    # 显式清理
    # Explicit cleanup
    del crew, curator, producer, critic

结果：72小时内零崩溃。RAM稳定在24.2 GB。

---

挑战二：CrewAI与Ollama的兼容性

问题：CrewAI v1.12+ 要求纯字符串响应，但Ollama默认返回对象。

解决方案：将配置嵌入到Modelfiles中（永久性修复）。

# qwen2.5-coder-8k:7b 的 Modelfile
# Modelfile for qwen2.5-coder-8k:7b
FROM qwen2.5-coder:7b

PARAMETER num_ctx 8192
PARAMETER temperature 0.7
PARAMETER top_p 0.9

SYSTEM """You are an expert programmer..."""

运行命令：

ollama create qwen2.5-coder-8k:7b -f Modelfile_qwen
ollama create deepseek-r1-8k:1.5b -f Modelfile_deepseek

这使得 num_ctx: 8192 在模型级别成为永久设置，无需运行时配置。

---

挑战三：重复问题

问题：随机主题生成会产生重复项。

解决方案：ChromaDB相似性搜索 + 拒绝机制。

import chromadb

client = chromadb.Client()
collection = client.create_collection("generated_questions")

def is_duplicate(new_question, threshold=0.85):
    """通过嵌入相似性检查问题是否已存在"""
    """Check if question already exists via embedding similarity"""
    results = collection.query(
        query_texts=[new_question],
        n_results=1
    )

    if not results['ids']:
        return False

    similarity = results['distances'][0][0]
    return similarity > threshold

# 保存前检查
# Check before saving
if not is_duplicate(instruction):
    save_to_dataset(entry)
    collection.add(
        documents=[instruction],
        ids=[unique_id]
    )

结果：1065个条目涵盖了452个独特主题（零重复）。

---

72小时后的结果

关键指标

Value Total Entries 1,065 Success Rate 50.9% (605 accepted / 460 rejected) Unique Topics 452 Velocity 14.4 entries/hour RAM Usage 24.2 GB (stable) CPU Usage 31.1% average Crashes 0

类别分布

Entries Percentage Python 346 33% AI/ML 287 27% Backend/API 126 12% Database/SQL 99 9% 常见问题（FAQ）

这个多智能体系统是如何在72小时内生成1065条高质量指令数据的？

系统采用三智能体工作流：策展智能体选择主题，生产智能体生成指令/响应对及思维链，评审智能体验证逻辑并检查幻觉。通过本地硬件（如Ollama引擎）100%运行，无需API调用，实现高效自主生成。

为什么选择多智能体方案而不是手动或购买数据集？

手动创建耗时且无法规模化；商业数据集昂贵（500-2000美元）且定制有限。多智能体系统能自主生成包含Python/AI/ML等专业主题、思维链推理和现实复杂性的高质量数据，解决现有选项的匹配度、成本与可扩展性问题。

系统的三个智能体具体负责什么工作？

策展智能体（如Qwen 7B）从知识库选择多样化主题；生产智能体（Qwen 7B）生成指令、响应和思维链；评审智能体（如DeepSeek 1.5B）验证逻辑、检查幻觉并决定接受/拒绝，确保数据质量。