推翻现成模型选型：开发者自建Skill评测平台深度复盘
本文复盘了一次大模型Skill评测的完整过程。作者因质疑同事基于现成模型得出的选型结论，决定推翻原有方案，自主开发了一套长期的Skill效果与最佳模型评测平台。该行动旨在解决现有评估体系的局限性，通过自建工具实现更精准、持续的模型能力验证，为行业提供新的评估思路。
好游模型 13
技术分享
共 4 篇关键词「大模型」的检索结果
关键词「大模型」 找到 4 篇检索范围：技术分享
大模型推理加速核心：KV Cache 机制深度解析
本文深入解析大语言模型推理中的关键优化技术 KV Cache。针对大模型生成 Token 时需重复计算历史上下文的痛点，详细阐述 KV Cache 如何通过缓存键值对状态，避免从头开始的冗余计算。文章以通俗视角剖析其工作原理，揭示这一“小小缓存”如何使生成速度提升数十倍，为理解大模型底层效率优化提供清晰脉络。
好游模型 15
大模型信息收集实战：两天消耗百亿Token的深度解析
本文深入探讨了一项为期两天、消耗高达百亿Token的大语言模型信息收集项目。文章详细拆解了从查找信息、文件解析、OCR提取到批量处理与多轮纠错的完整工作流。重点分析了在自动化信息收集中如何高效利用模型能力，以及在此过程中遇到的体验痛点与优化策略，为行业提供关于AI辅助数据处理的实战参考。
好游模型 13
阶跃 Step 5 Preview 权重开放，600B 稀疏 MoE、面向长程 Agent 任务设计
阶跃Step 5 Preview模型权重开放，其600B参数规模的稀疏混合专家（MoE）架构为本地化部署大模型提供了新选择。本文面向后端与运维工程师，深入解析稀疏MoE原理，并提供通用的部署、调用与优化步骤，同时梳理常见实践坑点，助力企业高效构建面向长程Agent任务的AI应用。
好游模型 33