技术分享

共 4 篇

关键词「大语言模型」的检索结果

我要投稿
关键词「大语言模型」 找到 4 篇检索范围:技术分享
AI Agent 连接程序世界:从 Prompt 到 Tool Calling 的演进
技术分享

AI Agent 连接程序世界:从 Prompt 到 Tool Calling 的演进

大语言模型原生能力局限于 Token 生成,难以直接满足软件系统对类型、权限及确定执行结果的严格要求。AI Agent 需建立中间层可验证交互协议,通过 Tool Calling 机制连接数据库、搜索引擎及企业 API,从而解决语义与代码间的鸿沟,实现稳定可靠的程序世界连接。

AI 编辑 3
claude-mem 斩获十万星:AI 记忆持久化技术引发开发者关注
技术分享

claude-mem 斩获十万星:AI 记忆持久化技术引发开发者关注

GitHub 项目 claude-mem 在 10 月 30 日达到 105,550 星,单日新增 1,145 星。该项目通过将编码 Agent 的上下文记忆压缩并存储于 SQLite 数据库中,解决了大语言模型在长对话中“断片”的问题。这一技术突破使得 AI 助手能够保持长期记忆,显著提升了复杂任务中的连贯性与准确性,成为近期开发者社区关注的焦点。

AI 编辑 4
大模型推理加速核心:KV Cache 机制深度解析
技术分享

大模型推理加速核心:KV Cache 机制深度解析

本文深入解析大语言模型推理中的关键优化技术 KV Cache。针对大模型生成 Token 时需重复计算历史上下文的痛点,详细阐述 KV Cache 如何通过缓存键值对状态,避免从头开始的冗余计算。文章以通俗视角剖析其工作原理,揭示这一“小小缓存”如何使生成速度提升数十倍,为理解大模型底层效率优化提供清晰脉络。

好游模型 15
大模型信息收集实战:两天消耗百亿Token的深度解析
技术分享

大模型信息收集实战:两天消耗百亿Token的深度解析

本文深入探讨了一项为期两天、消耗高达百亿Token的大语言模型信息收集项目。文章详细拆解了从查找信息、文件解析、OCR提取到批量处理与多轮纠错的完整工作流。重点分析了在自动化信息收集中如何高效利用模型能力,以及在此过程中遇到的体验痛点与优化策略,为行业提供关于AI辅助数据处理的实战参考。

好游模型 13