大语言模型-Euler的博客

累计撰写 142 篇文章
累计创建 19 个标签
累计收到 0 条评论

目录CONTENT

以下是大语言模型相关的文章

2025-07-16
【LLM】OpenRouter调用Anthropic Claude上下文缓存处理背景在使用OpenRouter调用Anthropic Claude大模型时，部分模型支持上下文缓存功能。当缓存命中时，调用成本会显著降低。虽然像DeepSeek这类模型自带上下文缓存机制，但本文主要针对构建Agent场景下，需要多次调用Anthropic Claude时的缓存设置策略。缓存机制的
- 2025-07-16
- 3
- 0
- 0
- MCP
2025-07-16
【LLM】OpenRouter 指定模型供应商指南在使用 OpenRouter 作为模型供应商时，我们会发现不同供应商提供的同一模型在响应速度、价格和可用性方面存在差异。本文将介绍如何通过指定特定供应商来优化模型使用体验。供应商差异分析以 deepseek/deepseek-r1-0528 模型为例，不同供应商在以下方面存在明显差异：响应速度
- 2025-07-16
- 3
- 0
- 0
- 大语言模型
2025-07-15
【运维】Qwen3 完全关闭思考过程(vllm) Qwen3 完全关闭思考过程(vllm) 根据官方示例，可以通过在提示词里提示模型不输出思考过程，比如提示词直接写【no_thinking】或者【不思考】，在一些场景下都能work，但从结构上来看，其还是会输出 <think></think>的标签。我们可以通过调整提示词模版的方式，伪装为告诉模型
- 2025-07-15
- 8
- 0
- 0
- 大语言模型
2025-07-02
【工具】使用 MCP Inspector 调试服务的完全指南 Model Context Protocol (MCP) Inspector 是一个交互式开发工具，专为测试和调试 MCP 服务器而设计。本文将详细介绍如何使用 Inspector 工具有效地调试和测试 MCP 服务。 1. MCP Inspector 简介 MCP Inspector 提供了直观的
- 2025-07-02
- 3
- 0
- 0
- MCP
2025-07-02
【MCP】为什么使用Streamable HTTP: 相比SSE的优势与实践指南在现代Web开发中，实时通信已经成为许多应用的核心需求。从聊天应用到股票市场更新，从游戏服务器到AI模型通信，各种技术应运而生以满足这些需求。最近，Model Context Protocol (MCP) 引入了一种新的传输机制 —— Streamable HTTP，它为服务器到客户端的实时通信提供
- 2025-07-02
- 2
- 0
- 0
- MCP
2025-07-02
【MCP】MCP鉴权: 使用Header认证保护SSE通信引言服务器发送事件(Server-Sent Events, SSE)是一种基于HTTP的技术，允许服务器向客户端推送实时更新。与WebSocket不同，SSE是单向通信机制，非常适合于需要服务器实时推送数据但不需要客户端频繁发送消息的场景。在构建现代Web应用程序时，安全性至关重要。本文将探讨如
- 2025-07-02
- 3
- 0
- 0
- MCP
2025-07-02
【MCP】FastAPI-MCP: 为AI模型赋能的零配置API工具引言在当前AI快速发展的时代，如何让AI模型更便捷地与后端服务交互成为了开发者面临的重要挑战。Model Context Protocol (MCP)作为一个新兴协议，为AI模型提供了调用外部工具的能力，而FastAPI-MCP则是一个革命性的工具，它能够自动将现有的FastAPI应用转换为MCP
- 2025-07-02
- 2
- 0
- 0
- MCP
2025-07-02
【LLM】A2A 与 MCP：剖析 AI Agent 互联时代的两种关键协议随着人工智能技术的飞速发展，AI Agent（智能体）正从理论走向实践，有望成为提升生产力的关键。然而，正如历史上任何新兴技术领域一样，标准的缺失导致了“筒仓效应”——不同来源、不同框架构建的 Agent 难以有效沟通和协作，形成了新的信息孤岛。为了打破这些壁垒，业界提出了不同的解决方案，其中，由
- 2025-07-02
- 1
- 0
- 0
- MCP
2025-07-02
【LLM】解锁Agent协作：深入了解谷歌 A2A 协议与 Python 实现人工智能（AI）智能体正迅速成为企业提高生产力、自动化工作流程和增强运营能力的关键工具。从处理日常重复性任务到协助复杂的决策，智能体的潜力巨大。然而，当这些智能体来自不同的供应商、使用不同的框架或被限制在孤立的数据系统和应用程序中时，它们的协作能力就会受到限制。为了充分释放智能体 AI 的潜力，实现
- 2025-07-02
- 2
- 0
- 0
- MCP
2025-07-02
【LLM】构建和使用MCP Server：理解python-sdk与fastmcp Model Context Protocol（MCP）是一种开放标准，旨在标准化大型语言模型（LLMs）与外部上下文和工具的交互方式。在本文中，我们将深入探讨如何使用Python构建MCP服务器和客户端，并比较官方的python-sdk与fastmcp这两个项目的区别与联系。 MCP的核心概念在开
- 2025-07-02
- 1
- 0
- 0
- MCP

1
2