大语言模型-Euler的博客

累计撰写 211 篇文章
累计创建 82 个标签
累计收到 0 条评论

目录CONTENT

以下是大语言模型相关的文章

【MCP】chrome-dev-mcp 调试及其常见问题 chrome 启动命令 /Applications/Google\ Chrome.app/Contents/MacOS/Google\ Chrome \ --remote-debugging-port=9222 \ --user-data-dir=/tmp/chrome-debug 注意点
- 2025-12-08
- 0
- 0
- 0
- MCP
【上下文工程】Agent的上下文工程：Manus实战经验深度解析论文地址原文链接：Context Engineering for AI Agents: Lessons from Building Manus 作者：Yichao 'Peak' Ji 发布时间：2025年7月18日机构：Manus AI 核心内容概述这篇文章来自 Manus AI 团队的技术分
- 2025-10-23
- 6
- 0
- 0
- 大语言模型
【LLM】OpenRouter模型工具调用支持分析技术背景在使用OpenRouter API调用大语言模型时，经常会遇到工具调用（Tool Calling）的需求。工具调用是现代AI应用中的重要功能，允许模型调用外部工具来执行特定任务，如搜索、计算、API调用等。然而，在实际使用过程中，我发现了一个重要问题：并非所有模型都支持工具调用功能。特别
- 2025-10-16
- 9
- 0
- 0
- 大语言模型
【MCP】MCP协议演进：从SSE到Streamable HTTP 引言在AI工具集成的世界中，Model Context Protocol (MCP) 作为连接AI模型与外部工具的标准协议，其传输层的选择直接影响着系统的可靠性、性能和可扩展性。本文将深入分析MCP协议从Server-Sent Events (SSE) 演进到Streamable HTTP的技术原
- 2025-10-15
- 8
- 0
- 0
- MCP
【LLM】Gemini Schema结构化响应 1. 简介 Gemini API的结构化响应功能允许开发者定义期望的输出格式，确保AI模型返回符合特定Schema的JSON数据。这对于需要稳定数据格式的应用场景非常有用，比如数据提取、API集成、自动化处理等。通过使用Pydantic模型定义Schema，我们可以：确保输出格式的一致性进行类
- 2025-09-10
- 472
- 0
- 13
- 大语言模型
【LLM】SGLang服务器参数配置详解 SGLang是一个高性能的大语言模型推理框架，提供了丰富的服务器参数配置选项。本文将基于官方文档详细介绍SGLang服务器的各种参数配置，帮助开发者更好地优化模型推理性能。常用启动命令多GPU张量并行 python -m sglang.launch_server --model-path met
- 2025-07-22
- 147
- 0
- 13
- 大语言模型
【运维】SGLang 安装指南参考官方文档 SGLang 是一个高性能的大语言模型推理框架，支持多种安装方式。本文档提供了详细的安装步骤和常见问题解决方案。系统要求 Python 3.8+ CUDA 11.8+ (GPU 推理) 推荐使用 uv 进行依赖管理以获得更快的安装速度安装方法方法一：使用 pip 或 uv (推荐
- 2025-07-22
- 572
- 0
- 14
- 运维部署
- 大语言模型
【LLM】OpenRouter调用Anthropic Claude上下文缓存处理背景在使用OpenRouter调用Anthropic Claude大模型时，部分模型支持上下文缓存功能。当缓存命中时，调用成本会显著降低。虽然像DeepSeek这类模型自带上下文缓存机制，但本文主要针对构建Agent场景下，需要多次调用Anthropic Claude时的缓存设置策略。缓存机制的
- 2025-07-16
- 486
- 0
- 20
- MCP
【LLM】OpenRouter 指定模型供应商指南在使用 OpenRouter 作为模型供应商时，我们会发现不同供应商提供的同一模型在响应速度、价格和可用性方面存在差异。本文将介绍如何通过指定特定供应商来优化模型使用体验。供应商差异分析以 deepseek/deepseek-r1-0528 模型为例，不同供应商在以下方面存在明显差异：响应速度
- 2025-07-16
- 546
- 0
- 12
- 大语言模型
【运维】Qwen3 完全关闭思考过程(vllm) Qwen3 完全关闭思考过程(vllm) 根据官方示例，可以通过在提示词里提示模型不输出思考过程，比如提示词直接写【no_thinking】或者【不思考】，在一些场景下都能work，但从结构上来看，其还是会输出 <think></think>的标签。我们可以通过调整提示词模版的方式，伪装为告诉模型
- 2025-07-15
- 313
- 0
- 15
- 大语言模型

1
2
3