人工智能-Euler的博客

累计撰写 156 篇文章
累计创建 20 个标签
累计收到 0 条评论

目录CONTENT

以下是人工智能相关的文章

2025-09-10
【LLM】Gemini Schema结构化响应 1. 简介 Gemini API的结构化响应功能允许开发者定义期望的输出格式，确保AI模型返回符合特定Schema的JSON数据。这对于需要稳定数据格式的应用场景非常有用，比如数据提取、API集成、自动化处理等。通过使用Pydantic模型定义Schema，我们可以：确保输出格式的一致性进行类
- 2025-09-10
- 452
- 0
- 13
- 大语言模型
2025-08-26
【深度学习】Transformer 注意力机制与 LoRA target_modules 详解 1. Transformer 自注意力机制结构 1.1 基础组件 class SelfAttention(nn.Module): def __init__(self, d_model, n_heads): super().__init__() self.d_m
- 2025-08-26
- 411
- 0
- 6
- 深度学习
2025-08-26
【机器学习】从KNN算法到图像风格迁移：原理与实践从KNN算法到图像风格迁移：原理与实践引言在机器学习的众多算法中，K近邻（K-Nearest Neighbors, KNN）算法以其简洁直观的思想而备受青睐。"物以类聚，人以群分"这句古话完美诠释了KNN的核心理念。但你是否想过，这样一个看似简单的算法，竟然也能应用于图像风格迁移这样的复杂任务？
- 2025-08-26
- 369
- 0
- 11
- 人工智能
2025-07-28
【深度学习】HuggingFace缓存目录结构详解引言在使用HuggingFace Transformers库时，我们经常会遇到模型下载和缓存的问题。你是否好奇过，当你运行 from_pretrained() 时，模型文件到底存储在哪里？为什么有时候下载很快，有时候却很慢？本文将深入解析HuggingFace的缓存目录结构，帮助你理解模型管理的幕
- 2025-07-28
- 135
- 0
- 14
- 深度学习
2025-07-23
【大模型】Hugging Face常见模型格式详解 Hugging Face作为全球最大的机器学习模型社区，支持多种不同的模型格式。这些格式各有特点，适用于不同的使用场景。本文将详细介绍Hugging Face上常见的模型格式，帮助开发者选择合适的模型格式。模型格式分类概览 Hugging Face上的模型格式主要可以分为以下几类： 1. 原始框架
- 2025-07-23
- 370
- 0
- 12
- 深度学习
2025-07-22
【LLM】SGLang服务器参数配置详解 SGLang是一个高性能的大语言模型推理框架，提供了丰富的服务器参数配置选项。本文将基于官方文档详细介绍SGLang服务器的各种参数配置，帮助开发者更好地优化模型推理性能。常用启动命令多GPU张量并行 python -m sglang.launch_server --model-path met
- 2025-07-22
- 139
- 0
- 13
- 大语言模型
2025-07-22
【运维】SGLang 安装指南参考官方文档 SGLang 是一个高性能的大语言模型推理框架，支持多种安装方式。本文档提供了详细的安装步骤和常见问题解决方案。系统要求 Python 3.8+ CUDA 11.8+ (GPU 推理) 推荐使用 uv 进行依赖管理以获得更快的安装速度安装方法方法一：使用 pip 或 uv (推荐
- 2025-07-22
- 500
- 0
- 14
- 运维部署
- 大语言模型
2025-07-16
【LLM】OpenRouter调用Anthropic Claude上下文缓存处理背景在使用OpenRouter调用Anthropic Claude大模型时，部分模型支持上下文缓存功能。当缓存命中时，调用成本会显著降低。虽然像DeepSeek这类模型自带上下文缓存机制，但本文主要针对构建Agent场景下，需要多次调用Anthropic Claude时的缓存设置策略。缓存机制的
- 2025-07-16
- 464
- 0
- 20
- MCP
2025-07-16
【LLM】OpenRouter 指定模型供应商指南在使用 OpenRouter 作为模型供应商时，我们会发现不同供应商提供的同一模型在响应速度、价格和可用性方面存在差异。本文将介绍如何通过指定特定供应商来优化模型使用体验。供应商差异分析以 deepseek/deepseek-r1-0528 模型为例，不同供应商在以下方面存在明显差异：响应速度
- 2025-07-16
- 496
- 0
- 12
- 大语言模型
2025-07-15
【运维】Qwen3 完全关闭思考过程(vllm) Qwen3 完全关闭思考过程(vllm) 根据官方示例，可以通过在提示词里提示模型不输出思考过程，比如提示词直接写【no_thinking】或者【不思考】，在一些场景下都能work，但从结构上来看，其还是会输出 <think></think>的标签。我们可以通过调整提示词模版的方式，伪装为告诉模型
- 2025-07-15
- 209
- 0
- 15
- 大语言模型

1
2
3