V2EX › suke119 的所有回复 › 第 1 页 / 共 7 页

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

1 2 3 4 5 6 7

❮

❯

13 天前

回复了 evada 创建的主题 › V2EX › 之前玩剩下的 SOL 还有 0.15

感谢打赏

13 天前

回复了 Livid 创建的主题 › V2EX 站点状态 › 20250721 - Solana 原生代币 SOL 打赏

已经关联钱包了看看会不会有打赏（狗头

108 天前

回复了 suke119 创建的主题 › 程序员 › 企业级部署实操： SGLang 多节点集群部署 Qwen 系列大模型

@zhuanggu 我用 7b 举例子，7b 分为量化和不量化，不同的量化等级占用的显存是完全不一样的，效果也是不一样的

108 天前

回复了 suke119 创建的主题 › 程序员 › 企业级部署实操： SGLang 多节点集群部署 Qwen 系列大模型

@keakon 我用 7b 举例子，7b 分为量化和不量化，不同的量化等级占用的显存是完全不一样的，效果也是不一样的

108 天前

回复了 suke119 创建的主题 › 程序员 › 企业级部署实操： SGLang 多节点集群部署 Qwen 系列大模型

@keakon 有些模型单卡加载不下的所以才需要多卡并行

108 天前

回复了 suke119 创建的主题 › 程序员 › 企业级部署实操： SGLang 多节点集群部署 Qwen 系列大模型

@scguanzhong 用 vllm

108 天前

回复了 suke119 创建的主题 › 程序员 › 企业级部署实操： SGLang 多节点集群部署 Qwen 系列大模型

@senduy 现阶段一般大型服务器都是具备光模块的比普通网口要高效

108 天前

回复了 suke119 创建的主题 › 程序员 › 企业级部署实操： SGLang 多节点集群部署 Qwen 系列大模型

@ZiChun 嗯具体看需要还有就是最终需要的效果

108 天前

回复了 suke119 创建的主题 › 程序员 › 企业级部署实操： SGLang 多节点集群部署 Qwen 系列大模型

@liprais 看看光模块呢

108 天前

回复了 suke119 创建的主题 › 程序员 › 企业级部署实操： SGLang 多节点集群部署 Qwen 系列大模型

@lovestudykid 请注意是不同电脑最大化资源利用，加入你有两个服务器，不是显卡不在同一个服务器上；其次现在的服务器都有光模块的，光模块速率和网线连接还是有区别的

119 天前

回复了 suke119 创建的主题 › 程序员 › 一文秒懂 AI 核心： Agent、RAG、Function Call 与 MCP 全解析

@sweat89 是的

119 天前

回复了 suke119 创建的主题 › 程序员 › 一文秒懂 AI 核心： Agent、RAG、Function Call 与 MCP 全解析

@lindongwu11 这个怎么说呢 MCP 现在是一种狂热阶段，后续不知道；像高德地图、github 仓库、这些都有对应的 mcp server ，工具调用我们自己还需要维护工具（自己实现工具），但是 mcp 相当于封装了一层只给我们暴露了函数和参数，具体工具实现不用我们管。边走边看，后面会发展成啥样子都是未知的

119 天前

回复了 suke119 创建的主题 › 程序员 › 一文秒懂 AI 核心： Agent、RAG、Function Call 与 MCP 全解析

@paopjian 你可以把他理解成预定义的函数（可多个）然后大模型可以针对你提问的问题、上下文和附加函数集合响应对应的函数和参数，这些函数是外部定义好的，但是结构化参数和函数名字是大模型可以定向回答的，结合程序实现对应的 agent

119 天前

回复了 suke119 创建的主题 › 程序员 › 一文秒懂 AI 核心： Agent、RAG、Function Call 与 MCP 全解析

![llama4 版本比较]( https://im.gurl.eu.org/file/AgACAgEAAxkDAAJA9mfzQpmfWm6tyDo1JK8M3T5jVsDNAAL1rTEbo1uYR_VdCHoradbOAQADAgADeAADNgQ.png)

119 天前

回复了 suke119 创建的主题 › 程序员 › 一文秒懂 AI 核心： Agent、RAG、Function Call 与 MCP 全解析

@SGL 因为 napkin 生成后我手动截图的，所以有点糊哈哈哈

119 天前

回复了 suke119 创建的主题 › 程序员 › 一文秒懂 AI 核心： Agent、RAG、Function Call 与 MCP 全解析

@marktrains 那不能，完整全文里面图片是 AI 生成的，用的 napkin 做的可视化图