公司内大模型应用，领导打算从阿里百炼平台切换到私有化部署，如何打消他的安全隐私顾虑？

131 天前
 boringwheat
1. 业务平台已经在阿里云 ECS 上了；
2. 去年用百炼搭建了一个 RAG 应用（ OSS+百炼向量知识库+API 调用千问）；
今年领导觉得用云平台不安全，打算自建，我应该如何打消他的顾虑；（公司就我一个 IT,如果购买大概率就是买 deepSeek 一体机，实在不想自己再额外看护一套设备）。
目前几个理由：平台的隐私说明，保密协议，大模型的迭代速度，MCP...
2529 次点击
所在节点    职场话题
29 条回复
cat9life
131 天前
好像还真没有充分的理由来证明国内（外）云厂商没有隐私问题。只能拿协议、合同说事。
jstony
131 天前
这种领导你说服不了的，买吧，反正一体机也没多少钱，百八十万肯定能买到了。
boringwheat
131 天前
@cat9life 我的想法是，业务平台（核心保密数据）已经在云上了，基于业务数据的一些 AI 尝试再弄到本地，费时费力不说，开源的效果肯定也比不上付费的，机房环境也不好，我也没有模型本地调优的精力
boringwheat
131 天前
@jstony 倒不是想替公司省钱，单纯就是不想麻烦，而且效果可以预见的是不如云上的
Mithril
131 天前
不太明白，业务都挂在阿里云上还在这个？

至于换不换的，你可以给他算算账。看看你们在知识库和 API 调用上花了多少钱，买台这个一体机要多少钱。
xuxuxu123
131 天前
不要去识图劝说，就直接办就行了；

对接厂商采购硬件的时候，直接沟通清楚风险点：
1 、响应速度
2 、整体费用
3 、后续维护成本
4 、稳定性
.....

把这些情况与厂商沟通结果给领导看，领导自己去做决策用还是不用；最终大概率就是不用了
xuxuxu123
131 天前
@xuxuxu123 你说的问题，那是你的问题；厂商说的问题，那就是真的问题；
renfei
131 天前
云厂商如果真的想看你们的数据，他们还真能看
boringwheat
131 天前
@xuxuxu123 有道理
bzj
131 天前
为什么要打消顾虑，本地部署就得采购硬件，促进消费，部署也麻烦不了多少，你也有了业绩，如果长期大量用可以节省不少成本，多赢的事情
sparkssssssss
131 天前
你多虑了,买一体机你们只管用而已,有问题了,也不用你来处理啊
如果让你窜机器,那才是你该头疼的事情
snow0
131 天前
自己部署的机器弱鸡性能能满足多个人同时使用？
snow0
131 天前
@snow0 google 为了支持 AI 都要建三座核电站了
murmur
131 天前
私有化 deepseek1.5t 显存，嘿 jb 贵，不是大企业根本玩不起，机房还要硬件改造
null2error
131 天前
把看护的钱也一并报到项目里面，让乙方来干呀，你不愿意干的事情，有的是乙方愿意干
SuperGeorge
131 天前
可以去买阿里云大模型本地化部署的一体机，大概 100 多个 W 。
Meteora626
131 天前
百炼那玩意 真不好用，开源的 ragflow dify 都差不多东西，迭代还快 mcp 啥的都能接
frandy
131 天前
我们公司就是一体机，最便宜的那种，模型能力就是幼儿园水平。没什么好让领导打消的，要做好模型的选型，比如你百炼用的满血的，自己部署，用的量化的，出来效果不好，那是你的问题，所以前期做好自己运维大模型的能力。换个角度想想，自己的技能数有多点亮了几个，外加现在招聘市场对 AI 这种渴求度，自己的不满也就打消了。
lower
131 天前
真正的反对是把这件事按 200%去执行！🤣
sansam
131 天前
@xuxuxu123 #7 兄台深谙职场之道啊

这是一个专为移动设备优化的页面（即为了让你能够在 Google 搜索结果里秒开这个页面），如果你希望参与 V2EX 社区的讨论，你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://ex.noerr.eu.org/t/1131447

V2EX 是创意工作者们的社区，是一个分享自己正在做的有趣事物、交流想法，可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX