将代码中的密码等信息发给 chatgpt 等模型安全吗？

除了测试中的占位代码用 123456 这些硬编码进去，生产环境的基本都是从环境变量，手工维护的 yaml 中读

代码里有密码就不安全

难绷，你这算是有安全意识还是没有呢

测试实例直接编码当然没问题，其他情况，自己做的东西，我用 1password ，代码里没明文

有可能，有承诺，不可信。

当然，第一个问题是为啥代码里有密码/密钥等机密信息就不对了，你不在 AI 里泄露，也可能在写博客、微信/QQ 聊天中泄露。这些可是现实中实实在在出现过的案例

2014 年携程曾经把信用卡信息记录到日志里
然后日志泄漏了

你觉得 AI 的运行日志会不会泄漏？
我听说前几天好像有人发现他们数据库直接开放给全网了？

不安全，我有次无意中发现 ChatGPT 已经掌握我司内部框架的用法了，并没有相关上下文和保存的记忆。
另外这些信息应该保存在环境变量里面，这样切换不同环境做调试还方便。

用人不疑 疑人不用
谁也不知道你的数据值多少钱 你问这个没有意义

分三种情况：
第一、你有阅读他们的用户协议吗？如果承诺了不使用用户数据，那就勉强相信一下吧
第二、你是付费用户吗？如果不是，免费给你用你还不想付出代价？
第三、你是付费用户的话，每个月 150 左右，能买来数据安全吗？我觉得不行

用户数据肯定会用作训练, 提高模型效果, 模型效果好再生成更高质量的数据, 互相促进. 但是这个模式不是左脚蹬右脚一直提升的, 一段时间之后会陷入瓶颈.
安全方面我觉得还好, 因为大模型的用户产生的是海量数据, 你的密码密钥在里面有种大隐隐于市的感觉, 找到他本身成本就很高, 除非这个公司很没节操, 故意去做这件事.

> 为了方便直接写在代码中

你有没有想过硬编码 key 到代码里这个行为本身就不安全

绝对不安全啊，你用的那些大模型的 APP ，没看到那张历史列表吗，敏感信息什么的妥妥的写进厂家云端的数据库，你以为在网页上面点击“删除”就真的删除了嘛？只要厂家动机不纯，它是不会真的删除的，而是全部留作训练 AI 的新语料，它只需在表里做个删除标记就行啦。

百度李彦宏除了最出名那句：“开源大模型都是智商税”，还有一句呢：“中国人愿用隐私换便利”。

在网上看到有些大模型，会把用户的提问内容，显示给另外的人……

不安全，但我无所谓，公司无所谓，甚至客户还推荐过我们用 Claude

没有相对安全，看你对数据的敏感度。
如果项目是高保密，肯定不能。
项目是普通。那随便了。

内部信息还是不能进去，要去密。我找他写 sql 也是把表和字段名字改掉。

非常不安全 特别是一些国内厂商 慎重使用国内厂商的业务

不安全

密钥与代码隔离算是基本要求了吧

你把银行卡号和密码告诉我吧，我保证不用


你信吗？

你不能控制他用不用你的数据，但是可以控制把什么数据给他