 |
tt83V2EX 第 673495 号会员，加入于 2024-01-27 09:12:20 +08:00今日活跃度排名 14395 |
tt83 最近回复了
12 天前 回复了 tt83 创建的主题 › 程序员 › 为什么这些大模型 API 都不提供临时 API KEY |
@iyaozhen #17 我们的 prompt 不加密，甚至鼓励用户自己修改。想请教 LLM 这种时长比较长的 stream 请求影响大不大，比如一个 2 核 4g 的服务器大概能能支持多少并发，对带宽要求高不高
15 天前 回复了 tt83 创建的主题 › 程序员 › 为什么这些大模型 API 都不提供临时 API KEY |
@iyaozhen 我猜你说的那些逻辑也可以放在客户端
15 天前 回复了 tt83 创建的主题 › 程序员 › 为什么这些大模型 API 都不提供临时 API KEY |
@ZeroClover 你说的没错，但是我觉得还有一个重要原因就是 OpenAI 没做，问题是 OpenAI 的 API 又不愁卖，OpenAI 如果做了他们肯定抄的很快
15 天前 回复了 tt83 创建的主题 › 程序员 › 为什么这些大模型 API 都不提供临时 API KEY |
@jybox #2 还有一种情况，如果是用的按实例时长收费的 Serverless 服务，影响就更大了
15 天前 回复了 tt83 创建的主题 › 程序员 › 为什么这些大模型 API 都不提供临时 API KEY |
@jybox #2 另外对服务端流量带宽影响也不小吧
15 天前 回复了 tt83 创建的主题 › 程序员 › 为什么这些大模型 API 都不提供临时 API KEY |
@vacuitym api 生成和销毁 key 也有很多厂商不支持，只能手动操作，甚至还有限定重置次数的，离谱
15 天前 回复了 tt83 创建的主题 › 程序员 › 为什么这些大模型 API 都不提供临时 API KEY |
@jybox #2 数据没那么大，但是一次长请求要占用很长时间，限制/模板都可以在客户端做
15 天前 回复了 tt83 创建的主题 › 程序员 › 为什么这些大模型 API 都不提供临时 API KEY |
像阿里云和火山是支持的，但是他们的大模型没有像硅基流动这种全，更新也不太及时
31 天前 回复了 tt83 创建的主题 › 长沙 › 长沙为什么这么多在街上直播的 |
年轻人直播，中老年跳广场舞，都成社会现象了😂
Select Language