V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  rus4db  ›  全部回复第 1 页 / 共 14 页
回复总数  261
1  2  3  4  5  6  7  8  9  10 ... 14  
兴趣是第一驱动。
没卡不是理由,只是验证原理的话,CPU 一样能训。
我自己就训了个 56M 参数的超小模型,会说人话,这就足够了。
https://github.com/bd4sur/Nano
AI 不懂的语言是没有未来的。

PL 已经完了。
99 天前
回复了 shtzlwdmkf 创建的主题 生活 住院有感,这正常吗?
去医院,无非“诊”和“疗”。
“诊”的目的,在于“解决正确的问题”。
“疗”的目的,在于“正确地解决问题”。
医学在“诊”的问题上还有很多不足,遑论“疗”。
所以才有“偶尔治愈、常常帮助、总是安慰”这样的说法。
软件开发也有类似的道理,找到正确的需求,甚至比正确地实现需求更重要。

面对复杂的世界,不妨拾起汉隆剃刀——能解释为愚蠢(能力不足)的,就不要归咎于恶意。
放过这个世界,也放过自己。
1 、FFT 的硬实现已经做进各类硬件了,比如音视频硬 codec 、DSP 、无线网卡、射频/基带芯片等等。
2 、FFTW 之类的库已经足够快了,做成硬件指令不划算。
3 、FFT 的变体非常多,效率与问题规模有关,与其做成通用指令,不如直接做进应用场景,针对性优化。
@shintendo
同意。
在文本中强行不必要的字符以控制版式呈现,是形式对内容的粗暴干涉,是语言层次的纠缠混乱。
让内容的归内容、版式的归版式、渲染的归渲染,才是正道。
程序员是操弄字符串的专业人士,每个字符都是珍贵的、神圣的,每个字符都承载一定的语义。
为了迁就版式美观而强行增加多余字符,以形害意,谬矣。
在某些自动加空格的开源项目中,有众多的转换错误或者妨碍功能的 issue ,可见一斑。
@synthpop123
本来在这个问题上持中立立场,但是看到该项目用如此刻薄的语言去诅咒异见者,实在是恶心。
项目维护者恐怕需要去看看心理医生。
本质上是矩阵运算,CPU 不是不能干,只是太慢而已。

不妨试试我的智障电子鹦鹉,浏览器 CPU 推理的,并不实用,只是为了说明语言模型推理的原理:
https://bd4sur.com/Nano/infer/
303 天前
回复了 evilangel 创建的主题 程序员 各种云盘还是那么不靠谱
上网不涉密,涉密不上网。

我一直想不通的是,为什么有人会把敏感隐私数据弄到云存储服务上。
不妨看看我做的小玩具,浏览器上推理的:
https://github.com/bd4sur/Nano
328 天前
回复了 babyedi31996 创建的主题 程序员 本地部署大语言模型哪家强?
量化 ggml + llama.cpp 、vLLM 。

只是图一乐的话,甚至浏览器也能推理。
可以看看我做的小玩具: https://github.com/bd4sur/Nano
2024-08-23 22:00:55 +08:00
回复了 fat4fox 创建的主题 Android 2024 年,刷机已死
手机的本质在于你购买的只是使用权,而非所有权。跟信用卡一样。
刷机破坏了可信计算,破坏了手机所有权人的权益。
所以不能允许你刷机。
2024-03-31 13:07:13 +08:00
回复了 kdj933 创建的主题 投资 请教各位大佬,研究了一套深度学习方法,预测 A 股涨跌,....
众所周知,炒股最赚钱的是教别人炒股。你炒我教你,我炒我不炒。

什么深度学习科学算命,自己不要用。拉个群,包装一下,卖给别人用。(滑稽)
2024-03-29 18:58:32 +08:00
回复了 avalox 创建的主题 Local LLM 想用手头的硬件最低成本尝试下本地 LLM 推理,请教一下方案
1 )参数量是主要矛盾,越多越好。
2 )不必担心量化,量化掉点有限。
3 )实用模型,参数量不可低于 13~14B ,以 72B 量级为佳。
4 )显存是主要矛盾,越多越好。
5 ) 2080ti 魔改 22GiB 显存,性价比较高。
6 )多卡 AI 服务器平台,性价比较高,但要考虑环境和电费开销问题。
图形学不会消失,但是某些旧方法旧思维会逐渐消失。
只要你认为 Sora 是图形学,那么它就是图形学。
你可以拿着 AGI 这把剑,大杀四方。
1  2  3  4  5  6  7  8  9  10 ... 14  
关于   ·   帮助文档   ·   自助推广系统   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   1041 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 38ms · UTC 22:46 · PVG 06:46 · LAX 15:46 · JFK 18:46
Developed with CodeLauncher
♥ Do have faith in what you're doing.