V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
• 请不要在回答技术问题时复制粘贴 AI 生成的内容
imaxwell
V2EX  ›  程序员

AI 虽强,也不能让 sb 变 nb。

  •  
  •   imaxwell · 46 天前 via Android · 5179 次点击
    这是一个创建于 46 天前的主题,其中的信息可能已经有所发展或是发生改变。

    最近在搞一个数学公式相关页面的时候体会到了。要做难而正确的事情,AI 才能帮你真正提效。如果往错误的方向前进,AI 只会让人离正确的方向越来越远。

    用了一个错误的 react latex 公式组件之后,即便是 claude 4 opus ,也只会缝缝补补,在原来的组件基础上对输入字符串不断地打补丁,最后猛然发现这是一个无底洞。回过神来才发现,正确的方向是用一个正确的 latex 公式组件。

    怎么做事的细节方面现在 AI 是比较擅长的。但是到底做什么才是正确的事情,往哪个方向去才是正确的方向,这种方向性抉择性的问题变得更重要了。套用以前的一句话叫做同样是一个 b ,往北边去就变成了 nb 。往南边去就变成了 sb 。AI 只知道从 a 点到 b 点。是成为 nb 还是成为 sb ,人才是那个决定性的因素。

    38 条回复    2025-08-01 17:57:02 +08:00
    foolishcrab
        1
    foolishcrab  
       46 天前 via iPhone   ❤️ 2
    可以让 sb 变成两个 sb ,阻止不了 sb 在全世界全领域占据最大声量的事实。
    我们每个人在很多领域都是 sb
    sampeng
        2
    sampeng  
       46 天前 via iPhone
    不怕坏人灵机一动,就怕蠢人灵机一动…这句话在赛博世界也是有效的。
    potatowish
        3
    potatowish  
       46 天前 via iPhone   ❤️ 1
    “在原来的组件基础上对输入字符串不断地打补丁,最后猛然发现这是一个无底洞。回过神来才发现,正确的方向是用一个正确的 latex 公式组件。”

    我深有感触,站在一个错误的方向思考,AI 会把你推向错误方向的更深处,还是得靠自己的认知能力来纠正
    crackidz
        4
    crackidz  
       46 天前   ❤️ 2
    Chyen
        5
    Chyen  
       46 天前
    @crackidz 我刚想贴这个 看到你贴了
    coderzhangsan
        6
    coderzhangsan  
       46 天前
    文章有一点很是赞同:方向错了,只会在歧路上越走越远;所以纵使 ai 提供了工效,但却不能阻止舵手犯错,这太依赖舵手的知识水平。
    iorilu
        7
    iorilu  
       46 天前
    是这样的, 所以就算开自动 agent 也不要真的以为可以去喝茶, 除非是那种烂大街 webapp, crud 啥的

    其他东西你还是要看着, 一旦路子不对, 马上点停止, 告诉他该干啥

    要不然你不盯着, 可能一会儿功夫改了 20 个文件, 上千行代码,都是没必要的, 万一没注意提交了, 以后想改又麻烦了
    a852695
        8
    a852695  
       46 天前
    其实对人的要求从搬砖直接拔高到了指挥员,这就很看水平了。
    potatowish
        9
    potatowish  
       46 天前 via iPhone
    也没那么夸张,不要一上来就把方向定死了,那 ai 只能陪你绕圈,你给出场景的上下文,让 ai 来选择方向
    sillydaddy
        10
    sillydaddy  
       46 天前   ❤️ 1
    「同样是一个 b ,往北边去就变成了 nb 。往南边去就变成了 sb 」这句话好经典啊。给它铸造一个 NFT 吧!
    maocat
        11
    maocat  
       46 天前
    早上用 cc 生成代码,
    之前的模块明明导出了`current_user`这个属性
    结果他在 import 的时候变成了`get_current_user` 我能说什么
    nakun233
        12
    nakun233  
       45 天前
    @maocat 这种情况也不是一次发生,我理解为 LLM 的局限性,如果价格/算力允许,我希望有另外一个专门检测的 agent 去审核每次返回的结果
    includewins0ck2h
        13
    includewins0ck2h  
       45 天前   ❤️ 1
    很遗憾,很多商业项目已经证明,得 sb 者得天下,比如最近的中国短剧出海热。。。
    anunia
        14
    anunia  
       45 天前   ❤️ 1
    以前我也这么认为,现在感觉真能让 sb 变 nb
    MajestySolor
        15
    MajestySolor  
       45 天前
    哈哈,我就是这个情况,很多东西我根本想不明白,想不出个合理的解决思路来搭出大框架,结果就是 ai 陪着我绕圈圈,问题不是出在 ai 身上,而是我太菜🤣
    elinktek
        16
    elinktek  
       45 天前
    我之前用 gpt 寫 android 程序也發現了,plus 版本甚至比 gemini pro 還差勁。就是比如你要從無到有讓他給你寫一個 app 應用沒問題,基本能用。但是你要用它來改錯或者重構就一堆問題了,而且還是重複回答那種。

    我個人意見跟自動駕駛概念一樣,目前 ai 只是輔助寫代碼,沒有人類的自主意識。舉個不太恰當的例子,金庸可以寫出頂級武俠小說,三流寫手能在起點發表爆款網文,普通人也能上網寫個還算邏輯通順的故事,而目前 ai 大概就是營銷號的水平,寫十個字錯五個,邏輯還前後矛盾。
    riddle4ever
        17
    riddle4ever  
       45 天前   ❤️ 1
    @nakun233 你可以看下我的插件,我现在就在插件的流程里面用一个 agent 去审阅之前的并行 agent 生成的结果,按照打分标准选择最终的一个

    https://github.com/notdp/kiro-for-cc
    ershierdu
        18
    ershierdu  
       45 天前 via Android
    这是 XY Problem 吧,试试一开始就直接说你想达成的效果,而不是有想法之后问它怎么实现。

    当然现阶段我同意这个标题,用不好的话还会浪费更多时间。只是,在用得好的情况下,至少不会比自己解决更差。
    darkway
        19
    darkway  
       45 天前
    我原来擅长拆架构,想架构,想复杂的闭环的系统,但我很不擅长写。
    原来的我因为异想天开,被嘲笑不切实际,想法转换不成钱。
    ai 出来以后,我直接被变成了超人,已经超过了同龄人和原来圈子里程序员一辈子努力能达到的成就。
    darkway
        20
    darkway  
       45 天前
    @darkway 说的有点狂妄。。我应该是我原来混的那个圈子里唯一一个创业的。。
    XTTX
        21
    XTTX  
       45 天前
    用了这么几年 AI, 它可以左脚踩右脚快速上升,但是前提是你必须提供它可以踩的地方。难一点的问题,我要提供已经跑通了的 repo 让它去学习,然后它才能解决问题。实际上所有的东西对它来说都是概率,它也不是真的像人一些真的理解这些问题。
    但是今年所有的 SOTA 模型都能联网了,可以图片识别了,所以下限有了保证。
    winterbells
        22
    winterbells  
       45 天前
    sb 还是 sb ,有 sb 同事问我 sb 问题。我让他问 AI 去,然后他发个截图给我说看不懂。不想鸟他,让他继续问去…
    lscexpress
        23
    lscexpress  
       45 天前
    我有个室友,说要再次学编程入行程序员,因为现在有 AI 辅助了。隔了一段时间说准备离职考研,又过了一段时间我把考研的时间发给他,他还让我有话直说。所以说啊,AI 不会让程序员失业,也不会让 sb 就业。
    515576745
        24
    515576745  
       45 天前
    所以学会用多个 ai ,看看给的不同方案的思路
    yb2313
        25
    yb2313  
       45 天前   ❤️ 1
    不要问 ai 能为你做什么, 要问你能为 ai 做什么
    imaxwell
        26
    imaxwell  
    OP
       45 天前 via Android
    @foolishcrab 精辟,现在看起来认识世界和改造世界是一体两面的。AI 还是纸上谈兵,只不过是更大范围的纸上谈兵。最后好不好使还得在改造世界的过程中不断的检验。
    imaxwell
        27
    imaxwell  
    OP
       45 天前 via Android
    想起了 60 年代的一句话——大海航行靠舵手。
    说起舵手,又分三种。第一种是经过大风大浪,最后力挽狂澜,顺利到达目的地并衣锦还乡的。
    第二种是经过大风大浪最后折戟沉沙的。残兵败将侥幸逃生有可能带回去消息。
    第三种是走那些大概率没有大风大浪的路线,最后平平安安出去平平安安回来的。这里面又细分为两种。a 是运气好的人。b 是世外高人,能知过去未来之事,趋吉避凶。
    媒体叙事和青史留名比较多见的是第一种。
    imaxwell
        28
    imaxwell  
    OP
       45 天前 via Android
    是的,AI 相当于还是实习生。你得时刻提防 ta 跑飞了。
    imaxwell
        29
    imaxwell  
    OP
       45 天前 via Android
    @sillydaddy 你还别说。历史上我想到了太祖和张国焘在长征时候的差异就是这样,一个北上陕北,一个南下四川。
    imaxwell
        30
    imaxwell  
    OP
       45 天前 via Android
    @includewins0ck2h 有道理,大部分人活着就已经拼尽全力了,脑子一扔就是看的无脑短剧,为大部分人提供了情绪价值,情绪价值被变现为了商业价值。
    imaxwell
        31
    imaxwell  
    OP
       45 天前 via Android
    @MajestySolor 所以有人总结 AI 遇强则强,遇弱则弱。
    imaxwell
        32
    imaxwell  
    OP
       45 天前 via Android
    @ershierdu 一开始 nextJS 和 react 数学公式用什么组件,这个我也是用 claude 4 问出来的。最后掉进泥潭里面出不来的时候,claude 开始给我推荐另外一些组件了。。。。
    imaxwell
        33
    imaxwell  
    OP
       45 天前 via Android
    @XTTX 是的,模型加联网可以保证下限。用的人和用的方式决定了上限。
    Aaron01
        34
    Aaron01  
       45 天前
    就是这种感觉
    Aaron01
        35
    Aaron01  
       45 天前
    你越 SB 它比你更 SB ,而且还总是附和你
    julyclyde
        36
    julyclyde  
       45 天前
    @Aaron01 可能就因为附和,所以才“更”呢
    如果它有点自己的思维也不至于这样
    riceball
        37
    riceball  
       45 天前 via Android
    从另一个角度来说 AI 使得架构更慢,就拿我当前正在做的 AI IDE MVP(基于插件的桌面应用)来说,架构修改了三次,技术选型从最初简单的基于 React Demo 提取功能,到基于 Quasar2(Vue3), 然后再到 modern.js/Qiankun/Luigi/Piral 微前端框架评估。 接着选择 UI 状态管理器. 发现的确 AI 有点这个 bullshit 的味道,先下结论,然后根据结论找理由。蛮好玩的。 本来这个问题,两个选择都没有什么,权衡角度不同,自然结论不同,但是你不应该倒果为因。 当然总的来说,AI 对我的帮助很大,通过 AI 你能看到更多,更细,然后你要查证的也更多,舵手永远只能是自己
    gcoder
        38
    gcoder  
       44 天前
    @riddle4ever 你这个插件的功能设计,和 bmad 很相似啊。
    关于   ·   帮助文档   ·   自助推广系统   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   5475 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 49ms · UTC 07:34 · PVG 15:34 · LAX 00:34 · JFK 03:34
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.