V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
• 请不要在回答技术问题时复制粘贴 AI 生成的内容
xiaoshu
V2EX  ›  程序员

[了解原理是用好工具的前提] AI 也一样,六张图讲透优势和局限

  •  
  •   xiaoshu · 2 天前 · 1627 次点击

    六张图融入我全部 AI 学习笔记和理解,分享给大家

    https://mp.weixin.qq.com/s/criAfII6UdkhHNG8ect7CA

    15 条回复    2025-12-09 10:00:17 +08:00
    wenzhoou
        1
    wenzhoou  
       2 天前
    有些片面。前一代 AI 可能是这样的。
    但是现在的 AI 已经越来越成熟了,我们的认知也需要跟着提高。
    比如说让 AI 计算 17x28 他不会,但是他也会自己调用工具来计算,这就很厉害了。
    作为一个工具,还是要看你怎么用。
    如果仅仅把 AI 看成是成语接龙游戏,那么人类的智能,其实也是成语接龙游戏。
    你看小孩子,你跟他说"锄禾日当~"他就会说"午"
    iOCZS
        2
    iOCZS  
       2 天前
    因果关系有问题:AI 给每个词安排一个位置,意思相近的词,坐标就相近。
    我觉得嵌入是 AI 的基础,将各种材料通过嵌入表示成了向量。
    siweipancc
        3
    siweipancc  
       2 天前 via iPhone
    我喜欢跨领域问东西,然后看 ai 会不会胡说八道
    xiaoshu
        4
    xiaoshu  
    OP
       1 天前 via iPhone   ❤️ 2
    @wenzhoou tool use 是很厉害的扩展,但基础没变。
    比如,我测试过最新的 gpt5.1 ,解一个华容道死局,会胡乱说,但是如果让其通过写代码解题,就能立即确定无解。

    代码的确定性弥补了模型的不确定性,
    但没有改变模型不确定的本质
    xiaoshu
        5
    xiaoshu  
    OP
       1 天前 via iPhone
    十年前我在 V 站找到实习,入行程序员,一直很喜欢这里。

    我会陆续把自己在腾讯内网的文章与课程同步到这里,对 AI 学习、应用开发和最佳实践,也可以关注我新开的公众号。

    很高兴回答大家的问题。
    katwalk
        6
    katwalk  
       1 天前
    了解大语言模型( LLM )底层「基于概率预测下一个 Token 」的逻辑,老实说,对我而言更像是一种社交谈资,对实际提升使用水平基本没有帮助。真正让我 AI 使用技能得到提升的,不是 AI 理论,而是每一次对话、实践中积累一点点的实操经验的累积。这就好比普通人学游泳,并不需要弄懂流体力学。
    xiaoshu
        7
    xiaoshu  
    OP
       1 天前 via iPhone
    @katwalk 专业运动员需要。
    就好比普通人跑步并不需要带一身传感器,但是职业运动员会。

    知道原理,会让你理解局限,比如什么时候更容易幻觉,包括积累经验
    katwalk
        8
    katwalk  
       1 天前
    @xiaoshu #7 你说的有道理,普通人了解一下也无妨。特别是你把图做的这么简洁易懂的情况下。
    sk217
        9
    sk217  
       1 天前
    @katwalk #6 你积累的这些经验,下个版本,训练参数一改,就又没什么用了,都是拿语料+输出 在算一个期望值,这个期望值并不能覆盖所有的地方
    encounter2017
        10
    encounter2017  
       23 小时 43 分钟前
    @katwalk 原理还是有用的,你知道 token, 知道词表,那你就可以通过手动替换词表做一些很 hack 的事情,可以为中文定制一个更高效的子词词表,让相同的内容用更少的 Token 表示
    katwalk
        11
    katwalk  
       23 小时 23 分钟前
    @encounter2017 我们日常和 LLM 对话的时候如何应用,能举个例子吗?
    katwalk
        12
    katwalk  
       23 小时 22 分钟前
    @sk217 不至于完全没用。
    Yuunie
        13
    Yuunie  
       20 小时 55 分钟前
    这些问题很久之前我都问过 AI 了,它确实是这么和我说的。
    都有 AI 了,它怎么运作的问它不就行了。
    Yuunie
        14
    Yuunie  
       20 小时 53 分钟前
    @katwalk 问 AI 应该怎么问它能得到更准确的答案就好了
    encounter2017
        15
    encounter2017  
       6 小时 54 分钟前
    @katwalk 举个例子来说,常见的误区,通过对话来问:“你是什么模型”,了解过原理就会知道这是不靠谱的,因为这个不是事实,而是根据语料&系统提示词回答的。再比如楼上有人说去问 ai 自己怎么运作的,这又是一个典型得不到答案的错误提问方式,具体原因不难想
    关于   ·   帮助文档   ·   自助推广系统   ·   博客   ·   API   ·   FAQ   ·   Solana   ·   5218 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 23ms · UTC 08:54 · PVG 16:54 · LAX 00:54 · JFK 03:54
    ♥ Do have faith in what you're doing.