• 请不要在回答技术问题时复制粘贴 AI 生成的内容
RonniePolaer
V2EX  ›  程序员

求推荐企业现有已成案例的大模型+知识库的配合

  •  
  •   RonniePolaer · Oct 24, 2024 · 2324 views
    This topic created in 593 days ago, the information mentioned may be changed or developed.
    11 replies    2024-11-04 20:01:39 +08:00
    dddd1919
        1
    dddd1919  
       Oct 24, 2024
    要为来年 KPI 编故事了
    zwyyy
        2
    zwyyy  
       Oct 25, 2024
    同问,我现在也有这样的需求,同时还需要支持 workflow
    naixiaoxin
        3
    naixiaoxin  
       Oct 25, 2024
    dify?
    yijihu
        4
    yijihu  
       Oct 25, 2024
    用 bisheng 吧,目前看过来也就 bisheng 最合适了
    TonyG
        5
    TonyG  
       Oct 25, 2024
    目前在企业普及私有模型还是个悖论,单机能跑起来最新 30b 以上模型的成本就已经不低了,小公司肯定不会考虑,大公司又存在并发的情况单机跑一个模型肯定是不够的。上云存在信息外泄和长期被绑架持续消费风险,所以怎么看都还很难在企业内通过简单的堆砌数据和模型来解决实际问题。现在唯一可行的方向我觉着就是低端模型(服务器成本低)+微调+大比例的系统设计和编程,这样才能尽量多场景的让模型产生实际作用,否则仅仅提供个通用聊天机器人意义也不是很大。
    RonniePolaer
        6
    RonniePolaer  
    OP
       Oct 28, 2024
    有相关 workflow 的教程和调教教程吗
    RonniePolaer
        7
    RonniePolaer  
    OP
       Oct 28, 2024
    需要有个完整的解决方案,市面上有这种案例吗
    RonniePolaer
        8
    RonniePolaer  
    OP
       Oct 28, 2024
    @yijihu 看着好像没 fastgpt 的 ui 好
    RonniePolaer
        9
    RonniePolaer  
    OP
       Oct 29, 2024
    @TonyG 有更好的私有化部署的案例吗?我们应该算是低端模型+私有 xwiki 知识库+pg 库
    TonyG
        10
    TonyG  
       Oct 30, 2024
    @RonniePolaer no idea ,我觉着现在还为时尚早
    yijihu
        11
    yijihu  
       Nov 4, 2024
    @RonniePolaer 对企业内部信息化来说,bisheng 是比较合适的
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   3389 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 36ms · UTC 11:30 · PVG 19:30 · LAX 04:30 · JFK 07:30
    ♥ Do have faith in what you're doing.