V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
dacapoday
V2EX  ›  Local LLM

Gemma4 + LiteRT-LM 真得有点的东西, e2b 内存仅 2G 左右占用, 在 天玑 的安卓机上跑的飞快.

  •  
  •   dacapoday · 1 天前 · 607 次点击

    安卓用这个: https://github.com/google-ai-edge/gallery

    另外在 m2 mac 上直接跑 cli https://github.com/google-ai-edge/LiteRT-LM

    这种性能已经完全可以离线运行 酒馆 小手机 之类的私密场景.

    4 条回复    2026-04-09 13:20:31 +08:00
    ahdw
        1
    ahdw  
       1 天前 via iPhone
    酒馆、小手机 是什么东西
    James369
        2
    James369  
       1 天前
    模型能联网搜索吗?
    gotoschool
        3
    gotoschool  
       1 天前
    @James369 你得给它 tools 吧
    jaoyina
        4
    jaoyina  
       18 小时 54 分钟前
    2b 的手机上能干啥?
    关于   ·   帮助文档   ·   自助推广系统   ·   博客   ·   API   ·   FAQ   ·   Solana   ·   4688 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 20ms · UTC 00:14 · PVG 08:14 · LAX 17:14 · JFK 20:14
    ♥ Do have faith in what you're doing.