sinecw
V2EX  ›  API

设计高可用的 api 服务

  •  
  •   sinecw · Nov 3, 2023 · 2798 views
    This topic created in 945 days ago, the information mentioned may be changed or developed.

    想搭建一个高可用的 chatgpt 服务,目前有三台服务器,如何设计分流和复杂均衡呢?求大神点醒

    6 replies    2023-11-03 14:39:58 +08:00
    sinecw
        1
    sinecw  
    OP
       Nov 3, 2023
    可付费咨询~~~
    aduangduang
        2
    aduangduang  
       Nov 3, 2023
    为什么不用阿里云的负载均衡?
    sinecw
        3
    sinecw  
    OP
       Nov 3, 2023
    @aduangduang 因为我的服务不在阿里云上
    sobev
        4
    sobev  
       Nov 3, 2023
    看起来可以用 ALB 的样子
    daimaosix
        5
    daimaosix  
       Nov 3, 2023
    看上去可以用专业的 API Gateway
    daimaosix
        6
    daimaosix  
       Nov 3, 2023
    PM 我,安排起来
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   1085 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 39ms · UTC 23:26 · PVG 07:26 · LAX 16:26 · JFK 19:26
    ♥ Do have faith in what you're doing.