
按并发而非按Token计费的推理服务上线
来源标题:Inference by the Concurrency Not by the Token
一项新服务推出固定价格推理,开发者可在支持的开源模型上运行编码代理,重复尝试不额外收取已包含用量的Token费用。该服务起价每月99美元,不设月度Token上限,但受队列限制,外部提供商的费用另行结算。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
迭代是构建过程的一部分。在受支持的开源模型上以固定价格推理运行你的编码 agent,这样再次尝试时,包含用量内的部分不会产生额外的 token 费用。
每月 $99 起。无每月 token 上限。适用队列限制;外部提供商单独计费。
;;!;;!!!!!!!!!!!;!!;;;;;
!!!!!!!!!!~~~~~~!!!=!!!~!!!!!!!!!!;;;
!!!!~~~~~~~~~~~~===~~~~~~~~~~~~~~~~!!!!!!!;!;;
!!!!~~~~~~~===========================~~~~~~~~~~!!!!!!;;;;
;!!!~~~~~~==============+=++=+==+====+=============~~~~~~~~~!!!!;;;;
!!!~~~~==========++==++++++++++++++++++++++++==+++=======~~~~~~~~!!!!!;;;
!!!!~~~=====+=++++++++++++++++++++++++++++++++=====+======~~~~~~~!!!!!;;;
;!!~~~~======+===++++++++++++**++++++++++++++=+=========~~~~~!!!!;;;;
!!!~~~~=====+++++++++++*********************++++++++++++==+=====~~~~~~!!!!;;;
!!=====++++++++xx*******xxxx+++++++++========~~~~~!!!!;;;
!!!!=====+++++++++xxxxxxxx**xxxxxxxxxxxx******++++*++++++++======~~~~!!!!!;;;
;!!~~~====+++++++***xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx**xxxx++++++++++=======~~~!!!!!!;;:
!!~~~=====+++++++xxxxxxxxxxxxxxxxxxxxxxxx%%%%xx%xxxxxxxxxxxxx*****++++++++=======~~~!!!!!!;;;
!!~~~~====++++++*****xxxxxxx%%xx%%xxxxxx%%%%%%%xx%%%%xxxxxxxxxxxxx**x*****++++++=+====~~~~~~!!;!;;;
!!~~~=====++++++xxxxxxxxxxxxxxxx%%%%%%%%%%%%%%%%%%%%%%%%%%%xxxxxxxxxxxxxxx*+++++=+======~~~~!!;;;;:
!~~~~====++++++xxxxxxx%x%%%%%%%%x%%%%%%%%%%%%%%%%%%%%%%%%%%xxxx%%xxxxxxxxxxxxxx+++++++=======~~~~!!!;;;:
!!~~~===+++++++xxxxxxx%%%%%%%%%%%%%%%%%%%%%%%%##%%%%%%%%%%%%%%%%%%%%%xxxxxxxxxxxxxxx+++++=======~~~~~!!;;;;:
!!====++*++xxxxxxxx%%%%%%%%%%%%%%%%%###%%#######%%%####%%%%%%%%%%xxxxxx**************++++++====~~~~!!!!;;;:
!!~~~~==+==++xxxxxxx%%%%%%%%%%%############%%%%%##%%%####%%%%%%%%xxxxxxx***********+++++++======~~~~!!;;;::
!!~~~~==+=+++**xxxxxxxxxxx%%%%%%%%%%%%############%############%%%%xx%%xxxxx********************++++++++======~~~~!!;;;::
!!~~~====++++xxxxxx%%%%%%%%%%%%%%%########################%%%%%%xxxxxxx*****++++++++++======~~~~~!!!;;;:
!!!=====++++xxxxx%%%%%%%%%%%##%#########################%%%%%xxxxx++++++++++++++++++++++++++**++++====~=~~~~!!!!;;;:
!!!=====++++xxxxx%%%%%%#%%%%%#################@@@@@#####%%%%%%xxxx+++++++===++++++++++++++++++++======~~~~!!!!;;;:
!!~~~~=+=++xxxxxxxx%%%%%%%%%################@@#########%%%%%%%xxx*******++++++==++===+++++======++++++++++======~~~~!!!!;;;;:
!!=====++++xxxxxxxxxx%%%%%%%#########@#######@@@@@@@@@#####%%xxxxxxxx+++++++++++++++++==========++==++++++++++++===~~~~~!!!;;;;:
!!~~~====++++xxxxxx%xxx%%%%#%%%#######@@#@@#@@##@@@@@@@@#####%%%xxxxxxxx*++++++++++====+=+=============+==++++++++++++===~~~~~!!!;;;::
!!~~~~~=~==++++xxxxx%%xx%%%%%%%##############@@@@@@@@@@#####%%%%x%%xx****+++++++=============================+++++++=====~~~~!!!!;;:::
;!!!~~~~=====+++xxxxx%xxx%%%%%%%%%#####@@###@@@@@@@@@@@@@@@####%%%xx%xxx*++++++++++========================+++++++=++====~~~~~!!!;;:::
!!!!~~~~~====+++xxx%%xx%%%%%%%%%#####@@@#@@@@@@@@@@@@@@@@#####%%xxx%xx***++++++++=============~~~~~=========++++++=++====~~~!====!!;;;::
;!!!!!!~~~~~===+++xxxxx%%%%%##########@@@#####@@@@@@@@@@@@@@#%%#%%%%xx***+**++++==================~~~~~~~~==========++++++++=~~~~~~!!!!;;;::
;;;!!!!!!~~~=~=+++xxxx%%%%%%##########@@#####@@@@@@@@@@@@@@@%%%#%%%%xx***+**+++===========~~~~~~~~~~==========+++++++==~~~~~~!!!!;;::,
;;;;;;;!!!!!=~~~~!;;!;::,
;;;;;;;;!!!!!~~~===+xxx%%%%%%%%%#####@@###@@@@@@@@@@@@@@@@@####%#%%%%%xxxxx**++++++++++===~~~~~~~~===~~~~~=======+xxx%%%%%%%%%%#####@@@##@@@@@@@@@@@@@@@@@####%#%%%%%xxxxx***++++++++++===~~~~~~~~===~~~~~============+++++++===========+++++++=====~~~!!;;;:::,
;;;;;;;;;;!!!~~~~==++xx%%%%##%#########@@@@@##@@@@@@@@@@@@@@######%%xxxxx*+++++++++++++======~~~==~~~~~~===============++++++===~~~~!!!!!;;;:,
;;;:::;;;;;!!!~~~~=+++x%%%%#########@@@@@@@@@@@@@@@@@@@@@@@#####%%%%xxxxx**+++++++++===========~~~~~~==~~~============++=+++++====~~~~!!!;;;:,.
;::::::;;;;!!!~~~~==++*+xx%%##########@@@@@@@@@@@@@@@@@@@@@@@@@####%%%%xxxxx*****+++++++++===+========~~~~~==~~~============++=++++++====~~~~!!!;;;::.
;::::::;;;;!!!!!=~~~!!!;;;::,.
::::::::;;;!!!!!====++xx%%##########@@@@@@@@@@@@@@@@@@@@@@@@######%%%%xxxxx*+++**+++++===========~~~===~~==============++++++========++xx%%##########@@@@@@@@@@@@@@@@@@@@@@@@#######%%%xxxxxx+++***+++++++==============================++++++=+===~~~~!!;;;;,,.
:::::::::;;;;!!!~~===+++xxxx%%%#######@@@@@@@@@@@@@@@@@@@@@@@@@@######%%%xxxxxx***+*+++++++++++==============~~~==========++++++++++====!!!!!!;::,.
:::::::::;;;;;!!!===+++xxxx%%%#######@@@@@@@@@@@@@@@@@@@@@@@@@@#######%%%xx%xx******+++++++++++++========================++++++++++=====~~~!!!!!;;:,.
::::::::::;;;;!!!=~==++xx%%%%#######@@@##@@@@@@@@@@@@@@@@@@@@@@@@###%%%%%%%%xxxxx**+++++++==++++===================+===++++++++++=====!!!!!;;;:,.
::::::::::;;;;!!!=~==++xx%%%%#######@@@##@@@@@@@@@@@@@@@@@@@@@@@@@###%%%%%%%%xxxxxx+++++++++++++++======++========+++==++++*+++++=====!!!!!;;;:,.
:::::::::;;;;;!!!~~~===++xx%%%%%%########@@@@@@@@@@@@@@@@@@@@@@@@@@@@@####%%%%%%xxxxxxxx+++++++++++++==+++===+++++++++++++++=====!!!!;;;:,.
::::::::::;;;!!!~~~==++++x%%#####%####@@@#@@#@@@@@@@@@@@@@@@@@@@@@@@@#####%%#%%%%%xxxxx*******++++++++++++==+++=+++++++++****+++++=====~~~~!!!!!;;:,.
:::::::::::;;!!!!~~~===+++x%%#####%####@@@#@@#@@@@@@@@@@@@@@@@@@@@@@@@@#########%%%xxxxxxx***+++****++++++++++++++++++**+++++=====~~~~!!!!!;;:,..
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。