返回资讯中心
外部精选
软件工程
#开发者实时流

AI教育创业公司前CTO自述:靠免费额度和创业计划几乎零成本运营

来源标题:We Run a Bootstrapped AI Startup on Almost Zero Operating Costs

一家AI教育创业公司的前CTO撰文披露,团队几乎不花钱跑完了产品所需的LLM、语音识别、数据库、监控等服务。这些服务主要来自各厂商的创业扶持计划、赠送额度和免费套餐,并非通过风投或加速器渠道获得。公司仍承担员工薪资、一台两年期VPS及少量其他开支,整体SaaS账单远低于常规水平。

Hacker News 最新divija072026/11/11 · 6 天前27 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

我是这家AI教育科技初创公司的联合创始人兼CTO。2026年10月,我离开了这家公司,去做一些我感兴趣的其他领域的事情,尤其是推理工程——这也是我目前正在学习的方向。在离开之前,我想记录一下我们是如何在不自掏腰包为每一项SaaS服务付费的情况下,把大部分产品基础设施跑起来的。

产品包含一个LLM聊天流程和一个AI模拟面试功能,所以我们需要不少服务:LLM、语音转文字、文字转语音、数据库、分析、错误追踪、抓取、监控、邮件,以及围绕这一切的常规基础设施。

SaaS账单比原本可能产生的要小得多。工资照发,计算资源也不是免费的。我们买了一个两年期的VPS套餐,还有一些其他小额支出。但产品周边的大部分服务都由创业扶持计划、credits或免费额度覆盖了。

我们是自筹资金的。这些资源大多不是通过VC推荐或某个加速器网络拿到的。基本都是我自己去找项目、填表、申请。下面是我们拿到了什么、实际用了什么。这是我还在公司时这套配置的快照,不代表我如今还在运营这家初创公司。

关于可用性的说明:这些是我们的账户实际收到的offer。它们并非每个初创公司都能保证获得的条件,credits和免费额度也可能变化。其中一些授予还会过期。

我们首先需要LLM,于是申请了Sarvam Startup Program并获得了通过。我们收到了25,000卢比(约合267美元)的credits。对我们来说更大的好处是账户附带的Business层级配额:1,000 rpm。该项目的配额有效期为六个月。

我们用Sarvam-105B做通用聊天补全和推理。它不是我会为所有可能任务都选择的模型,但我们的用例相当有限。对于我们让它做的事情来说,它绰绰有余。

1,000 RPM这个数字是我们收到的配额专属的。我不认为每个Sarvam账户都能拿到这个数。Sarvam在限流文档中为不同API分别公布了限额,所以要看dashboard,不要把LLM配额当作所有服务的上限。

关于Sarvam-105B的常规API定价还有一个有用的细节。按公布的价格,输入为每100万tokens 15卢比,缓存输入5卢比,输出60卢比。

按2026年11月10日约93.85卢比兑1美元的USD/INR参考汇率计算,大约相当于每100万tokens输入0.16美元、缓存输入0.05美元、输出0.64美元。这些是四舍五入的换算,不是Sarvam收取的美元价格。卢比价格不含GST。

定价在Sarvam的API定价页和Sarvam-105B模型页上。汇率换算只是粗略对比,会随USD/INR变动。

模拟面试功能需要语音转文字和文字转语音。候选人说话,我们转写答案,发给LLM,生成下一个问题,再把这个问题读出来。这是一个循环,不是开头一次LLM调用、结尾一次LLM调用。

对于STT和TTS,我们申请了Deepgram Startup Program。他们一开始给了我们1,000美元credits,并提供了在初始credits用完后申请更多(一年内最高10,000美元)的途径。

这些credits很有用,但我们不得不围绕设计的重点是并发。Deepgram的限流文档把流式STT和流式TTS的限额分开。它们因模型、区域和套餐而异,并且是按项目而非按API key生效。在印度endpoint上,公布的限额包括最多150个并发流式STT请求和最多45个并发Aura/Aura-2流式TTS请求。这些是并发请求,不是每分钟请求数。

我们为TTS加了一条fallback路径。当Deepgram达到限额或开始拒绝请求时,下一代可以走另一个供应商。切换在后端发生,所以候选人不需要知道某条回复是哪个供应商生成的。

下一层,我们申请了ElevenLabs Grants Program。我们收到了33,010,000个credits用于STT和TTS,另有1,000,000个credits用于图像和视频,以及一个免费的Scale订阅。该订阅有效期为一年。唯一条件是你需要在网站上某个地方放上他们的logo。

ElevenLabs是一个有用的备用方案。其公布的模型限额按模型系列拆分并发:Scale的数字是Multilingual v2 TTS为15,Flash TTS为30,实时STT为45。创业grant账户获得Scale级别的权益。所以“Scale并发”并不是一个通用数字。你使用的模型和API很重要。他们的限流文章解释了请求速率和并发生成之间的区别,以及为什么WebSockets对对话类工作负载有帮助。

我们还把Sarvam STT和TTS加为另一个fallback。这样当面试流量突然增加或某个供应商状态不佳时,我们还有另一个选择。我也申请了GLM创业项目,但没有通过。

接下来是Cloudflare for Startups。我们收到了10,000美元Cloudflare credits,这带来了很大差别,因为我们在很多方面依赖Cloudflare:CDN、缓存、安全、R2存储、Workers、Durable Objects、Realtime、Zero Trust、SSL/TLS、DNS和D1。

它让我们能用上付费的Cloudflare功能,而在这么早期我们本来可能会避免为此付费。我们已经有大量产品跑在Cloudflare上,所以这些credits流向了我们实际在用的东西,而不是仅仅因为免费就注册的某个服务。

分析方面,我们用了PostHog。我们申请了它的创业项目,获得通过并收到了50,000美元credits。我们用它做功能开关、产品分析和问卷。他们还给我们寄了一些周边,不知怎么的一路从俄亥俄州Loveland寄到了我们这里。

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →