返回资讯中心
外部精选
软件工程
#开发者实时流

开发者用合成数据训练血糖预测模型,并用LoRA适配个人数据

来源标题:Show HN: I have trained a model to predict my blood sugar

一位开发者训练了一个仅3.1万参数的小型编码器Transformer,先用约19200个CGM年合成数据预训练,再用LoRA适配自己115天的真实血糖数据。该模型在预测表现上与其他已发表模型具有竞争力。作者称在手机上试用后,感觉模型在考虑未来胰岛素和碳水摄入时反应合理。

Hacker News 最新0xdeadf1sh2026/11/13 · 4 天前4 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

我在预先生成的合成 CGM 数据集上训练了一个自定义的、参数量为 31,253 的纯编码器 transformer,并用 LoRA 将其拟合到我自己的个人数据上。它的表现与其他已发表的模型相比具有竞争力。我使用了 115 天的 CGM 数据,其中 80 天用于训练适配器,35 天用于测试。模型首先经历了一个预训练阶段,在此期间它消耗了约相当于 19,200 个 CGM 年的合成数据,这些数据由 100 万名模拟的 1 型糖尿病患者各 7 天的数据组成。该模拟器旨在辅助反事实推理,但我目前还没有基准来在下游测试这些能力。仅在我的手机上使用这些模型,就让我感觉它们在被迫考虑未来的胰岛素和碳水时确实会做出适当的反应。除了时间序列输入外,还提供了两个额外的输入:胰岛素(U)和碳水(G、GI)作为作用曲线,其中 U = 胰岛素单位数,G = 碳水克数,GI = 血糖生成指数。U 是精确的,而(G、GI)是我的最佳估计。模型被训练为使用 {DILATE, MSE} 和 pinball 损失并结合学习到的 Kendall-Gal 权重,在 Kovatchev 风险空间中输出 BG。上图显示的是使用 DILATE 训练的模型。它可以预测未来 2 小时的情况、填补缺失的轨迹,并进行回溯预测(对过去的预测)。该模型还被训练为根据过去的血糖预测一天中的时间,这与将一天中的时间作为输入特征的其他模型形成对比。这种能力在 >=48 小时的上下文窗口(即 48 小时的过去 CGM 轨迹)中出现。原生情况下,模型具有 3.5 至 7.0 天的可变上下文窗口大小。在预测未来约 30 分钟内的低血糖方面,该模型仍然不如我。 评论 URL:https://news.ycombinator.com/item?id=50489490 点数:1

评论数:0

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →