
Solveit 推出以代码互动学习 AI 概念的编程助手
来源标题:Solve It with Code
Solveit 推出编程学习工具,通过对话式代码交互帮助用户理解 AI 概念。示例中助手逐步引导实现 self attention,指出矩阵转置错误并修正,用户称其是首个真正协作的 AI。工具强调构建理解、掌握技能并保持对工作的自主权。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
Solveit 帮你达到精通,并热爱你的手艺。
嗨!我想了解自注意力机制,你能慢慢给我讲一遍吗?
当然!自注意力需要三个矩阵:queries、keys 和 values。我们把每个 query 和每个 key 进行比较,对分数做 softmax,然后用这些权重来混合 values。想一起试着实现一下吗?
def attn(q,k,v): s = q @ k return s.softmax(-1) @ v
RuntimeError: size mismatch (4x8 and 4x8)
很接近了!你需要转置 k,让内层维度对齐。试试 k.transpose(-2,-1)。
def attn(q,k,v): s = q @ k.transpose(-2,-1) / k.shape[-1]**0.5 return s.softmax(-1) @ v
attn(q,k,v).shape
哇,谢谢,你是第一个真正和我一起干活的 AI
建立理解,发展精通, 并对你的工作保持自主权。
我在细读这篇论文。你能解释一下图 1 里的三个任务吗?
当然。它们覆盖了一个复杂度谱系:• S-NIAH:在一段长文本里找出一个短语。工作量与输入长度无关。• OOLONG:对每一行分类,然后聚合。工作量线性增长。• OOLONG-Pairs:对每一对行进行推理。工作量按平方增长。
「needle」这个说法有点模糊。给我一个具体的例子。
对于 S-NIAH:10 万个 token 的填充内容,中间插入一行「The magic number is 4827.」。任务问的是「What is the magic number?」,所以加长 haystack 并不会改变工作量。
import duckdb path = 'hf://datasets/oolongbench/oolong-synth@~parquet/**/*.parquet' df = duckdb.sql(f"select * from '{path}' where dataset='trec_coarse' limit 1").df() df.iloc[0].question
'In the above data, which of the labels is the most common?'
def index(): return Titled('Brew', P('Fresh coffee, roasted daily.'), Grid(*[Card(p) for p in beans]))
srv = JupyUvi(app, port=8000) print('Your app is running at:', srv.url)
Your app is running at: https://peaceful-fox-guards-86d0ln.solveit.pub
不要把你的思考外包给 AI。用 AI 来成为更好的问题解决者、更清晰的思考者、更优雅的程序员。
很多时候,感觉是 AI 最终掌控了局面,而不是我们掌控自己正在做的事。Solveit 方法是一种替代方案。它围绕小步迭代展开,由你来驱动探索和构建的方向。你可以用 Solveit 读论文、学数学、审合同、分析数据、写书,以及开发软件。
看 Jeremy 讲解 AI 如何帮助或阻碍你的个人成长
SolveIt 是对 AI 的一种非常积极的用法。它在增强你的技能,而不是试图取代它们。
SolveIt 真正带来差别的地方在于,它不只是帮你达到最初的目标,还帮你更好地理解你正在处理的问题,并让解决问题这件事变得更有趣。因此,它给你更多信心去设定更高的目标、接手更有挑战性的问题。
SolveIt 方法的一个优势是,它为那些完全取代人类创造者的 AI 工具提供了一种对冲。SolveIt 方法源自一种 AI 哲学,这种哲学与对手艺的深切投入和对细节的关注相契合,也更适合创意写作者和英语教授。
添加银行卡即可获得 3 美元免费额度。 之后,只为你实际运行的部分付费。
输入你的邮箱,加入我们的邮件列表。
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。