中大本科生反AI逆向项目火了!让黑客Token账单原地暴涨300倍
BLA会在文件里放入格式逼真的假凭据,让Agent把Token浪费在其实完全没有价值的假线索上。
以下正文同步自 量子位,版权归原站所有,已转换为易读排版。
第一坑:投毒
BLA会在文件里放入格式逼真的假凭据,让Agent把Token浪费在其实完全没有价值的假线索上。
一个典型例子是诱饵Source Map。
网页的JavaScript经过打包压缩后,代码常常挤在几行里。Source Map可以告诉调试器,这一行对应原始项目里的哪个文件、哪个位置,有时还会附带源码正文。对逆向工具来说,这是一份现成的路标。
BLA会生成一份格式有效的映射,里面附上虚构的源码路径和代码片段。比如,它可以让一段普通的客户端代码看起来像是在调用硬件安全区,还附上远程认证的接口和注释。如果Agent把这些内容当作证据,就可能沿着一条根本不存在的调用链继续查。
类似的诱饵还有假凭据、假诊断信息和看起来像授权逻辑的代码分支。
第二坑:卡爆分析器上限
这一步更直接,就是精确触发分析器内部硬编码配额上限,让工具报错。
拿Electron常用的.asar包来说,包头有一份索引,记录包里有哪些文件。BLA的最强加固档会往里塞约4000条诱饵文件。每条文件内容很短,路径却很长,主要体积就堆在了索引上。
测试显示,对一个607字节的包进行BLA加固,加固后文件变成了16.93MiB,包头超过了REA的默认上限,读取直接报错。
不过这个默认上限是可以提高的,另外,这一步处理也会让包变大。
效果方面,项目作者做了实测+估算。
13个BLA加固前后的对照项显示,其中7项在被测步骤报错或被拒绝,2项返回部分结果,1项只在指定查询时报错,其余3项没有观察到REA分析被阻断。
成本估测上,作者内部测试后表示,加固后逆向AI的Token消耗约为原来的300-2800倍。用GitHub仓库的14个示例估算,加固后的总Token消耗约为加固前的639.5倍,总费用约为304.4倍。
中山大学本科生项目
BLA的主要作者TImo Zhang,是中山大学软件工程专业的大三学生。
目前在字节跳动实习。
BLA之外,他还有一个500+的项目“mu <span data-annotation=
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。