技术

死磕一个网页感知系统的来时路

想想来时路一开始,我只是想做自媒体,抓点站点数据。结果爬虫简单,维护起来没完没了。为了少维护,那时候想早上去上班晚上回来拿数据,不用自己值守,于是就开始给自己找方向。
那时开始构思这样一个工具:不用给每个网站单独写规则,在允许的范围内,把页面上能核对的事实交出来。我从第一个站开始,记得那时候 GPT5 刚发布不久,一点点摸索、踩坑、研究哪些规律换到另一个站还成立。弯路走的太多,第一版建模核心做出来时,已经过去半年。
后来 OpenClaw 火了,我开始想,能不能把这套感知交给 Agent 用。那段时间经常熬夜琢磨一件事:同一个网页,我扫一眼就知道该点哪,模型怎么就走偏了?它是没看到、理解错了,还是点了以后页面根本没变?
我开始把模型当时看到的页面、选中的对象、动作后的变化都存下来。最早一次记录只有几百 KB ,后来硬盘里攒了约 120 GB 的记录。慢慢地,任务跑偏时,我终于可以回到那一步,看看是页面没把事实交出来,还是模型拿着事实做错了判断。
后来系统慢慢健壮,我想知道一件事,自己做的东西能不能跟 Browser Use 掰掰手腕。于是挑了一道从 Investing 查行情、再到 SEC 找申报文件的题,做了六对同题测试。两边都用 DeepSeek V4 Pro ,适配和运行配置有差异。按同一套固定规则,EH 过了 6 次,Browser Use 过了 1 次。结果只说明这道题、这两套配置下发生了什么。对我来说,也算是没有观众的一次自我证明。
再后来稳定性验证,50 道自然语言任务,有经验和无经验各跑了 3 轮,共 300 次。两组各累计跑了十多个小时,执行期间没有人工接管。我事后逐份核交付,298 份通过。那些没交好的任务也有价值:有记录可翻,就知道该从哪儿查。
还有个没想到的收获:可审计的运行记录也能拿来训练模型。用熟悉任务前十遍的记录继续训一个 1.7B 模型,在之后 2,805 个离线步骤里,它选中同一控件的比例是 79.3%,同批评估中的 DeepSeek Flash 是 79.6%。参照的是历史驾驶模型的选择。到了没见过的任务,还有差距;整题能不能交付,还要继续研究。这大概算一个小小的数据飞轮,唯一遗憾就是受设备能力限制没办法尝试更大尺寸的本地模型。
以现在为节点回头看,最初只是不想维护爬虫。最后做出来的是一个不依赖逐站规则的网页感知核心:它把页面上能核对的事实交出来,决策和执行留给各自的层。这不到 7MB 的程序与 300 多 GB 的产物,包含了这一年多无数个深夜苦思难眠,也算给自己一年多以来的一个交代。


⚠️内容来自互联网,如有侵权请点击反馈!侵权投诉
本帖共 1 条回复,登录后即可查看

回复

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

hot.热文换一批
  1. 宇宙到底是大还是小?一张纸对折103次的厚度,宇宙已装不下
  2. 别眨眼!人类首次"看见"光子!你家灯泡里全是它!
  3. 二十出头就显成熟?揭秘上一代人的"大人模样"背后原因
  4. 明明含有氢和氧,氢可燃氧助燃,为什么水偏偏不能燃烧?
  5. 🎉庆祝应用中心上架15个插件了,抽波优惠券![开奖时间:2026-04-26 20:00]
  6. 人类已发现外星生命?科学家:就在12亿公里外,可能以甲烷为食
  7. 又一个新游戏上线了,欢迎体验!
  8. 自来水微塑料3000万/升,煮沸后降到480万,比桶装水高还是低?
  9. 女装退货率飙至80%,商家为何挂密码锁发货?
  10. 古人为何50岁就百病缠身?揭秘1972年7月30日“马王堆女尸”出土之谜
  11. 世界上最凶猛的10种鸟,金雕到底有多厉害?猎杀野狼轻而易举?
  12. 中国真挖到“宝”了!海水里藏45亿吨铀,美国70年难题被突破
  13. 太阳和银河系之间,还有一个神秘结构?
  14. 科学家:在人类出生前,有两种神秘的力量帮助构建了人脑
  15. 下潜到1万多米的海底,人类发现了不该出现的东西?需要引起警惕
  16. 🌱牛马论坛-每日早报-2026年10月08日
  17. 终于装上了LightSNS,然后模块一通买,还是花了上千
  18. 吃一块能顶一天?军用压缩饼干为啥抗饿?
  19. 牛马论坛[NIUMABBS]-行为规范准则
  20. 小时候父母不让玩手机的秘密,网友亲测:经历过才懂!
  21. [Day 21] - 10.26 - Tibo 又要重置了
  22. 测试
  23. day 22 - 今天 tibo 又重置
  24. 1000 美金预算还剩 998,我让 AI 开启了「付费软件斩杀计划」(Day 7 / 7)
牛马论坛(niumabbs.com),一个专注于分享日常新鲜事、职场工作点滴、摸鱼乐趣与各类生活感悟的交流平台。

    关注我们

  • 加入Q群
  • 微信客服
  • QQ客服
Copyright © 2026 NIUMABBS 版权所有 All Rights Reserved. |网站地图 劰载中...
关灯 在本版发帖
扫一扫添加微信客服
QQ客服返回顶部
快速回复 返回顶部 返回列表