首页
学习
活动
专区
圈层
工具
发布
社区首页 >专栏 >WebVIA一键UI生代码,可验证零手写

WebVIA一键UI生代码,可验证零手写

作者头像
梯度不陡
发布2026-05-18 20:05:57
发布2026-05-18 20:05:57
750
举报

“复制一个带交互的网页,AI只能吐出死板的静态HTML?”——这项研究把这句吐槽直接打脸。该团队开源的WebVIA让AI像真人一样“点点填填”,93%交互路径被自动穷举,一键生成可跑通的React+Tailwind代码,功能还能回放自测。UI→代码,终于从“看起来一样”进化到“点起来也对”。

3 秒看懂:UI→代码终于能点得动了!

WebVIA把Figma稿扔进模型,3 秒吐出可点、可输、可跳页的活网页;过去AI止步于静态网页,按钮僵死、表单虚设,前端工程师仍需手写交互。该论文首次让机器像验收员一样点击-输入-选择DOM操作准确率达97%,事件绑定零人工补写。

为什么你家的 AI 还在“画”网页?

Gemini-2.5、Claude与GPT-4o在真实网页“点击考试”中集体失分:导航栏“发布”icon被当成装饰,代码里漏按钮;开关切至“ON”后,模型仍输出灰色“OFF”,状态机失联;首次生成的表单看似合规,人工改字后DOM层级错位,按钮漂至页脚。三大翻车现场显示,Vision-Language Model把网页当静物素描,仅追像素级相似,无视事件绑定交互图,导致再华丽的“画”也点不动。

WebVIA 的“点-生-验”闭环长啥样?

WebVIA 的“点-生-验”闭环用 7B 参数模型把网页克隆成功率抬到 100%。探索代理在自研 WebEnv 里并行跑 BFS+DFS,5 秒捕获 300+ 可交互节点,输出带 XPath 标注的 交互图UI2Code交叉注意力对齐像素与 DOM,一次生成 React+Tailwind 源码,零后处理即可保留事件监听;验证模块Playwright 脚本回放全部状态转移,自动标记通过/失败,实现功能级闭环验收。

数据不说谎:覆盖率 93%,得分暴涨 5+

在UIExplore-Bench的横向测评里,WebVIA-Agent以93.1%动作覆盖率领先第二名Gemini-2.5-pro 18个百分点,刷新SOTA纪录;同期UIFlow2Code-Bench榜单上,WebVIA-UI2Code把成绩锁定在75.9/84.9,比此前的Claude-Sonnet-4再抬5+分。深红柱状图与绿色箭头并排矗立,93%与5+分的差距无需多言,WebVIA系列已将静态解析与交互生成两条赛道一并改写。

上手零门槛:从截图到可点页面只需 3 分钟

开源仓库一次性放出11k WebView合成数据与推理脚本,本地RTX 4090单卡即可运行。克隆、装包、运行demo.py三步固定,3分钟内把截图变成可点页面。模型WebVIA-UI2Code-7Binteraction graph顺序吐出React+Tailwind代码,Playwright即刻验证点击、输入、选择,终端回显pass/fail一目了然。内置外卖表单、计算器、绘图板示例,显存占用**<10 GB**,换图只需在config.yaml里把action space限定为click/input/select。

结语:下一步,让 AI 把网页“测”到上线

WebVIA把“可点”写进UI生成标准,覆盖率93%交互得分84.9%,让前端从截图到可上线只剩一次回车。动作仍限点击/输入/选择真实DOM事件手势动画待解锁。下一步,接入原生事件流、扩展Draw-Drag坐标精度,工业级CI有望把网页“测”到上线。当AI能自主点、测、发版,前端工程师的下一行代码将写向何处?

论文地址:https://arxiv.org/abs/2511.06251 项目地址:https://github.com/zheny2751-dotcom/WebVIA

本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2025-11-19,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 梯度不陡 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
目录
  • 3 秒看懂:UI→代码终于能点得动了!
  • 为什么你家的 AI 还在“画”网页?
  • WebVIA 的“点-生-验”闭环长啥样?
  • 数据不说谎:覆盖率 93%,得分暴涨 5+
  • 上手零门槛:从截图到可点页面只需 3 分钟
  • 结语:下一步,让 AI 把网页“测”到上线
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档