当前位置:文章 > 列表 > 正文

超6万GitHub课题实测:Agent写代码效能暴涨,通过率仍掉队苍生

📅 2026-02-20 10:49:04 🏷️ 六堡茶如何正确存放 👁️ 409
超6万GitHub课题实测:Agent写代码效能暴涨,通过率仍掉队苍生

近期,加拿大女王大学博士后李豪与所于团队于一项研讨中首次构建之一名大规模数据集 AIDev,体系剖析与统计之自立编码 Agent 于 7,000 多名较流行之软件中之实际表现与影响。

彼等发觉,AI 于编写代码或文本方面之差事中表现优异,例如从文档相关之合并请求接受率来看,OpenAI Codex 与 Claude Code 分别为 88.6% 与 85.7%,而苍生于该方面表现为 76.5%。

” 图丨李豪(来源:受访者) 李豪指出,该研讨最大之不同点于于,AIDev 为确凿全球、大规模、实时采集数据之数据集,更贴近于业界实践与制造。

从更长远之演进来看,探求更自动化与标准化之审查机制,也为一名值得深入研讨之方位。

林智

此意味之,AI 写代码并非全面逾越之苍生。

例如,一家公司若将测试题目用于操练模型,极有或因“作弊”导致分数虚高。

例如,假如 AI 写代码之 Agent 与审查代码之机器者自同一公司,甚有或于AI审查环节忽视某些特定类型之过失。

编程者员之角色也会逐渐从写代码之者,转换成提供代码审查或提供管模式之者。

当前,AI 正从器物变为苍生之“队友”。

胡磊

目前,吾等也于做相关之研讨,来探求新一代软件掘发流程来支掘发者们使用 AI Agent。

其覆盖范围包括于 GitHub 平台上已提交之超 45.6 万条 Agent 代码合并请求(PR,pull requests),涵盖 6.1 万名代码库与 4.7 万名掘发者,包括主流之 AI 编码器物 OpenAI Codex、GitHub Copilot、Devin、Cursor 与 Claude Code。

于以上所有之干活差事中,细心之观众或还发觉之,小盖机器者干起活来之举手投足比其他机器者皆更像真者,透之一股亲切感。

掘金。

该团队还发觉,编码 Agent 之合并请求接受率比苍生掘发者低 15% 至 40%(不同差事类型下区间差异显著),尤其为于新功能掘发、修补 Bug 等繁之差事方面。

彼等还打算建立新学识库,推动领域内之研讨者员共同改善相关方位,包括如何更好地预测与剖析AI或之败场景,以及败缘由等。

合并请求接受率为衡量 AI 产出品质与可信度之枢纽指标,它与苍生掘发者/课题维护者对 AI 贡献之认可度密切相关。

此外,研讨者员还可使用该数据集打造更新之 benchmark。

而 AI 于自言辞办理方面之优势,也同样值得关注。

小埃梅里

该研讨通过剖析自立编码 Agent 之表现,为前景更好地改良者与 AI 协作提供之数据根基。

研讨团队于 AI 编码 Agent 之速度与品质方面找到之有趣之发觉。

”李豪表示。

ChatDev。

一项名例剖析结局显示,有掘发者于用 AI 编码 Agent 后,3 天内成之差事量接近其过往 3 年之总量。

但此也带来之甚多应战性之疑难。

随之大模型之加速演进,AI 于软件营造领域之作用已不再为辅助代码补全,而为正成为可自立编码之智能体(Agent)。

steinberger

需看到之为,尽管目前 AI 编码 Agent 生成速度甚快,但性能方面还有一些缺陷,于架构上也相待较简,需研讨者员续对其进行增强,以确保代码之长期可维护性。

1.相关论文:https://arxiv.org/abs/2507.15003v1 研讨者员于 AI 领域与软件营造做相关研讨时,往往会选择用 SWE-bench 做测试,通过交给 AI 一些高品质、有测试样例之差事,来改良 AI 性能以及改良体系设计等。

长城站

相关论文以《软件营造 3.0 中 AI 队友之起飞:自立编码 Agent 如何重塑软件营造》(The Rise of AI Teammates in Software Engineering (SE) 3.0: How Autonomous Coding Agents Are Reshaping Software Engineering)为题发表于 arXiv[1]。

目前,相关代码已于 GitHub 开源。

“该方位于学界与产业界还存较大之空白。

昏天黑地。

今,吾等只需向 AI 描述代码欲实现之功能,它就能自动生成完整代码;借助 Agent,甚至能于十几分钟内成千行级别之代码生成或修改。

此外,由于 SWE-bench 为一名静态之基准集(benchmark),部分数据有或存必滞后性。

神圣。

此外研讨还揭示出,尽管 AI 之现推动之者机协同审查流程,但同时也或会带来偏见等疑难。

例如,OpenAI Codex 之 PR 接受率为 64%,而苍生掘发者之 PR 接受率高达 76.8%。

此也带来之一种全新之生成模式,掘发者面临之疑难不为如何写更多之代码,而为接到一项差事后,如何拆分成更细之差事,再管此些 AI 更好地执行。

当 AI 用 3 天成苍生程序员原本3年之代码差事量,苍生之角色会生怎样之变化。

卢卡

李豪对 DeepTech 表示:“短期看,AI Agent 之代码接受率相待苍生较低,效能与品质之取舍仍需权衡(trade-off),但此种磨合期对应之为数据飞轮之启动阶段,形成飞轮效应后,吾等有望得制造力之显著提升。

知名企业

2.AIDev 数据集获取:https://github.com/SAILResearch/AI_Teammates_in_SE3 于前景之研讨中,该团队谋划建立更全面之 benchmark,对 AI 编程 Agent 进行确凿之表现评测。

元曲。
文心一言。

上一篇:西班牙者vs塞尔塔:恩贡戈、卡夫雷拉首发,马科斯-阿隆索、博尔哈-伊格莱西亚斯出战 下一篇:巴斯托尼:有者说我被彼些批与舆论击垮之,此无对不为事实

TensorFlow。