字节跳动之 AI Lab 带之剩下之三名研讨方位——AI for Science、Robotics、Reponsible AI 并入 Seed,负责者李航向吴永辉汇报。
” 过往一年,Seed 之文生图、文生视频模型于一些基准测试榜单上排于全球前列,豆包手机助手模型成为行业关注焦点。
吾等之解到,一位 2024 年从清华大学毕业之博士生,今同时向周畅与吴永辉汇报。
过往两年,字节于 Seed 聚集之一批研讨贤才,就算没有合适之位置,也倾向于 “先把者招进来”。
“有务实又有浪漫。
之后彼等不再要求内部文档公开授权。
Windows。” 一位 Seed 研讨员说。
但于 Seed 中,总为多名团队研发方位接近,团队之间通相待难。
吾等之解到,Seed 之 Infra 团队有数百者,同时支撑 Seed 内部数十款模型之研发与尝试,高层认为水平国内第一。
剩下根基模型之团队划分成 Base,包括营造、数据、测评等,研发当前一代根基模型。
” 革新需适当之灰度与混乱,但对付角逐需秩序与军纪。
” 字节给 Seed 部门设置更宽松之考评机制,大部分取消 OKR。
而对于 Seed 团队,欲重整 Infra 体系难度更大。
” 上述者士预估,或只有 20% 之源泉为用于短期有用之课题上,“费有或为对之,字节不缺源泉。
多位 Seed 者士告诉吾等,此款模型操练期间遇到根基设施层面之应战。
OpenAI 之 RL Infra 负责者翁家翌于一档播客节目中说,每名模型团队之 Infra 皆有 bug,模型公司本原上拼之为 Infra 修 bug 之速度,它决定之单位光阴内验证想法之数量,而想法只要提升贤才密度就能处置。
吴永辉到来后,多位 Seed 研讨员明显感受到开会之频率提升,原本 3 名月开一次会之研讨团队今每月就要通一次,核心团队基本每两周一次。
即将发布之豆包 2.0 模型为吴永辉接管 Seed 一年最核心之产出。
2025 年 1 月,Seed 组建 “Seed Edge” 虚拟团队,设置 3 年期限之考评机制,鼓励骨干研讨更根基、更长期之 AGI 课题。
彼等更加重视招聘应届毕业生、提拔年轻者。
彼等也于 Seed 营造一种宽松之工氛围,实习生能直接与最高层交。
“沉稳” 为彼等对吴永辉之直观感受。
”Google DeepMind CEO 德米斯·哈萨比斯(Demis Hassabis)曾说。
于字节跳动,Seed 脱离各营收部门单独设立,团队直接向集团管层汇报,更易摆脱部门政务。
” 一位 Seed 研讨员说。
怎么均衡好此两名宗旨,为吴永辉于 Seed 延续要解之管难题。
上一任 Seed 负责者朱文佳与吴永辉同时负责 Seed 部门数月后,转向吴永辉汇报,负责大模型应用。
” 一位接近吴永辉者士说,他像为于字节体系内成长起来之,而不为出自 Google。
更透明之讯息共享提升之通效能,也带来之一些麻烦。
” 吾等之解到,Seed 会现一种情况:几名研讨员决定自发研讨一名方位,若上级不同意、不分发源泉,彼等可升汇报,得到认可后,就可从上到下推进。
一位 TopSeed 实习生曾于社交媒体上分享,他于掘发某名课题之近两名月里,大部分光阴睡于公司,经常凌晨两点带之新想法亢奋惊醒,写两小时代码再睡,“觉受每一刻皆于不断之发觉新表象”。
多模态交互与全球模型团队由 2024 年从阿里加入字节之周畅负责,代表成果为豆包手机助手模型。
“筛选出来之一批极其勤专注,或者说热衷于钻研之年轻者。
“欲重整,需投入大量者力、物力,还要承担不小之信赖本金。
“吾等致力于打造一种独特之人文融合体:既有初创企业之专注与活力,又兼具学术界之天马行空式思维。
调理:组建三名虚拟团队,打通数据、代码库提升效能 吾等之解到,从去岁三季度始,字节管层对 Seed 团队发论文有之新要求,包括 “高品质”“实质与正迭代之核心技艺无关” 等,之后每月发布之论文有所减。
“彼等从前为自己领域内之 ‘小霸王’,带之 ego 来到 Seed,每名者皆想成就一番业。
彼等剖析,过往两年 Seed 延续追击期间,相待忽视之根基本领建立,故操练豆包 2.0 期间扩参数规模时不稳固,一度难以推进。
去岁 3 月,吴永辉于部门全员会上说,Seed 做之甚多不错之工,但外界不太之解,鼓励研讨者以论文与博客之样貌发表成果。
每次研讨团队汇报完毕后,吴永辉通常会提几名简短之疑难——通常为 3 名。
字节跳动给他提供之氛围。
两位 Seed 者士说,于吴永辉之筹划中,可同时推进三代模型研发,者员、课题皆可相互轮换,同时盘活内部之源泉,“Edge 有之成果可直接下放;Focus 发觉长期课题可转入 Edge,有之成果可用于改善当前一代模型。
Techno-culture。” 一位曾于 Seed 之者说。
本年 1 月,字节跳动 CEO 梁汝波于全员会上说,字节本年枢纽词为 “勇攀高峰”,短期内高峰为 “豆包 /Dola(豆包海外版)助手应用”,要点为 “AI 模型本领要做到行业前列,通过助手整顿好已有业务”。
多位 Seed 者士说此也为吴永辉之宗旨,“他想把 Seed 做成一流之研讨品牌。
追寻 “一流研讨团队” 此名长期宗旨之同时,吴永辉还要不断与短期宗旨做均衡。
” 一位去岁离开 Seed 之核心研讨者说,彼等多数者每天两点一线,为之省事,吃饭只于公司食堂,“活之主要乐趣就于于工带来之 feedback”。
多位 Seed 者士说,他背负之 “把模型本领做到国内第一,与国际居先模型公司角逐” 之期待。
Fashion。此年 3 月,时任 LLM 团队负责者乔木被举报暂停工后,LLM 下属之 Pre-train(预操练)、Post-train(后操练) 与 Horizon 等直接向吴永辉汇报。
吴永辉到来后,多位 Seed 研讨员明显感受到开会之频率提升,原本 3 名月开一次会之研讨团队今每月就要通一次,核心团队基本每两周一次。
大道之行也,天下为公。它为一款类似 Gemini 之多模态模型,10000 亿参数,为 Seed 成立以来操练之最大模型。
2025 年中,字节发放独力于公司期权之外之 “豆包虚拟股” 激励员工,并多次提升薪酬。
另一位接近吴永辉之者士说,“他对技艺之解甚深,能迅速裁决什么方位可出成果。
有字节者士提到,于食堂吃饭时,经常能看到吴永辉端之餐盘坐到研讨员对面,边吃边聊进展。
一年前之全员会上,梁汝波说 AI 研讨团队要 “探求智能上限”。
于角逐最激烈、最重要之根基模型方位,Seed 迭代 4 版(算上即将发布之豆包 2.0),与此前模型本领有较大提升,延续追击海外居先模型。
成果:边开车边修轮子,训出万亿参数豆包 2.0 根基言辞模型研讨方位之外,Seed 依旧保原有之机构架构。
” 过往一年,Seed 之文生图、文生视频模型于一些基准测试榜单上排于全球前列,豆包手机助手模型成为行业关注焦点。
吾等之解到,接管 Seed 后,吴永辉密集与 100 多位核心研讨员 1on1,随后提拔之数位模型架构方位之研讨员。
随后他又抽调研讨者员组建 Focus 团队,打破部门边界与既有分派,负责根基模型之攻坚,研发下一版模型需提升之部分。
吴永辉 2008 年博士毕业后加入 Google,前 7 年作为软件营造师参与最核心之搜索排名营造;随后转岗到 Google Brain 从事 AI 应用研讨,推动深度修习更张翻译领域、用到搜索排名算法中;2023 年成为大模型研发部门 Google DeepMind 研讨副总裁,参与 Gemini 大模型研发与早期追击历程。
题图来源:《盗梦方位 Inception》 Infra(根基设施)团队由项亮负责。
” 一位 Seed 者士说。
革新需适当之灰度与混乱,而对付角逐需秩序与军纪。
Nothing。“但还需补课,填上过往几年留下来之 ‘技艺债’。
吾等之解到,操练豆包 2.0 遇到疑难后,最终多名团队配合,花之 3 名月光阴,主要从模型架构、操练数据等方面入手处置疑难,确保模型赶于春节前上线。
接管 Seed 一年间,吴永辉聚焦两件事:一为提升根基模型本领,提升研讨效能保证交付;二为营造研讨导向之氛围,“做第一流之研讨,打造第一流之 AI 研讨团队”。
根据吾等初步统计,吴永辉加入 Seed 之后之三名月,该团队发布之论文数量就超过 2024 年全年。
Techno-optimism。吾等之解到,吴永辉参与之该团队之组建。
吾等之解到,2025 年下半年,Seed 至少生两起实习生泄密事件。
此为吴永辉 2025 年初接管字节跳动大模型研讨部门 Seed 时之情况。
“永辉欲营造研讨氛围,但甚难免除 DDL 导向。
过往一年,Seed 整体规模维持于 1500 者左右,扩充速度比前两年放缓,几乎不再从外部招聘中高层技艺管者。
他于内部说,此为 “改善内部反映之一些疑难”。
” 一位 Seed 者士说,只能 “边开车边修轮子”。
” 一位 Seed 研讨员说,彼等团队本来要花更多源泉与光阴,自研算法处置某名技艺疑难,但为之尽快上线,课题启动后不久就被要求调理思路,于开源课题根基上改善,“哪怕性能有损失”。
难题:既要做一流研讨机构,又要有短期产出 “就像盖房子,若地基不稳,往上加砖头之确易出疑难。
另一位接近吴永辉之者士说,“他对技艺之解甚深,能迅速裁决什么方位可出成果。
能够对外界充分展示研讨成果,进一步激发之 Seed 研讨者之自驱力。
” 两位曾于 Seed 工之研讨员说,之前彼等像为一群研讨小组之集合,而不为整体之研讨部门,比如小组 A 之研讨者想看小组 B 之文档,要先经过文档所有者、所有者之领同意,“有时候部门负责者出面调解皆看不之全部讯息。
调理:组建三名虚拟团队,打通数据、代码库提升效能 上千者之研讨团队、投入上百亿元追击两年,终于研发出能排于华夏第一梯队之根基模型,迅速被只有上百者之团队用更少源泉研发之模型超过,部门负责者承认失误,公司 CEO 于全员会上点名,本可做得更好。
过往一年,随之视觉多模态生成负责者杨建朝休假、视觉根基模型研讨负责者冯佳时离职等变动,周畅之管范围延续扩,新增文生图 Seedream、文生视频 Seedance 模型等。
“他不会直接给出实在之处置预案,而为引导大家思考更本原之疑难。
“他还建议大家 ‘装修’ 下名者主页。
有字节者士提到,于食堂吃饭时,经常能看到吴永辉端之餐盘坐到研讨员对面,边吃边聊进展。
OpenAI 去岁始重构用三年之 Infra 体系,处置越积越多之 “技艺债”。
为之提升效能,吴永辉还推动内部数据、代码库透明,对外保密。
上一篇:荷兰对安世半导体调查或延续6名月,“将损害对华关系” 下一篇:巴黎球迷用Tifo嘲讽马赛者为送货之,快递公司:对此举止我方深感遗憾