字节跳动商业化团队模型训练被“投毒”,内部人士称未影响豆包大模型

admin admin
7
2024-10-19
登录新浪财经APP搜索【信披】查看更多考评等级受代码入侵影响的业务不是豆包大模型,而是商业化技术团队的模型训练任务,影响了广告部门的部分技术工作。近日,有消息称字节跳动发生大模型训练被实习生“投毒”事件。据悉,该事件发生在字节跳动商业化团队,因实习生田某某对团队资源分配不满,利用HF(hu...

登录新浪财经APP 搜索【信披】查看更多考评等级

字节跳动商业化团队模型训练被“投毒”,内部人士称未影响豆包大模型

受代码入侵影响的业务不是豆包大模型,而是商业化技术团队的模型训练任务,影响了广告部门的部分技术工作。

近日,有消息称字节跳动发生大模型训练被实习生“投毒”事件。

字节跳动商业化团队模型训练被“投毒”,内部人士称未影响豆包大模型

据悉,该事件发生在字节跳动商业化团队,因实习生田某某对团队资源分配不满,利用HF(huggingface)的漏洞,通过共享模型注入破坏代码,导致团队模型训练成果受损。消息称此次遭到入侵的代码已注入8000多张卡,损失或达千万美元。

字节跳动知情人士向记者透露称,近期公司确实发生过破坏模型训练一事,但传闻存在夸张和虚构的部分,该事件实际发生在今年6月底,田某某是在商业化技术团队实习,因为对团队资源分配不满,使用攻击代码破坏团队的模型训练任务,千万美元损失的数字也有所夸大。

另外,该人士称,受代码入侵影响的业务不是豆包大模型,而是商业化技术团队的模型训练任务,影响了广告部门的部分技术工作,实习生通过共享模型进行入侵的部分也不属于集团大模型。

字节跳动商业化团队模型训练被“投毒”,内部人士称未影响豆包大模型

此次事件暴露出字节跳动技术训练中存在的安全管理问题,包括权限隔离、共用代码的审计等。一位行业人士对记者表示,进行权限隔离与审计利于保护公司核心数据与知识产权,防止数据泄漏,提高数据与系统的安全性。比如实时监控权限使用情况,及时发现权限滥用和异常操作;定期审计权限,检查团队成员的权限是否符合授权策略,是否存在权限滥用的情况等。但这件事也有难度,包括跨部门合作成本、经常性维护与更新的资源投入等。

据知情人士向记者透露,目前该实习生已被辞退,公司也将相关情况同步给行业联盟与实习生学校。

最新的字节跳动大模型信息披露发生在今年10月15日,火山引擎在视频云技术大会上发布了大模型训练视频预处理方案,助力解决视频大模型训练的成本、质量和性能等方面的技术挑战。目前,该技术方案已应用于豆包视频生成模型。

其他相关 RELEVANT MATERIAL

OpenAI商业化运营遇坎 初创团队“分崩离析”

admin admin
7
2024-10-19
  来源:中国经营报  本报记者秦枭北京报道  OpenAI凭借新推出的推理模型o1和ChatGPT高级语言模式,估值一度高达1500亿美元,成为全球最吸睛的明星公司后,也迎来了自己的“多事之秋”。今年以来,包括首席科学家、首席技术官、首席研究官、Sora视频生成模型负责人、GPT-4o多模......

国家能源集团线性 α-烯烃直接合成技术取得重大突破,商业化后生产成本预计仅 8 千元 / 吨

admin admin
10
2024-10-18
IT之家10月18日消息,国家能源集团北京低碳清洁能源研究院(以下简称低碳院)与荷兰埃因霍芬理工大学等机构的研究人员合作开发新型催化技术,取得重大突破性进展。相关研究成果发表于《自然》(Nature)期刊。该研究通过原创“纯相χ-碳化铁”催化剂,实现煤炭、天然气或生物质转化得到的合成气......

特斯拉“狂欢派对”,Robotaxi商业化驶入冷静抉择期

admin admin
5
2024-10-17
  21世纪经济报道记者赵云帆报道  几天前,特斯拉“We,Robot”(我,机器人)发布会上,“科技朋克男孩”埃隆·马斯克终于为其卖了半年关子的“Cybercab”,以及作为惊喜的“Robovan”揭开了车罩。  一贯的科技质感,却没有赛博卡车(Cybertruck)那么棱角分明,重要的是......

基石药业“断臂求生”:关厂、减员、频繁转让药品商业化权

admin admin
6
2024-10-15
  来源|时代投研  作者|毕肖磊  编辑|郑少娜  10月7日,港股明星医药企业基石药业(02616.HK)发布公告称,将在第39届癌症免疫治疗学会(SITC)年会上公布CS2009的临床前研究数据。  据半年报,截至今年上半年末,CS2009处于“新药临床试验申请”的较早期环节,基石药......

特斯拉Robotaxi新品即将发布 自动驾驶商业化提速?

admin admin
9
2024-10-11
转自:证券时报·e公司特斯拉Robotaxi新品即将发布 自动驾驶商业化提速?......

贾跃亭“个人IP商业化”计划落地 称还债回国是后半生必须要完成的事

admin admin
8
2024-10-10
  每经记者李星    每经编辑孙磊  时隔5个多月,FaradayFuture(以下简称FF)创始人贾跃亭的“个人IP商业化”计划最终以成立公司的形式落地。  10月9日,贾跃亭在其个人微博上宣布,其携手合伙人共同成立的全球IP商业化公司——“成长吧!奋斗者”(GrowFandor)已......
年度爆文