第14章 遥遥领先
大运通天小说推荐阅读:娇软美人在末世封神了、世界末日之毒液、大佬的小人鱼揣崽跑路了、特案三组、腐烂国度之活下去、末日聚集地、一价氢氯钾钠银、御鬼者传奇、暗影熊提伯斯的位面之旅、这个文字冒险游戏绝对有毒、末世满级大佬有异能空间、从黑科技到超级工程、快穿之养老攻略
电话不出意外地被挂断。
领导总是如此,可以随心所欲地挂断下属的电话。
不过尼尔很好奇,伊戈尔为什么如此谨慎?
明眼人看了他跑出来的小规模验证结果后,一个足够有价值的方向,直接在实验室宣布,拉一批人围着这个方向往前推不好吗?
AlphaCode刚刚在《Science》上发表,所有人都还在兴奋期,正是把下一阶段路线往前拱的时候。
候选解策略坍缩、失败表面聚类、语义有效样本量,这些本来就是AlphaCode后续论文该长出来的枝条。
但伊戈尔没有这么做。
他只让尼尔做小规模验证,不让进主仓库,不让写正式项目名,不让和其他人讨论。
结果出来之后,他也没有立刻让团队开会,而是把报告收走,然后挂了电话。
又是搞不懂的高层政治,尼尔心想。
他把冷掉的咖啡推到一边,重新看了一遍自己刚刚导出的对比表。
尼尔知道,数字背后的含义很重要,这玩意可能是改写AlphaCode下一步叙事的东西。
现在,伊戈尔把它拿走了。
另一边,巴布什金坐在屏幕前,屏幕上开着两个窗口。
一个是尼尔发来的小规模验证报告,另一个是Light_Chen的消息框。
在推特上的无意间的回复,促成了大的惊喜。
尼尔的好奇是针对老板的,伊戈尔的好奇则跨越了太平洋,飘到了江城。
他实在好奇,怎样的大一学生,能做出如此惊艳的成果。
比他大一时候可厉害太多。
另外对方的出现也给他出了一道难题。
伊戈尔思考半天,最后还是给马斯克把电话打了过去。
“喂,伊戈尔,很高兴在深夜听到你的来电,怎么?你想好了吗?”马斯克是彻头彻尾的工作狂。
对想要挖的人才更是如此。
女友未必能在这个时间点联系上他,但想要挖的人才一定能。
伊戈尔开口道:“埃隆,我有了一个很了不起的发现,我不想在DeepMind训练,我想用推特的卡来训练它。
你能...”
没等伊戈尔说完,马斯克的声音已经响起了:“当然能,我的朋友,小意思。”
马斯克实则心想,稳了。
伊戈尔这一步迈出去,就收不回去了。
谷歌DeepMind的人工智能科学家,用推特的卡来训练自己的想法。
这一旦曝光,对方无论如何都在谷歌待不下去。
“我需要算力,代码生成方向。”伊戈尔接着说道。
马斯克兴趣一下就上来了:“你是说类似AlphaCode的项目?”
伊戈尔点头:“没错,它叫BetaCode,第一阶段我要64张H100,三到五天做小模型的复现和对比。
如果结果成立,那么第二阶段要256张H100做两到三周的训练。”
代码领域的大模型只要256张就够了,但像ChatGPT那种语言类大模型,要的卡多多了。
马斯克听完后大手一挥:“还说什么呢,我的朋友,让我们开始做吧。”
他的权柄和赵立明比起来,如萤火之于皓月了属于是。
伊戈尔听到这句话,知道过去三个月悬而未决的选择已经做了,哪怕他还在DeepMind工作,哪怕他还没没有提交辞职信,但入职推特只是时间问题了。
那么就算自己要去,也得带着成果去。
BetaCode就是最好的晋升阶梯。
等马斯克挂断电话,伊戈尔打开一个新的加密文档,按照Light_Chen发给他的文档,重新编写了一个训练需求。
......
第二天,推特内部陆陆续续有人被临时拉进一个项目组。
这个组的名称很短,就四个字母——Beta。
基础设施团队收到一份资源调度申请,一组隔离的GPU节点用于短期实验。
推特内部自己的人工智能团队的资源被空出来,让给了Beta。
没人提出异议,因为指令来自老板。
推特被私有化之后,就是马斯克的一言堂。
马尔斯来到新的项目组,他走进会议室,只见一群残兵败将和一个兴致勃勃的将领。
“马尔斯,来,坐。”马斯克很有激情。
马尔斯顺势在最前面坐下。
你可能什么能力什么资历也没有,但就因为能赖下去,你成了大哥。
这就是马尔斯的经历。
2022年11月马斯克把推特私有化之后,原本推特的人工智能团队META(ML Ethics,Transparency,and Accountability)就被打包送走了。
从负责人到员工,整个团队全部被裁。
只剩下一个人:马尔斯。
另外的Cortex团队,也差不多,大把大把裁员。
法拉贝特去了英伟达,弗洛雷斯去了独立研究机构,希伯勒去了一家初创的人工智能安全公司...
现在是马斯克亲自负责,马尔斯已经是资深员工中的资深员工。
“我们需要做一个训练,训练这个模型,这是具体方案。”
方案被投影在了幕布上。
马尔斯眯着眼睛:“生成代码?”
马斯克说:“没错,BetaCode,比DeepMind的AlphaCode强不止一个档次!”
这话立马让现场的工程师们都吓了一跳。
这才过去一个月啊,现在是2023年的1月,不是11月。
你哪来强一个档次的东西?
我们这里连一个挑大梁的人都没有。
“这是?”马尔斯小心翼翼地说道。
生怕一句话就让马斯克把他给Fire了。
“你们不用管它是从哪里来的,你们需要做的就是按照这份方案去进行训练!”
话音落下,大家开始各司其职,准备着手训练。
五天后,在推特的显卡集群里跑完最后一嘴对比。
马尔斯看着数据,张大了嘴巴,这玩意还真比AlphaCode强,这玩意在传统采样-过滤基线上已经显著超过AlphaCode了。
他把结果报告给老板。
马斯克在电话那头说:“继续。”
这只是训练了五天。
按照方案,需要两周到三周时间。
才五天就超过了AlphaCode,两到三周下来,那还得了?
不得遥遥领先啊。
马斯克已经迫不及待了,“喂,伊戈尔,我在你家楼下,我已经订好了Baume的位置。”
伊戈尔听到之后,知道BetaCode比他预想的还要更强。
Baume是硅谷的高端法式餐厅,马斯克和彼得·蒂尔的聚餐就经常放在这。
“好。”伊戈尔怀着略微不安的心情答应了下来。
他不安的源头远在江城的Light_Chen已经回家过年了。
http://www.dayuntongtian.com/yt134178/50174633.html
请记住本书首发域名:www.dayuntongtian.com。大运通天手机版阅读网址:www.dayuntongtian.com
领导总是如此,可以随心所欲地挂断下属的电话。
不过尼尔很好奇,伊戈尔为什么如此谨慎?
明眼人看了他跑出来的小规模验证结果后,一个足够有价值的方向,直接在实验室宣布,拉一批人围着这个方向往前推不好吗?
AlphaCode刚刚在《Science》上发表,所有人都还在兴奋期,正是把下一阶段路线往前拱的时候。
候选解策略坍缩、失败表面聚类、语义有效样本量,这些本来就是AlphaCode后续论文该长出来的枝条。
但伊戈尔没有这么做。
他只让尼尔做小规模验证,不让进主仓库,不让写正式项目名,不让和其他人讨论。
结果出来之后,他也没有立刻让团队开会,而是把报告收走,然后挂了电话。
又是搞不懂的高层政治,尼尔心想。
他把冷掉的咖啡推到一边,重新看了一遍自己刚刚导出的对比表。
尼尔知道,数字背后的含义很重要,这玩意可能是改写AlphaCode下一步叙事的东西。
现在,伊戈尔把它拿走了。
另一边,巴布什金坐在屏幕前,屏幕上开着两个窗口。
一个是尼尔发来的小规模验证报告,另一个是Light_Chen的消息框。
在推特上的无意间的回复,促成了大的惊喜。
尼尔的好奇是针对老板的,伊戈尔的好奇则跨越了太平洋,飘到了江城。
他实在好奇,怎样的大一学生,能做出如此惊艳的成果。
比他大一时候可厉害太多。
另外对方的出现也给他出了一道难题。
伊戈尔思考半天,最后还是给马斯克把电话打了过去。
“喂,伊戈尔,很高兴在深夜听到你的来电,怎么?你想好了吗?”马斯克是彻头彻尾的工作狂。
对想要挖的人才更是如此。
女友未必能在这个时间点联系上他,但想要挖的人才一定能。
伊戈尔开口道:“埃隆,我有了一个很了不起的发现,我不想在DeepMind训练,我想用推特的卡来训练它。
你能...”
没等伊戈尔说完,马斯克的声音已经响起了:“当然能,我的朋友,小意思。”
马斯克实则心想,稳了。
伊戈尔这一步迈出去,就收不回去了。
谷歌DeepMind的人工智能科学家,用推特的卡来训练自己的想法。
这一旦曝光,对方无论如何都在谷歌待不下去。
“我需要算力,代码生成方向。”伊戈尔接着说道。
马斯克兴趣一下就上来了:“你是说类似AlphaCode的项目?”
伊戈尔点头:“没错,它叫BetaCode,第一阶段我要64张H100,三到五天做小模型的复现和对比。
如果结果成立,那么第二阶段要256张H100做两到三周的训练。”
代码领域的大模型只要256张就够了,但像ChatGPT那种语言类大模型,要的卡多多了。
马斯克听完后大手一挥:“还说什么呢,我的朋友,让我们开始做吧。”
他的权柄和赵立明比起来,如萤火之于皓月了属于是。
伊戈尔听到这句话,知道过去三个月悬而未决的选择已经做了,哪怕他还在DeepMind工作,哪怕他还没没有提交辞职信,但入职推特只是时间问题了。
那么就算自己要去,也得带着成果去。
BetaCode就是最好的晋升阶梯。
等马斯克挂断电话,伊戈尔打开一个新的加密文档,按照Light_Chen发给他的文档,重新编写了一个训练需求。
......
第二天,推特内部陆陆续续有人被临时拉进一个项目组。
这个组的名称很短,就四个字母——Beta。
基础设施团队收到一份资源调度申请,一组隔离的GPU节点用于短期实验。
推特内部自己的人工智能团队的资源被空出来,让给了Beta。
没人提出异议,因为指令来自老板。
推特被私有化之后,就是马斯克的一言堂。
马尔斯来到新的项目组,他走进会议室,只见一群残兵败将和一个兴致勃勃的将领。
“马尔斯,来,坐。”马斯克很有激情。
马尔斯顺势在最前面坐下。
你可能什么能力什么资历也没有,但就因为能赖下去,你成了大哥。
这就是马尔斯的经历。
2022年11月马斯克把推特私有化之后,原本推特的人工智能团队META(ML Ethics,Transparency,and Accountability)就被打包送走了。
从负责人到员工,整个团队全部被裁。
只剩下一个人:马尔斯。
另外的Cortex团队,也差不多,大把大把裁员。
法拉贝特去了英伟达,弗洛雷斯去了独立研究机构,希伯勒去了一家初创的人工智能安全公司...
现在是马斯克亲自负责,马尔斯已经是资深员工中的资深员工。
“我们需要做一个训练,训练这个模型,这是具体方案。”
方案被投影在了幕布上。
马尔斯眯着眼睛:“生成代码?”
马斯克说:“没错,BetaCode,比DeepMind的AlphaCode强不止一个档次!”
这话立马让现场的工程师们都吓了一跳。
这才过去一个月啊,现在是2023年的1月,不是11月。
你哪来强一个档次的东西?
我们这里连一个挑大梁的人都没有。
“这是?”马尔斯小心翼翼地说道。
生怕一句话就让马斯克把他给Fire了。
“你们不用管它是从哪里来的,你们需要做的就是按照这份方案去进行训练!”
话音落下,大家开始各司其职,准备着手训练。
五天后,在推特的显卡集群里跑完最后一嘴对比。
马尔斯看着数据,张大了嘴巴,这玩意还真比AlphaCode强,这玩意在传统采样-过滤基线上已经显著超过AlphaCode了。
他把结果报告给老板。
马斯克在电话那头说:“继续。”
这只是训练了五天。
按照方案,需要两周到三周时间。
才五天就超过了AlphaCode,两到三周下来,那还得了?
不得遥遥领先啊。
马斯克已经迫不及待了,“喂,伊戈尔,我在你家楼下,我已经订好了Baume的位置。”
伊戈尔听到之后,知道BetaCode比他预想的还要更强。
Baume是硅谷的高端法式餐厅,马斯克和彼得·蒂尔的聚餐就经常放在这。
“好。”伊戈尔怀着略微不安的心情答应了下来。
他不安的源头远在江城的Light_Chen已经回家过年了。
http://www.dayuntongtian.com/yt134178/50174633.html
请记住本书首发域名:www.dayuntongtian.com。大运通天手机版阅读网址:www.dayuntongtian.com