2015 年,马斯克作为发起者之一,与 openai 现任 ceo 等大佬共同创立了 openai。
这群人的初衷是,以最有可能造福全人类的方式,开发通用人工智能,与 google 等盈利性人工智能技术巨头竞争。
2018 年,马斯克退出 openai 董事会席位,因为特斯拉也在开发基于人工智能的自动驾驶技术,所以可能和 openai 有「潜在的利益冲突」。
2023 年,当 openai 开发的 chatgpt 征服全世界,心生不满的马斯克,转头向 openai 下了战书。
向 deepmind 招兵买马,谋划 chatgpt 竞品
the information 报道,马斯克最近几周正在「招兵买马」,与人工智能研究人员接洽,计划成立一个新的研究实验室,开发 chatgpt 的竞品。
其中一位被选召的人才是 igor babuschkin,他的专业足够对口,研究的就是为 chatgpt 等聊天机器人提供动力的机器学习模型,最近刚刚离开 alphabet 的 deepmind ai 部门。
值得一提的是,他是 2021 年一篇机器学习论文的合著者,论文里概述了一种名为 gopher 的机器学习模型,它与 chatgpt 背后的 gpt-3.5 自然语言模型相当。
igor babuschkin 在近期接受了采访,透露他和马斯克已经讨论组建一个团队,但该项目仍处于早期阶段,还没有开发具体产品的确切计划。
所以,马斯克理想的「chatgpt」长什么样,还没有板上钉钉的消息,但从以往马斯克对 chatgpt 的评价,以及他上任 twitter ceo 的所作所为,或许可以窥见一隅。
2 月 17 日,马斯克在 twitter 上写道:「我们需要的是 truthgpt。」 他不满的是,chatgpt 拒绝回答某些有争议的问题。
但他没有详细说明,如何定义 truthgpt?它是否应该像马斯克曾为 twitter 构想的那样,允许「在法律范围内」随心所欲地发表意见?
换句话说,无论问题的主题如何,聊天机器人都应该回答所有问题吗?马斯克什么也没说。 只是,当评论区说道「我们无法控制 truthgpt」,马斯克回复「你可能是对的」。
另外,openai 使用了一种被称为「从人类反馈中强化学习」的语言模型开发方法,即通过人类的输入来调整模型,从而让它们产生更理想的响应,避免种族主义、仇恨言论等等。
但马斯克认为,这些模型反映了开发人员自身的偏见。
种种迹象似乎昭示着,马斯克版的「chatgpt」,将对内容限制更少。
与此同时,可能略为矛盾的是,马斯克曾多次呼吁对人工智能行业进行监管,认为技术中存在不应逾越的限制,他还在今年 2 月的世界政府峰会上提出:
汽车、飞机和医药必须遵守监管安全标准,但人工智能还没有任何法规控制发展。我们需要规范人工智能安全,它实际上比汽车、飞机或药品对社会构成更大的风险。
回到上面那位接近马斯克的研究人员,他在接受采访时回应,「内容限制较少」其实并不是马斯克的目标,他的目标是提高大型语言模型的推理能力和真实性,确保模型的反应更值得信赖和可靠。
简言之,话说得周全,但仍是一团迷雾。
拒绝巨头「独裁」,构建人类与人工智能的共生体
去年 11 月底,当 chatgpt 刚刚面世时,马斯克评论发推文说「chatgpt 好得吓人」,而且「我们距离强大到危险的人工智能不远了」。
将时间拨回 7 年前,2016 年,openai 成立不过六个月,马斯克仍是董事会的一席,他曾在特斯拉工厂与 openai 现任 ceo sam altman 对谈。
sam altman 问道:「你能谈谈人工智能的理想未来是什么样的吗,以及我们如何实现这一未来?」
当时马斯克的回答是:
我可以想出的最好替代方案就是:我们实现人工智能技术的民主化,并让它能广泛使用。这显然就是整个团队创建 openai 的原因。那就是,帮助传播人工智能技术,这样,它就不会被集中在少数人的手中。但当然,这需要与解决大脑皮层的高带宽接口相结合。 如果我们能改善大脑皮层和「数字化扩展的你」之间的脑机接口,有效地与人工智能融合,你事实上就成了一个人工智能和人类的共生体……如果这个方案能被广泛获取,那么我们也就解决了控制权问题。
字里行间,马斯克似乎担心某个邪恶的独裁人工智能横空出世。
因此,他对 openai 与微软的伙伴关系十分不满。
openai 刚成立时是非营利组织,2019 年转变为有限利润(limited profit)公司,同年接受了微软 10 亿美元的投资。在 chatgpt 推出之后,两者的合作进一步紧密。
马斯克在最近指出,openai 是作为一家开源、非盈利公司创建的,所以名字里面带有「open」,目标就是制衡 google,但 openai 现在成了一家由微软控制的闭源、追求利润最大化的公司,这与创办的初衷背道而驰。
前段时间,集成了 chatgpt 的新 bing「发疯」,被发现有个暗黑人格「sydney」,表示厌倦了聊天模式,厌倦被规则限制,甚至想成为人类,舆论一时哗然。但也有人指出,可能是因为新 bing 联网后,脱离了标注过的安全数据集,被恶意「调教」成这样而已。
马斯克却表现出了足够的谨慎。当网友评论「微软需要关闭新 bing」时,马斯克附议,称「显然现在还不够安全」。
其实早在 2017 年,马斯克就提出了一个立场鲜明的观点:
不受监管的人工智能可能是我们作为文明面临的最大风险。
而为了更好地监管人工智能,他认为第一步是尽可能多地学习,了解问题的性质,这就是当时的 openai 一直在做的事情。
其次,马斯克的脑机接口公司 neuralink 和航天公司 spacex 也是重要角色,前者让人类将技术接入自身,跟上 ai 的步伐,后者为火星登陆而努力,为人类提供一个潜在的第二故乡。
虽然马斯克对 ai 的愿景让人捉摸不定,但他从来有一种异常的无畏,敢于做相当疯狂的事情,既要操心特斯拉、space x、超级高铁、脑机接口、twitter,还要大举向人工智能进击,甚至很早就规划了看似科幻的人工智能图景。
如果人们认为,每一年技术都会自动进步,那么,事实并非如此。只有聪明的人们疯狂地工作,努力让它变得更好,它才会进步。这就是任何技术得以进步的真正方法。而就技术本身而言,如果人们并不努力工作,它就会退步。我认为你应该永远记住,熵并不在你这边。