几乎是同一天,英文和中文世界最大的搜索引擎 google 和百度都官宣了自家“类 chatgpt ”的聊天机器人(分别命名为“bard”和“文心一言”),测试将在数周内完成,很快就会跟大众见面。
能沾上边的、沾不上的都很热闹,推出 chatgpt 的 openai 自己却在尽量保持低调。创始人 sam altman 在 chatgpt 发布后不久,就在社交平台上给自家产品降温,呼吁大家冷静看待。
altman 在 twitter 上告诫用户不要在任何重要的事情上依赖 chatgpt。
其他高管和员工的高调言行也被禁止。去年 12 月,openai 的总裁 greg brockman 发了一条 chatgpt 用户数突破 200 万的推文(瑞银的报告说 1 月的月活已经过亿),altman 随后要求他删推,并告诉他像这样宣传增长并不明智。
在那之后,altman 又亲自飞了一趟华盛顿,向立法机关的官员们解释 chatgpt 的工作原理和优缺点,澄清可能存在的误解。
altman 这么“敏感”的原因,一是跟 ai 固有的伦理争议有关。在算法推荐时代,ai 就存在大数据杀熟、诱导沉迷等争议;像 chatgpt 这样的生成式 ai,又为一些真假难辨的信息提供了滋生的土壤。
再有就是 chatgpt 的热度远远超出了他们的预期 —— 它原本只是一个基于两年前的旧语言模型、两周内临时赶工出来的“测试品”,发布的主要目的是在抢占先机的同时,为重头戏 gpt-4 收集用户反馈。作为一个计划外产品,chatgpt 的限制没那么多,但随着其热度疯涨,隐患也越来越大。
2022 年夏天,openai 发布图像生成软件 dall-e 2,为了打消人们对于它被滥用的顾虑,openai 加了不少保护措施,例如自动屏蔽与暴力、裸体等相关词语。openai 甚至教会机器人消除其训练数据中的某些偏见 —— 如果用户需要 ceo 的图片,dall-e 2 提供的结果里不会只有男性。
靠着这些“家长式”的自我束缚,dall-e 2 避免了不少麻烦,但也让真正孵育它的“家长”多少有些不甘。altman 觉得聊天机器人应该根据用户的喜好来定制,一些用户可以选择合家欢版本,另一些人则可以选择限制更少的版本。
于是 chatgpt 被赋予了更多权限,包括可以自己权衡政治、性和宗教等敏感话题(可以给出除了观点之外的事实),而不是一味地屏蔽和拒绝回复。一些美国共和党人士根据其回答指责 openai 越了界,民主党人也不待见它,因为他们本就认为应该加强对人工智能的监管。
目前还没有具体针对 chatgpt 的监管措施发布,但它已经在某些领域收到了“禁令”。顶级学术期刊《科学》不允许在论文中使用 chatgpt 产出的文本;包括巴黎政治学院在内的一些学校也禁止学生和教职工在书面文稿或 ppt 中使用 chatgpt;一些互联网公司则因为担心泄密,不让自家工程师用 chatgpt 写代码。
过去十年,ai 在很多领域进入商业化,并通过算法推荐、刷脸支付、机器人客服等形态走入人们的生活。如今我们每天都在跟人工智能打交道,但这些技术本身似乎并未引起非技术人员的太大兴趣。直到 chatgpt 推出,兴奋和恐慌同时蔓延。ai 的未来如何仍旧未知,chatgpt 只是提供了一个参照,唯一可以确定的是,围绕它的争论不会停歇。(邱豪)