北京时间2023年2月6日,爆红的聊天机器人chatgpt开发商openai的首席技术官米拉·穆拉蒂表示,chatgpt应该受到监管,因为它可能被“危险分子”使用。
openai于2022年11月30日开放测试chatgpt,此后chatgpt风靡全球。两个月后,chatgpt用户达到1亿,在1月份的访问量约为5.9亿。瑞银银行分析师在报告中写道,这是互联网领域发展20年来,增长速度最快的消费类应用程序。
chatgpt是美国人工智能研究实验室openai新推出的一种人工智能技术驱动的自然语言处理工具,在openai的官网上,chatgpt被描述为优化对话的语言模型。它能够通过学习和理解人类的语言来进行对话,还能根据聊天的上下文进行互动,真正像人类一样来聊天交流,甚至能完成撰写邮件、视频脚本、文案、翻译、代码等任务。
不过,随着chatgpt聊天机器人在商业领域使用量快速增长,alphabet(谷歌)、meta等全球科技巨头开始提心吊胆,并试图采取全新的战略措施。由于chatgpt具备检索功能,可以用清晰、简单的句子提供信息,而不仅仅是互联网链接列表,这使得谷歌可能面临对其主要搜索业务的严重威胁。微软公司积极拥抱openai,正计划推出新版必应搜索引擎,使用聊天机器人chatgpt背后的人工智能(ai)技术。meta则在紧张备战,加快人工智能新兴技术的融入。
在学术专业领域,纽约市教育部发言人jenna lyle认为,chatgpt的负面影响超过了积极因素。lyle表示,“虽然该ai工具可能能够提供快速简便的问题答案,但它并不能培养批判性思维和解决问题的能力,而这些技能对于学术和终身成功至关重要”。一项调查显示,截止2023年1月,美国89%的大学生都是用chatgpt做作业。德国图宾根大学也在一封内部邮件中宣布:出于担心chatgpt的使用正变得不可控,学校决定严格限制这款人工智能的使用,由chatgpt生成的文本不得用于学习和考试。
chatgpt风靡以来,除以上问题外,讨论更多的还是数据安全问题。
数据泄露问题。员工在使用chatgpt进行辅助工作时,商业机密泄露风险也随之增加。2023年1月份,微软首席技术官办公室一位高级工程师回答,只要不与chatgpt共享机密信息,工作时使用chatgpt是被允许的。亚马逊公司律师同样警告员工不要与chatgpt分享“任何亚马逊的机密信息”,因为输入的信息可能会被用作chatgpt进一步迭代的训练数据。
删除权问题。chatgpt虽然承诺会从其使用的记录中删除所有个人身份信息,但chatgpt未说明其如何删除信息,而且由于被收集的数据将用于chatgpt不断的学习中,很难保证完全擦除个人信息痕迹。
语料库获取合规问题。欧洲数据保护委员会(edpb)支持专家库成员亚历山大称,chatgpt获取数据的方法需要完全披露。如果chatgpt通过抓取互联网上的信息获得其训练数据,可能并不合法。
除此之外,用户对chatgpt的恶意利用也会带来很多数据安全问题。比如利用自然语言编写的能力,编写恶意软件,从而逃避防病毒软件的检测;利用chatgpt的编写功能,生成钓鱼电子邮件;利用对话功能,冒充真实的人或者组织骗取他人信息等。
chatgpt开发商openai的首席技术官米拉·穆拉蒂在采访时也表示,chatgpt可能会“编造事实”,这与其他基于语言模型的人工智能工具一样。2022年11月,几乎与chatgpt同一时间上线的meta服务科研领域的语言模型galactica,就因为真假答案混杂的问题,测试仅3天就被用户投诉下线。chatgpt及类似语言模型要应用到搜索引擎、客户投诉系统等领域,就必须对其进行合规性改造,以最大程度降低相应的合规风险。穆拉蒂在采访时也强调,openai将需要获得所有能得到的帮助,包括来自监管机构、政府和其他所有人的帮助。她补充说,现在对他进行监管“并不为时过早”。