北京时间2023年2月6日,爆红的聊天机器人chatgpt开发商openai的首席技术官米拉·穆拉蒂表示,chatgpt应该受到监管,因为它可能被“危险分子”使用。
openai于2022年11月30日开放测试chatgpt,此后chatgpt风靡全球。两个月后,chatgpt用户达到1亿,在1月份的访问量约为5.9亿。瑞银银行分析师在报告中写道,这是互联网领域发展20年来,增长速度最快的消费类应用程序。
chatgpt是美国人工智能研究实验室openai新推出的一种人工智能技术驱动的自然语言处理工具,在openai的官网上,chatgpt被描述为优化对话的语言模型。它能够通过学习和理解人类的语言来进行对话,还能根据聊天的上下文进行互动,真正像人类一样来聊天交流,甚至能完成撰写邮件、视频脚本、文案、翻译、代码等任务。
chatgpt风靡以来,除以上问题外,讨论更多的还是数据安全问题。
数据泄露问题。员工在使用chatgpt进行辅助工作时,商业机密泄露风险也随之增加。2023年1月份,微软首席技术官办公室一位高级工程师回答,只要不与chatgpt共享机密信息,工作时使用chatgpt是被允许的。亚马逊公司律师同样警告员工不要与chatgpt分享“任何亚马逊的机密信息”,因为输入的信息可能会被用作chatgpt进一步迭代的训练数据。
删除权问题。chatgpt虽然承诺会从其使用的记录中删除所有个人身份信息,但chatgpt未说明其如何删除信息,而且由于被收集的数据将用于chatgpt不断的学习中,很难保证完全擦除个人信息痕迹。
语料库获取合规问题。欧洲数据保护委员会(edpb)支持专家库成员亚历山大称,chatgpt获取数据的方法需要完全披露。如果chatgpt通过抓取互联网上的信息获得其训练数据,可能并不合法。
除此之外,用户对chatgpt的恶意利用也会带来很多数据安全问题。比如利用自然语言编写的能力,编写恶意软件,从而逃避防病毒软件的检测;利用chatgpt的编写功能,生成钓鱼电子邮件;利用对话功能,冒充真实的人或者组织骗取他人信息等。
chatgpt开发商openai的首席技术官米拉·穆拉蒂在采访时也表示,chatgpt可能会“编造事实”,这与其他基于语言模型的人工智能工具一样。2022年11月,几乎与chatgpt同一时间上线的meta服务科研领域的语言模型galactica,就因为真假答案混杂的问题,测试仅3天就被用户投诉下线。chatgpt及类似语言模型要应用到搜索引擎、客户投诉系统等领域,就必须对其进行合规性改造,以最大程度降低相应的合规风险。穆拉蒂在采访时也强调,openai将需要获得所有能得到的帮助,包括来自监管机构、政府和其他所有人的帮助。她补充说,现在对他进行监管“并不为时过早”。
![](https://www.sjztyd.com/wp-content/uploads/2022/07/0c7dc72f20b1477.jpg)
-
钓?检测:通过训练钓?邮件的语言模型和消息,分析传入的电子邮件和消息的文本与已知网络钓?示例的相似之处,企业可以使用它来检测新的网络钓?尝试。 -
密码破解:企业可以使用语言模型生成潜在的密码组合,可用于测试自己密码的强度或识别需要更改的弱密码。 -
恶意软件检测:企业可以使用语言模型来分析恶意软件的说明和指令,以识别恶意软件中 常用的语言模式,这有助于检测新的恶意软件变体。 -
网络威胁情报:企业可以使用语言模型来分析来自各种来源 (例如:社交媒体)的大量文本数据,以识别潜在的网络威胁并了解攻击者使用的战术、技术和程序(ttp)。 -
自动事件响应:可以使用语言模型生成对某些类型的网络事件的自动响应,例如:阻止 ip 地址或关闭服务。
![](https://www.sjztyd.com/wp-content/uploads/2022/07/e564efe7965d996.jpg)
不会自己注册chagpt账号或者太麻烦,可以直接购买一个成品chagpt账号,直接使用!一人一号,独立使用!直接购买联系qq465693115 定制个人邮箱,非共享号码实时帮你接收验证码,非常快速