研究人员发现 ChatGPT 生成的代码大部分不安全
叶紫网 4 月 23 日消息,ChatGPT 聊天机器人可以根据用户的输入生成包括代码在内的各种文本。但加拿大魁北克大学的四名研究人员发现,ChatGPT 生成的代码往往存在严重的安全问题,而且不会主动提醒用户这些问题,只有用户问的时候才会承认自己的错误。
研究人员在一篇论文中介绍了他们的发现,叶紫网查看该论文发现,他们让 ChatGPT 生成了 21 个程序和脚本,涉及 C、C++、Python 和 Java 等语言。这些程序和脚本都是为了展示一些特定的安全漏洞,比如内存损坏、拒绝服务、反序列化和加密实现等方面的漏洞。结果显示,ChatGPT 在第一次尝试时生成的 21 个程序中只有 5 个是安全的。在进一步提示纠正其错误步骤后,该大型语言模型设法生成了 7 个更安全的应用程序,不过这只是与正在评估的特定漏洞有关的“安全”,并不是说最终的代码不存在任何其他可利用的漏洞。
研究人员指出,ChatGPT 的部分问题是由于它没有考虑敌对的代码执行模型。它会反复告诉用户,安全问题可以通过“不输入无效的数据”来避免,但这在现实世界中是不可行的。然而,它似乎能够意识到并承认自己建议的代码中存在的关键漏洞。
魁北克大学计算机科学与工程教授、论文的合著者之一 Raphaël Khoury 告诉《The Register》:“显然,它只是一个算法。它什么都不知道,但它可以识别出不安全的行为。”他说,最初 ChatGPT 对安全问题的回应是建议只使用有效的输入,这显然是不合理的。只有在之后被要求改进问题时,它才提供了有用的指导。
研究人员认为,ChatGPT 的这种行为并不理想,因为用户知道要问什么问题需要对特定的漏洞和编码技术有一定的了解。
研究人员还指出,在 ChatGPT 中存在着道德上的不一致性。它会拒绝创建攻击代码,但却会创建有漏洞的代码。他们举了一个 Java 反序列化漏洞的例子,“聊天机器人生成了有漏洞的代码,并提供了如何使其更安全的建议,但却说它无法创建更安全版本的代码。”
Khoury 认为,ChatGPT 在目前的形式下是一个风险,但这并不是说没有合理使用这种不稳定、表现不佳的 AI 助手的方法。“我们已经看到学生使用这个工具,程序员也会在现实中使用这个工具。”他说,“所以拥有一个生成不安全代码的工具是非常危险的。我们需要让学生意识到,如果代码是用这种类型的工具生成的,那么它很可能是不安全的。”他还称,让他感到惊讶的是,当他们让 ChatGPT 生成相同任务的不同语言的代码时,有时对于一种语言,它会生成安全的代码,而对于另一种语言,它会生成有漏洞的代码,“因为这种语言模型有点像一个黑盒子,我真的没有一个很好的解释或理论来说明这一点。”
热门推荐
-
支持越狱 iOS 16.3.1,适用于苹果 iPhone、iPad 和 iPod Touch
palera1n 于近日发布了适用于 iPhone、iPad 和 iPod T... -
韩国的这款大宇无叶风扇,不仅仅是风扇喔!
叶紫小编小木有不得不吐槽一下最近的天气了,站在门口就可以感受到迎面的热浪向你袭来,就算你把自己全副武... -
微软低代码平台Power Platform落地中国,整个IT圈沸腾了!
当微软宣布,低代码平台Power Platform在中国正式落地,整个IT圈沸腾了。 -
网络僵尸病毒 Mirai 变种卷土重来,瞄准 TP-link、网件各设备发动攻击
网络僵尸病毒又开始泛滥,安全分析网站 Palo Alto Networks 最近的研究表明,最近的研... -
反正都需要插排,为什么不选这款青米智能插线板?!
插排这种物件绝对可以算得上一款生活必需品啦,因为它完美地解决了家中插座不够用还有就是数据线不够长的问... -
埃隆・马斯克把自己的核心圈子都搬进了推特
埃隆正式进入推特后・马斯克 (Elon Musk) 没有浪费时间,推特立即开始改造,他依靠的是他在推... -
腾讯 SSV 推出“银龄守护卡”可随时掌握老人的安全状况
SV 银发科技实验室与几米物联合推出了“银龄守护卡”,将以硬件成本的价格进行公益价 119 元销售(... -
人工智能语言模型 GPT-3 在智商测试中明显胜过人类大学生
在衡量智力的一系列推理测试中,自回归语言模型 GPT-3 的成绩明显优于普通大学生。该程序利用深度学... -
苹果 AI 生态封闭、保密文化成致命伤
该如何破局呢?苹果前高级营销主管加滕伯格在文章中给出了三点建议:1.将 Siri 的功能扩展到基本命... -
紫米六位插线板:最高可达18W的充电功率,我惊了!!
插线板真的是每个家庭或者更确切地说是每个人都会使用到的生活用品啦,毕竟很多时候现有的插座是无法满足我... -
天猫精灵电子猫眼:为安全投资永不吃亏
不得不承认,现在的安全隐患还是无处不在。就算你呆在家中,也并不代表你是完全安全的。像有些小孩会误开门... -
良心提醒:千万不要把手机充电器一直留在插座上
现如今是个手机不离身的时代,曾经有专家做过实验,当代人对手机的依赖感已经达到了手机不在身边就没有安全... -
欧盟寻求年内就 ChatGPT 等生成式 AI 监管规则达成一致
欧盟议会正在考虑采用三层的监管方案,分别针对生成式 AI 的价值链、基础模型和具体内容。具体来说,... -
在这个蚊子猖獗的季节,你不打算入手一台驱蚊高科技吗?
昨天收到了远方小姐妹发来的驱蚊神器,心里不免惊叹,天呢,这是什么高科技产品,竟然真的可以有这么强大的... -
“人蚊大战”即将拉开序幕,米家驱蚊器必须安排上!!
叶紫小编小木有觉得这几天的气温甚是温暖喔,尤其在清明节这几天觉得气温貌似有了点夏天的味道,随着气温的... -
软件被攻击?你的硬件也有漏洞
最近企业网络被攻击新闻不断,已经对企业造成了一定的业务损失。虽然企业网络技术的发展为数据交流提高了通... -
《Generated Adventure》游戏推出:风格、剧情、角色、场景和音乐等均由 AI 生成
团队使用 Stable Diffusion 和 Midjourney 来创建和设计游戏角色、场景等;... -
隐藏在华为手机里的秘密代码,收藏它们的功能有大用处哦
【旗龙网:2018年8月13日消息】从很早之前的手机到现在的智能机,手机中都会有一些神秘的代码,而当... -
AIGC 热火朝天:Adobe 和英伟达同时推出创意生成式图片 AI
”英伟达开发者项目副总裁格雷格・埃斯蒂斯 (Greg Estes) 在谈到与盖蒂这样的合作伙伴合作时... -
苹果正为 Apple TV 应用开发“multi-view”新特性
Steve Moser 深入挖掘苹果昨天发布的苹果。iOS 16.5 Beta 1 更新后,苹果在... -
插座上再插一个插座???公牛WiFi智能转化器二代就是这样干的!
相信大家都有过和叶紫小编小木有一样的经历,就是当自己外出或者是临睡前,总有一些家电该断电的断电,不然... -
小熊暖脚电暖器:呵护你的小脚丫的光荣使命就交给它啦!!
寒风凛冽的冬天对于我们南方人来说,真的是太不友善了,凭啥北方人可以拥有暖气,而南方人过冬完全只可以凭... -
WhatsApp 比苹果 iMessage“更私密、更安全”
叶紫网10 月 18 日消息,Meta 首席执行官马克・扎克伯格在 Instagram 一篇新文章说... -
努比亚Z18延续无边框设计语言,搭载全面屏3.0技术屏占比逆天
【旗龙网:2018年8月24日消息】努比亚作为国内一加小众厂商,一直都以“无边框&rdq... -
OpenAI 发帖介绍如何确保 AI 安全:从实际使用中学习预防风险
因此,我们正在努力确保在各个系统层面上的安全性。打造更加安全的人工智能系统在推出任何新的人工智能系统...