OpenAI 发帖介绍如何确保 AI 安全:从实际使用中学习预防风险
叶紫网 4 月 6 日消息,美国当地时间周三,OpenAI 发帖详细介绍了其保证 AI 安全方法,包括安全评估、改进发布后的安全措施、保护儿童和尊重隐私。该公司表示保证 AI 系统的构建、部署和安全使用对实现其使命至关重要。
以下是 OpenAI 帖子的全文:
OpenAI 致力于确保强大的 AI 安全,让尽可能多的人受益。我们知道,我们的 AI 工具为当今人们提供了许多帮助。世界各地的用户向我们反馈,ChatGPT 有助于提高他们的工作效率、增强他们的创造力,并提供量身定制的学习体验。但我们也认识到,与任何技术一样,这些工具也存在真正的风险。因此,我们正在努力确保在各个系统层面上的安全性。
打造更加安全的人工智能系统
在推出任何新的人工智能系统之前,我们都会进行严格的测试,征求外部专家的意见,并通过人工反馈的强化学习等技术来改善模型的表现。同时,我们还建立了广泛的安全和监控系统。
以我们最新的模型 GPT-4 为例,完成训练后,我们在整个公司范围内进行了长达 6 个月的测试,以确保其在公开发布之前更加安全可靠。
我们认为,强大的人工智能系统应该接受严格的安全评估。监管是必要的,以确保这种做法被广泛采纳。因此,我们积极与各国政府接触,探讨最佳的监管形式。
从实际使用中学习,提高保障措施
我们尽力在系统部署之前预防可预见的风险,但实验室中的学习永远有限。我们广泛研究和测试,但无法预测人们会如何使用我们的技术,或滥用它。因此,我们认为从实际使用中学习,是创建和发布越来越安全的人工智能系统的关键组成部分。
我们谨慎地将新的人工智能系统逐步发布给人群,并采取实质性的保障措施,并根据我们吸取的教训不断改进。
我们提供自己服务和 API 中最强大的模型,以便开发人员可以直接将技术集成到他们的应用程序中。这使我们能够监控滥用行为并采取行动,同时制定应对措施。这样,我们可以采取实际行动,而不仅仅在理论上想象如何应对。
实际使用中的经验也促使我们制定了越来越细化的政策,以应对对人们构成真正风险的行为,同时仍然允许我们的技术以更有益的方式使用。
我们认为,社会需要更多时间适应日益强大的人工智能,每个受其影响的人都应该在人工智能的进一步发展方面拥有发言权。迭代部署有助于不同利益相关者更有效地参与人工智能技术的对话中,而拥有使用这些工具的第一手经验至关重要。
保护儿童
我们的安全工作关注重点之一是保护儿童。我们要求使用我们的人工智能工具的人必须年满 18 岁或以上,或者在父母同意的情况下年满 13 岁或以上。目前,我们正在研究验证功能。
我们不允许我们的技术用于生成仇恨、骚扰、暴力或成人等内容。与 GPT-3.5 相比,最新的 GPT-4 对受限制内容请求做出响应的可能性降低了 82%。我们已经建立了强大的系统来监控滥用行为。GPT-4 现在可供 ChatGPT Plus 的订户使用,我们希望随着时间的推移能让更多人体验它。
我们已经采取重大措施,最大限度地减少我们的模型产生伤害儿童内容的可能性。例如,当用户试图将儿童安全虐待材料上传到我们的图像生成工具时,我们会阻止它并向国家失踪和受剥削儿童中心报告此事。
除了默认的安全防护,我们与非营利组织可汗学院 (Khan Academy) 等开发机构合作,为他们量身定制了安全措施。可汗学院已经开发了一款人工智能助手,它可以作为学生的虚拟导师,也可以作为教师的课堂助手。我们还致力于开发允许开发者为模型输出设置更严格标准的功能,以更好地支持需要此类功能的开发者和用户。
尊重隐私
我们的大型语言模型是在广泛的文本语料库上进行训练的,其中包括公开可用的内容、获得授权的内容以及由人类审核人员生成的内容。我们不利用这些数据来销售我们的服务或广告,也不用它们来建立个人档案。我们只是利用这些数据来让我们的模型更好地为人们提供帮助,例如通过与人们进行更多对话来提高 ChatGPT 的智能水平。
尽管我们的许多训练数据中包括可以在公共网络上获得的个人信息,但我们希望我们的模型了解的是整个世界,而不是个人。因此,我们致力于在可行的情况下从训练数据集中删除个人信息,微调模型以拒绝个人信息的查询请求,并响应个人从我们的系统中删除其个人信息的请求。这些措施将我们的模型生成包含个人信息的响应的可能性降至最低。
提高事实准确性
现今的大型语言模型,基于之前的模式和用户输入的文本,可以预测下一个可能要使用的词汇。但在某些情况下,下一个最有可能出现的词汇实际上可能存在事实性错误。
提高事实准确性是 OpenAI 和许多其他 AI 研究机构关注的重点之一,我们正在取得进展。通过利用被标记为不正确的 ChatGPT 输出的用户反馈作为主要数据来源,我们提高了 GPT-4 的事实准确性。相比于 GPT-3.5,GPT-4 更可能产生符合事实的内容,提高幅度达到 40%。
当用户注册使用该工具时,我们努力做到尽可能透明,以避免 ChatGPT 可能给出错误回复。然而,我们已经认识到,要进一步降低误解的可能性,并教育公众了解这些 AI 工具目前的局限性,还有很多工作要做。
持续的研究和参与
我们认为,解决 AI 安全问题的一个切实可行方法是,投入更多的时间和资源来研究有效的缓解和校准技术,并针对现实世界可能被滥用的情况进行测试。
重要的是,我们认为提高 AI 的安全性和能力应该同时进行。我们迄今为止最好的安全工作来自于与我们最有能力的模型合作,因为它们更擅长遵循用户的指示,更容易驾驭或“引导”它们。
我们将越来越谨慎地创建和部署能力更强的模型,并将随着 AI 系统的发展而继续加强安全预防措施。
虽然我们等了 6 个多月才部署 GPT-4,以更好地了解其功能、好处和风险,但有时可能需要更长的时间来提高 AI 系统的安全性。因此,政策制定者和 AI 开发商需要确保 AI 的开发和部署在全球范围内得到有效监管,这样就没有人会为了保持领先而采取捷径。这是一项艰巨的挑战,需要技术和制度创新,但我们渴望为此做出贡献。
解决 AI 安全问题还需要广泛的辩论、实验和参与,包括为 AI 系统的行为设置界限。我们已经并将继续促进利益相关者之间的合作和开放对话,以创建更安全的 AI 生态系统。
热门推荐
-
Windows硬盘安装凤凰系统(Phoenix OS)可以用电脑玩吃鸡手游啦~
感觉手机上玩吃鸡,玩王者荣耀不方便,小北教你安装桌面版Android系统,使用键盘鼠标来玩吃鸡跟王炸... -
人工智能领域里面的配套服务产业有什么
现代社会上,人工智能领域已经非常的普及,而且研发出了相应的产品,所以说相关的一些企业开始有着具体的分... -
一机两用!原道Win8双系统平板推荐
Win8安卓双系统平板电脑,是最近的热点。 -
小米发布人工智能虚拟形象“小爱”,不过看到她的手办后……
人人都要赚死宅的钱。 昨天,小米在北京召开了首届小米LOT(物联网)开发者大会,大会现场,小米人工智... -
准系统是什么?准系统使用如何
不小小伙伴在组装电脑的时候,会接触到准系统一词,准系统是什么意思呢?和我们日常使用的电脑有什么区别?... -
关于传奇游戏系统的全面介绍
游戏玩家们对于热血传奇这款游戏应该非常熟悉,这是由盛大游戏公司在01年的时候推出的一款多人的游戏,在... -
汽通用五菱正式发布新阶段智能化成果 ——“灵犀智驾系统”
昨天,上汽通用五菱新阶段智能化成果正式发布 ——灵犀智驾系统,后者目前已率先落地 2023 款 Ki... -
不用重装系统!Win10系统开启硬盘AHCI模式超简单
最近刚换了良品主板,装机后才发现,SATA硬盘工作在IDE模式下。本来打算使用修改注册表方法来解决这... -
插座上再插一个插座???公牛WiFi智能转化器二代就是这样干的!
相信大家都有过和叶紫小编小木有一样的经历,就是当自己外出或者是临睡前,总有一些家电该断电的断电,不然... -
华硕 Zenfone 9 小屏旗舰手机系统更新至Android 13
这也是首款用上 Android 13 的华硕智能手机。华硕 ZenFone 9 安卓 13 系统版... -
良心提醒:千万不要把手机充电器一直留在插座上
现如今是个手机不离身的时代,曾经有专家做过实验,当代人对手机的依赖感已经达到了手机不在身边就没有安全... -
人工智能语言模型 GPT-3 在智商测试中明显胜过人类大学生
在衡量智力的一系列推理测试中,自回归语言模型 GPT-3 的成绩明显优于普通大学生。该程序利用深度学... -
Android 13 或将强制要求 A / B 分区,可无缝更新系统
以继续使用分区更新系统 B 分区,然后重启 A 分区,从而省下了系统更新的时间,所以也叫无缝更新。此... -
多了0.1的EMUI——荣耀7系统体验评测
15年4月份,EMUI终于迎来了更新——EMUI3.1版本,并首次在P8上使... -
在哪下载win10系统?免费win10系统下载那个好?
win10在哪里下载免费?win10哪个站下载比较好用?相信很多人都在寻找win10系统下载官网,w... -
为什么我常年使用 Archlinux 系统,谈谈 Archlinux 吸引人的地方
时间过得飞快,转眼间我已经使用 Archlinux 系统十多年时间了,内核版本也从... -
人工智能发展迅速
随着科技的进步,人工智能已经成为了很多科研人员以及商家所重视的领域,现在电子类的产品和设备种类越来越... -
AI 能生成新型蛋白质,可用于制造特定机械性能材料
研究人员将新生成的蛋白质与具有相似结构特性的已知蛋白质进行了比较。他们发现,许多生成的蛋白质与已知的... -
难以舍弃的老牌系统下载利器--清爽不限速的迅雷7送给你
提及迅雷,大概很多零零后都不知它为何物,可对于那些有着十年以上网龄的朋友们来说,迅... -
2018手机市场最惊喜——努比亚X的双屏和J OS双屏交互系统
纵观2018年的手机市场,各大手机厂商依旧各出奇招、争奇斗艳。 -
Google Rivet发布:通过语音识别和AI提升孩子阅读技能
阅读是人类茁壮成长的必备基础技能之一,但是有些家长认为过多的在移动设备上使用儿童应用程序可能会妨碍这... -
微软公布 2023 年工作趋势指数报告
微软最近推出了 2023 年度工作趋势指数报告,重点观察员工对人工智能的看法,以及人工智能... -
WP7.5系统入门手机实体验 诺基亚610评测
相信在目前的手机用户当中,并不是所有人都喜欢Android和iOS系统的手机,也有相当一部分希望能够... -
韩国的这款大宇无叶风扇,不仅仅是风扇喔!
叶紫小编小木有不得不吐槽一下最近的天气了,站在门口就可以感受到迎面的热浪向你袭来,就算你把自己全副武... -
魔兽世界拥有哪些特色系统
魔兽世界像是一种非常经典的网络游戏,是由暴雪娱乐公司制作出来的第一款游戏,而且可以支持很多玩家能在线...