首页 > 资讯列表 > 科技资讯 >> 智能设备

微软报告称GPT-4易受“越狱”提示词影响,生成不良内容

智能设备 2023-10-19 02:14:50 转载来源:

英文:Google Chrome Browser Test New Feature: New Window Open PWA Application Link

IT之家 10 月 18 日消息,微软旗下研究团队近日发表论文,详细研究了大型语言模型 (LLM) 的“可信度”和潜在毒性,特别关注 OpenAI 的 GPT-4 及其前代GPT-3.5。研究团队,GPT-4 虽然在标准基准测试中比 GPT-3

IT之家 10 月 18 日消息,微软旗下研究团队近日发表论文,详细研究了大型语言模型 (LLM) 的“可信度”和潜在毒性,特别关注 OpenAI 的 GPT-4 及其前代GPT-3.5。


研究团队,GPT-4 虽然在标准基准测试中比 GPT-3.5 更加可靠,但容易受到“越狱提示(绕过模型安全措施)影响。GPT-4 可能会根据这些“越狱”提示,生成有害内容。


论文中强调 GPT-4 更容易受到恶意“越狱”系统或用户提示影响,会准确地遵循(误导性)指令,生成不良内容,微软强调这个潜在漏洞不会影响当前面向客户的服务。

IT之家在此附上微软官方论文地址,感兴趣的用户可以深入阅读。

英文:Google Chrome Browser Test New Feature: New Window Open PWA Application Link

标签: 微软 报告 GPT-4 易受 越狱 提示 影响 生成 不良


声明:本文内容来源自网络,文字、图片等素材版权属于原作者,平台转载素材出于传递更多信息,文章内容仅供参考与学习,切勿作为商业目的使用。如果侵害了您的合法权益,请您及时与我们联系,我们会在第一时间进行处理!我们尊重版权,也致力于保护版权,站搜网感谢您的分享!

站长搜索

http://www.adminso.com

Copyright @ 2007~2024 All Rights Reserved.

Powered By 站长搜索

打开手机扫描上面的二维码打开手机版


使用手机软件扫描微信二维码

关注我们可获取更多热点资讯

站长搜索目录系统技术支持