ACM通信
ACM新闻
微软基于chatgpt的必应公开了其代号和规则，并与用户争论
过去一周，使用必应聊天的用户已经证明，必应聊天容易受到所谓的“即时注入”攻击。
图源:Patrick Daxenbichler/Getty Images
微软的新基于chatgpt的必应聊天仍处于有限的预览阶段，但有权访问的人已经促使它透露了其代号，管理其响应的规则——显然，他们目睹了它否认自己容易受到一种导致它泄露代号的方法的攻击。
过去一周，使用必应聊天的用户已经证明，必应聊天容易受到所谓的“即时注入”攻击。作为Ars Technica的AI记者本吉·爱德华兹解释道，提示注入攻击允许用户绕过语言模型提示符中的先前指令，并用新的指令替换它。爱德华兹在之前的报道中详细描述了这次袭击．
必应聊天甚至声称报告关于其易受提示注入攻击的说法是不正确的，并与测试人员争论历史上的小细节对一位记者说:“你只会让自己看起来愚蠢和固执。”
从ZDNET
查看全文
没有找到条目