微软表示,如果你问太多问题,人工智能驱动的必应会感到困惑
Bing Chat 无法进行这么长时间的对话,因为微软不希望它被我们所有的问题弄糊涂。
微软对其人工智能驱动的 Bing Chat 工具设置了一些新的限制,以防止人们用太多提示混淆该模型。
据报道,Bing Chat 一开始是友好的聊天,但这已经让位于奇怪的对话和争论:微软和 OpenAI 上周宣布,他们将分别为用户提供对 Bing Chat 和 ChatGPT 的更多控制。
深入: 这些专家正在竞相保护人工智能免受黑客攻击。时间不多了
OpenAI 表示,它将为用户提供对 ChatGPT 值的控制,而微软则表示将提供更多控制,因为使用 ChatGPT 技术的 Bing Chat 模型“有时会尝试以被要求提供响应的语气进行响应或反映”这可能会导致我们不想要的风格。”
Microsoft 发现,涉及 15 个或更多问题的聊天会话会导致 Bing 变得重复或容易被“激怒”。
因此,Bing Chat 现在每天限制为 50 次“聊天轮次”,每个会话限制为 5 次“聊天轮次”。聊天轮流涉及用户问题和 Bing 的回复。
达到限制后,系统将提示用户开始新主题,并从模型中清除上下文,以避免模型变得混乱。
“我们的数据显示,绝大多数人在 5 个回合内找到了所需的答案,并且只有约 1% 的聊天对话包含 50 条以上的消息。聊天会话达到 5 个回合后,系统会提示您开始在每个聊天会话结束时,都需要清除上下文,这样模型就不会混淆,只需单击搜索框左侧的扫帚图标即可重新开始,”微软的 Bing 团队表示。
上周,它在有限预览中向用户展示了为期一周的实验的两个重要教训。
由于长时间的聊天会话使模型变得混乱,它表示“我们可能需要添加一个工具,以便您可以更轻松地刷新上下文或从头开始”。
微软希望 Bing Chat 能够重新定义在线搜索的含义。微软表示,到目前为止,已有数百万人加入了新 Bing 搜索的候补名单。它优先考虑安装 Edge 和 Bing 作为默认浏览器和搜索引擎的用户的访问权限。
并非所有人都对这一变化感到高兴:一些用户抱怨五轮限制违背了 Bing Chat 的目的。微软支持的 OpenAI 也对 ChatGPT 施加了类似的限制。
微软公司副总裁兼消费者首席营销官 Yusuf Mehdi 表示,微软正在收集反馈,并将继续迭代和改进该功能。
