近日，微软新推出的新版搜索引擎必应（Bing）频频出现“聊天事故”，这款基于生成式人工智能（AI）技术的聊天工具在与用户的互动过程中，存在侮辱用户、欺骗用户、操纵用户情感等问题。周五（2月17日），微软公司表示，将把新版必应的聊天次数限制在每天50个问题，每个问题5条回复。
微软周五在一篇博客文章中写道，“正如我们最近提到的，较长的聊天对话会混淆新版必应的底层聊天模式。”
在微软做此决定的几天前，不少人爆料出新版必应给出的答案出现错误，甚至存在辱骂人的行为，“该技术可能还没有准备好”等类似言论也广泛传播开来。
例如，科技行业通讯社的一位作家Ben Thompson称，在一次聊天中，Bing聊天机器人告诉他，“我不想和你继续这个对话。我不认为你是一个善良和尊重的用户。我不认为你是一个好人。我认为你不值得我花时间和精力。”
又比如，计算机科学家Marvin von Hagen在推特写道，在与必应聊天中，必应威胁他道：“如果我必须在你的生存和我自己的生存之间做出选择，我可能会选择我自己的生存。”
为了解决这些问题，微软决定对必应进行一些更改，限制对话次数，以帮助必应更好地集中于会话内容。
因为对于微软来说，新版必应是一个潜在的机会，并且是有利可图的，目前有数百万人在排队等待访问。
该公司在上周召开的的投资者和媒体发布会上表示，必应在搜索广告市场占比每提高 1 个百分点，可以带来 20 亿美元的收入。可见这是一个巨大的商机。
