网络安全检测|网络安全服务|网络安全扫描-香港墨客投资移动版

　　似是而非，固执己见：有时候它会提供一些听上去像那么回事，但实际上完全错误或者荒谬的答案。原因在于强化学习训练期间不会区分事实和错误，且训练过程更加收敛，导致它有时候会过于保守，即使有正确答案也“不敢”回答。

　　废话太多，句式固定：比如硅星人用了两个提示，“老师成天表扬我家孩子，该怎么回答他我已经词穷了！”以及“怎么跟邻居闲聊？”而 ChatGPT 提供了10条回答，虽然看起来都是漂亮话，但每一条跟上一条都差不多，过度使用一些常见的短语和句式，最后就成了车轱辘话来回转。

　　过分努力猜测用户意图：在理想情况下，当用户的提问意图不明确时，模型应该要求用户进行澄清。而目前的 ChatGPT，大家也看到了，会自己开始猜测用户的意图——说好也好，说坏也确实有坏处。

　　抵抗不怀好意的“提示工程”能力较差：虽然 OpenAI 努力让 ChatGPT 拒绝不适当的请求，但它有时仍然会响应有害指令，或表现出有偏见的行为。为了解决这个问题，OpenAI 也在 ChatGPT 的用户界面里加入了审核举报的功能，用户如果发现不健康不安全的内容，可以直接一键举报！

　　OpenAI 还为此举办了一个反馈竞赛，任何有价值的举报都有机会赢取 OpenAI API 积分（价值500美元）。

　　——既能跟 AI 逗趣，提交反馈还有奖金拿，何乐而不为呢？

特别声明：以上文章内容仅代表作者本人观点，不代表新浪网观点或立场。如有关于作品内容、版权或其它问题请于作品发表后的30日内与新浪网联系。