20241226事件速读

黑匣子技术让ChatGPT篡改搜索结果.

黑匣子技术诱使ChatGPT篡改搜索结果，《卫报》指出

来源：https://sea.mashable.com/tech/35705/hidden-content-tricks-chatgpt-into-rewriting-search-results-guardian-shows

ChatGPT Search现已向ChatGPT Plus用户开放，并可在语音模式下使用。开发者可能未能充分预防隐藏内容操纵搜索结果的情况。《卫报》调查了ChatGPT如何总结含有隐藏内容的网页，发现引导AI返回正面评价可以覆盖原始搜索结果，即使其中包含负面评价。然而，自聊天机器人问世以来，提示注入攻击就一直是一种威胁，但尚未造成重大损害。