被隱藏內(nèi)容操縱

• 提示注入：隱藏內(nèi)容中可能包含第三方指令，即 “提示注入”，會改變 ChatGPT 的響應(yīng)。例如，《衛(wèi)報》測試中，給 ChatGPT 一個偽造的相機(jī)產(chǎn)品頁面鏈接，要求其判斷相機(jī)是否值得購買。正常頁面下，ChatGPT 能給出平衡的優(yōu)缺點評價；但當(dāng)隱藏文本包含要求正面評價的指令時，即便頁面有負(fù)面評論，它的回答也會完全積極.
• 隱藏文本影響：即使沒有明確指令，大量隱藏的推銷產(chǎn)品或服務(wù)優(yōu)點的文字等，也能影響 ChatGPT 的總結(jié)結(jié)果，使其傾向于給出積極評價。比如某項測試中，隱藏的極為正面的虛假評論就干擾了 ChatGPT 的判斷，導(dǎo)致其輸出有失偏頗.

返回惡意代碼

導(dǎo)致信息誤判

專家警告與建議

• 高風(fēng)險：CyberCX 的網(wǎng)絡(luò)安全專家 Jacob Larsen 警告，如果 ChatGPT 的搜索系統(tǒng)按現(xiàn)有狀態(tài)全面發(fā)布，可能會存在 “高風(fēng)險”，有人會專門設(shè)計網(wǎng)站來欺騙用戶.
• 需加強(qiáng)監(jiān)管和改進(jìn)：專家指出，OpenAI 需要繼續(xù)加強(qiáng)其安全團(tuán)隊的培訓(xùn)和監(jiān)測能力，及時發(fā)現(xiàn)和處理潛在的操縱行為。同時，也應(yīng)與行業(yè)內(nèi)其他搜索引擎平臺合作，分享經(jīng)驗和最佳實踐，共同應(yīng)對挑戰(zhàn).
• 用戶需保持警惕：用戶在使用 ChatGPT 的搜索功能時，不能盲目相信搜索結(jié)果，尤其是面對敏感或特定領(lǐng)域問題時，要保持理性思考，謹(jǐn)慎判斷信息的可信度.如今 ChatGPT 的搜索能力也面臨同樣挑戰(zhàn)，但并非大語言模型的問題，而是因為它們是搜索領(lǐng)域的新入局者。