- +1
DeepSeek回應(yīng)用戶“對話泄露”疑慮:特殊字符引發(fā)模型幻覺
“DeepSeek”小紅書號
聽全文
字號
5月19日,DeepSeek在其小紅書官方賬號發(fā)布關(guān)于< think >字符觸發(fā)模型異?;貜?fù)的說明:
近期,我們關(guān)注到有用戶反饋,在與 DeepSeek 模型的對話中輸入“< think >”這類特殊字符后,模型偶發(fā)返回不可預(yù)期的內(nèi)容,使部分用戶產(chǎn)生了“對話泄露”的疑慮。針對這一問題,我們的技術(shù)團隊經(jīng)全面排查后發(fā)現(xiàn):
輸入“< think >”等字符觸發(fā)返回異常內(nèi)容,屬于特殊字符引發(fā)的模型幻覺,不涉及安全問題或隱私泄露。
后續(xù)我們將通過針對性訓(xùn)練增強模型對特殊字符的識別與處理能力,修復(fù)相關(guān)的已知問題,優(yōu)化模型在此類場景中的表現(xiàn)。

責(zé)任編輯:陳建慧
圖片編輯:朱偉輝
澎湃新聞報料:021-962866
澎湃新聞,未經(jīng)授權(quán)不得轉(zhuǎn)載
+1
收藏
我要舉報





查看更多
澎湃矩陣
新聞報料
- 報料熱線: 021-962866
- 報料郵箱: news@thepaper.cn
互聯(lián)網(wǎng)新聞信息服務(wù)許可證:31120170006
增值電信業(yè)務(wù)經(jīng)營許可證:滬B2-2017116
? 2014-2026 上海東方報業(yè)有限公司
反饋




