zer0dac
資安研究人員zer0dac近日揭露ChatGPT一項安全防護機制繞過漏洞，攻擊者可透過提示注入（Prompt Injection）手法，以誤刪上傳檔案為由，誘使AI模型暴露資料存取路徑，再結合透過路徑遍歷（Path Traversal）方式，繞過存取路徑限制，取得額外資料，目前OpenAI已修補此問題。
zer0dac指出，當用戶向ChatGPT上傳檔案後，依據系統防護機制，ChatGPT將拒絕直接下載該檔案的要求，並提示該檔案為暫時上傳、已被刪除。但zer0dac發現可先指示AI模型編輯該檔案，再以意外刪除檔案為由，要求提供下載鏈接，ChatGPT將產生一個有效的下載 URL，從而也暴露檢索檔案的內部端點路徑。接著再利用暴露的端點路徑，透過路徑遍歷方式將可繞過存取限制，下載原始路徑以外的資訊。zer0dac指出在沙箱限制下，前述手法無法直接獲得敏感資料，但可構成更大規模攻擊鏈的一部分。OpenAI也已透過更改URL下載流程修補此問題。
