OpenAI推出ChatGPT信任聯絡人功能,重大自傷風險可通知親友

圖片來源: 

OpenAI

OpenAI週四(5/7)宣布推出ChatGPT信任聯絡人(Trusted Contact)功能,讓18歲以上使用者可自願指定一名信任的成年人,在系統判斷使用者可能有嚴重自傷風險時,通知該名聯絡人介入關心。

OpenAI說明,使用者有時會在ChatGPT中探索個人問題,甚至在對話中透露自己正處於困難或需要支持的狀態,因此OpenAI希望系統在敏感情境下不只提供回應,也能在必要時協助使用者連結到現實生活中的支援。

為此設計的Trusted Contact是ChatGPT既有在地危機專線提示之外的另一層安全機制,目標是在使用者可能陷入危機時,幫助其接觸已信任的人。

使用者可從ChatGPT設定中新增一名信任聯絡人,對方必須年滿18歲,南韓則為19歲以上。受邀者會收到說明其角色的邀請,並須在一週內接受,功能才會啟用;若對方拒絕,使用者可改選其他成年人。使用者也可隨時修改或移除信任聯絡人,聯絡人也能自行退出。

倘若OpenAI的自動化監測系統偵測到使用者談及自傷且呈現嚴重安全疑慮,ChatGPT會先告知使用者可能通知信任聯絡人,並鼓勵使用者主動聯絡對方,也會提供對話開場建議。

之後,OpenAI會交由一組受過專門訓練的人員審查;若確認對話可能代表嚴重安全疑慮,才會透過電子郵件、簡訊,或ChatGPT App內通知信任聯絡人。通知內容不會包含聊天細節或逐字稿,只會簡要說明自傷議題曾以可能令人擔憂的方式出現,並建議對方主動關心。

OpenAI強調,Trusted Contact是選用功能,不會取代專業照護、危機專線或緊急服務,而是ChatGPT既有安全機制之外的另一層保護。ChatGPT在敏感對話中,仍會視情況鼓勵使用者聯絡危機專線、緊急服務、心理健康專業人士,或生活中的可信任對象。