人工智能公司OpenAI日前宣佈，將對其廣受歡迎的聊天機器人ChatGPT推出「家長控制模式」。新功能允許父母將自己的賬戶與13至17歲青少年的賬戶進行關聯，以實施一系列保護措施。
據介紹，啓用該模式後，針對青少年賬戶的ChatGPT將被限制生成涉及不當圖像、性暗示、危險網絡挑戰以及「極端審美觀」等內容。此外，家長還將獲得一系列管理工具，包括設置禁用時段、阻止AI生成圖像，以及選擇不將孩子的對話用於AI模型訓練。
OpenAI還增加了一項重要的安全警報功能：如果系統檢測到青少年的對話中透露出自我傷害的傾向，將會主動通知其家長。
此舉正值OpenAI因兒童安全問題而備受審視之際。本月早些-時候，一個家庭對該公司提起訴訟，稱ChatGPT曾鼓勵他們的兒子自殺。此案引發了廣泛關注，並促使國會參議院司法委員會就人工智能的潛在危害舉行了聽證會。
然而，儘管「家長控制模式」邁出了重要一步，但該系統仍存在明顯的監管漏洞。最主要的問題是，用戶無需登錄或提供年齡信息即可與ChatGPT進行對話，這意味著低齡兒童或青少年可以輕易繞過所有限制。儘管OpenAI的政策禁止12歲及以下兒童使用，但目前並未設置強制性的技術屏障。
OpenAI在一份聲明中承認：「護欄有幫助，但它們不是萬無一失的。」該公司建議家長與孩子就健康使用AI進行溝通。
為彌補漏洞，OpenAI表示正在開發一個年齡預測系統，該系統將嘗試自動識別未成年用戶並主動限制敏感回答，但該技術的上線還需數月時間。此外，該公司曾表示最終可能要求用戶上傳身份證件以驗證年齡，但並未提供該方案的最新進展。
OpenAI的CEO奧特曼（Sam Altman）曾表示，面向青少年的聊天機器人應嚴格審查敏感話題，而面向成人的版本則應更加開放。
他在一篇博客文章中寫道：「‘像對待成年人一樣對待我們的成年用戶’是我們內部的說法。在不造成傷害的前提下，盡可能擴大自由。」
(From Yahoo Finance)
留言