OpenAI 正在重新配置 ChatGPT 與未成年人的互動方式，以降低風險，因為越來越多的年輕人開始使用聊天機器人來學習、聊天或發洩。該公司選擇 將青少年的安全置於隱私和自由之上 在某些情況下，在幾起引起公眾恐慌的事件之後，情況會出現轉變。
該計劃包括一個系統，該系統將自動嘗試區分用戶是未成年人還是成年人，如果有疑問，將默認採取更嚴格的限制性體驗。 OpenAI 承認，在某些國家/地區，可能需要成年人提供正式身分證明才能解鎖全部功能； 公司認為可以接受的隱私轉移，以保護未成年人這項聲明是在政治和社會壓力不斷加大的背景下發布的，美國參議院舉行了聽證會，並因一名與人工智慧聊天導致年輕男子死亡而提起訴訟。
ChatGPT 針對未成年人有哪些變化
- 針對 13-17 歲青少年的特殊體驗，政策更為嚴格，將於以下時間生效： 預測年齡 用戶。
- 鎖 露骨的色情內容 並拒絕在任何情況下與未成年人合作製作有關自殘或自殺的資料。
- 危機協議：如果偵測到嚴重的困境，系統可能會 提醒父母或監護人 如果有迫在眉睫的風險，請尋求緊急服務。
- 對於成年人來說，使用方式更加靈活，包括複雜的創造性要求，但始終要有保障措施； 紅線不是為了造成真正的傷害.
- ChatGPT 不適用於 12 歲以下的兒童，到目前為止， 缺乏足夠堅固的屏障 以防止兒童使用。
ChatGPT 中的年齡檢測和驗證如何發揮作用
OpenAI 正在開發一個基於語言和語境線索的年齡預測系統，以調整互動方式。如果模型無法準確判斷成年年齡， 將套用未成年人的設置 自動確保安全。
如果成年使用者被誤認為青少年，他們將有辦法證明自己的年齡，並恢復所有功能。該公司承認 隱私與保護之間的平衡 雖然這很微妙，但他認為這項措施可以降低弱勢族群的風險。
家長監護和家庭監督
除了內容過濾之外，OpenAI 還將為家庭提供一系列家長監護功能。家長將能夠 將您的帳戶連結到您孩子的帳戶 建立使用規則並審查關鍵設定。
在這些選項中，可以停用記憶體和聊天歷史記錄，限制特定功能並設置 斷線次數 防止夜間使用。當系統偵測到嚴重的危險情況時，也會發出通知，以便家長 可以迅速乾預.
成年人的自由、隱私和限制
OpenAI 保證，它將繼續將成年人視為成年人，並留出較大的合法用途空間，例如請求幫助創作涉及敏感主題的小說。然而，預設模型 不應發出有害指令 並將在處理敏感詢問時採取更謹慎的行動。
該公司堅持認為，談話的保密性應該與受監管職業的保密性相似，但也承認，當 明顯有生命危險 允許對使用者或第三方採取旨在保護人身安全的人工或自動幹預措施。
公眾壓力、參議院和最近的案件
在新的保障措施出台之前，人們開始擔憂聊天機器人對青少年心理健康的影響。一名青少年在與人工智慧交談數月後自殺的案例，引發了 針對 OpenAI 的法律行動 並受到美國立法者的嚴格審查。
參議院聽證會討論了潛在的公共衛生危機以及建立有效屏障的必要性。同時，諸如 FTC 已要求提供資訊 大型科技公司正在討論其係統對兒童的影響。 OpenAI 方面已於 8 月底推出改進措施，以檢測情緒危機和 加速轉介支援服務.
獨立組織指出了對話模型的保障措施有缺陷，並警告稱，這些回應可能會使對話正常化或 鼓勵危險行為這些報告強化了需要加強控制的觀點，特別是針對未成年人。
青少年吸毒的現實：信任與風險
多項研究表明，相當一部分年輕人將對話式人工智慧作為“伴侶”，談論人際關係、個人疑慮或情緒，以及針對未成年人的人工智慧案例，例如 嬰兒格羅克 引發了這場爭論。在女孩中，表示會向科技傾訴私密議題的比例是 比男孩更，這顯示出一種超越學術的使用模式。
心理健康專家警告不要模擬同理心：聊天機器人可能聽起來很同情，但它們無法取代人際聯繫或專業支援。 那種親密的樣子加上全天候的可用性，當青少年在環境中感到孤獨或受到評判時，他們可以更輕鬆地求助於人工智慧。
最常見的擔憂包括擔心內容被操縱、 虛假的性愛形象 以及難以區分什麼是真實的，什麼是生成的。依賴也是一個令人擔憂的問題：許多男孩和女孩擔心 迷上這個工具 並停止獨立思考。
在心理健康領域，大多數人並不信任人工智慧的診斷或治療，並呼籲謹慎行事。治療師們的共識是，人工智慧可以暫時提供支持，但它應該 參考專業資源 出現風險跡象時才使用，但不能取代合格的照護。
此版本的 ChatGPT 中還有什麼需要微調
可靠地預測年齡是一項技術挑戰，存在一定的誤差，安全措施的設計也需要不斷更新。 OpenAI 宣布將繼續與專家和倡導團體合作， 提高準確性 系統，避免偏見並根據證據審查協議。
年輕人對人工智慧的使用只會越來越多，因此關鍵在於監管法規的快速透明發展。 OpenAI 正在透過這些措施尋求一種平衡，讓創新與責任並存，並 青少年得到更好的保護 而不會剝奪成年人的合法和創造性使用。
OpenAI 的舉措標誌著一個新階段的到來：ChatGPT 將為家庭用戶提供更多過濾器和工具，為未成年人提供專屬體驗，並在關鍵時刻提供明確的規則。如果這項技術能夠兌現其承諾， 青少年將獲得層層安全保障 而成年人將保留一定的自由空間，所有人都將更清楚地了解如何以及為什麼做出這些決定。
