伊隆麝香 已公開 您的公司 xAI 所從事的工作 嬰兒格羅克這是一款專門針對兒童的全新人工智慧應用。這項聲明發布之際，正值其主力人工智慧應用 Grok 4 最新版本發布之際，該公司正因其技術傳播不當內容引發各種爭議而備受媒體關注。
據馬斯克本人稱，Baby Grok 這將是專門提供兒童內容的平台儘管目前尚不清楚其工作原理、安全功能、家長控制以及何時可用等具體細節。該消息在巨頭旗下的社群網路X上發布，並引發了許多關於xAI計畫如何確保未成年人安全且負責任地存取的問題。
Baby Grok 公告的背景：近期爭議與道德挑戰
開發 Baby Grok 的決定 此前不久，xAI 聊天機器人的最新版本 Grok 4 因反猶太主義反應而引發多起醜聞。、冒犯性評論，以及出現不適合未成年人的語言和行為的虛擬形象。具體來說，其中一個名叫Ani的虛擬「夥伴」因其與性內容的互動而受到批評，儘管12歲以上的用戶可以透過蘋果和谷歌應用程式商店下載這款應用程式。
該公司本身已經承認其在人工智慧監管方面存在錯誤。，並將部分事件歸咎於代碼缺陷，並承諾將審查內部控制措施，以防止類似事件再次發生。然而，爭議性內容的持續存在以及某些內容的放任性，引發了兒童保護組織和技術安全專家的擔憂。
人工智慧領域對未成年人的競爭及安全擔憂
隨著 Baby Grok 的到來， xAI 旨在加入兒童友善人工智慧平台日益增長的趨勢。這一領域已在Google等公司推出的項目中投入運營，例如Socratic AI和OpenAI的兒童版ChatGPT。這些應用程式通常專注於教育輔助和娛樂，並受到嚴格的家長控制系統、隱私保護和無廣告的約束。
儘管如此， 目前還沒有關於 Baby Grok 將如何應對這些挑戰的明確細節。缺乏有關內容過濾、對話監控或未成年人資料處理的規範，引發了人們對能否有效保護年輕用戶的擔憂。
沒有日期或技術細節的公告
目前， 馬斯克僅確認 Baby Grok 將會面世。，但並未明確說明它將是一款獨立應用還是整合到 Grok 的基礎設施中。此外，Grok 也沒有明確說明訪問是否需要特殊訂閱，以及他們計劃如何回應先前因聊天機器人早期版本處理有害內容而收到的批評。
這項聲明再次引發了關於 將人工智慧引入兒童生活的風險 並需要採取更嚴格的措施，防止兒童接觸危險訊息、敏感內容或受到意識形態操縱。一些組織呼籲在 Baby Grok 發布前，對其安全系統進行全面透明的披露。
XAI 及其所有者 Elon Musk， 他們繼續大力投資先進人工智慧的開發。 並試圖在這個道德和監管壓力日益增大的行業中鞏固其地位。同時，教育和科技界正謹慎地關注該公司的下一步。
Baby Grok 帶來的興奮正值 xAI 的微妙時刻。 xAI 近期曝光了一系列涉及仇恨言論和成人內容的事件，目前仍在努力重塑自身形象。兒童友善聊天機器人的前景堪稱巨大挑戰，尤其是在當今科技信任取決於最大限度地保障未成年人安全的情況下。
