AI 聲音克隆對我的孩子安全嗎？

認真的問題值得認真回答——以下是「安全」在聲音克隆應用程式中的真實含義，以及如何誠實地評估一個應用程式。

「安全」在這裡的真實含義

當家長問聲音克隆對孩子是否安全時，他們通常真正問的是兩個不同的事情：對我的孩子聽它是否安全，以及將我的聲音錄音交給我是否安全。兩者都是公平的，它們有不同的答案。

在第一個問題上：孩子聽到被克隆父母聲音朗讀的床邊故事，在功能上，聽的是一個錄音——只是碰巧是父母在那一次沒有親自朗讀的內容的錄音。故事本身是由應用程式預寫的，在到達孩子之前被審查，不會根據孩子說或做的任何事而改變。沒有現場對話發生。沒有任何東西被實時生成以回應孩子。這是一個明顯不同的（且遠遠更受限的）情況，與例如，一個孩子可以與之交談並獲得不可預測回應的開放式人工智慧聊天機器人。

在第二個問題上——將你的聲音交給是否安全——那真的是一個數據隱私問題，在選擇任何應用程式之前值得花真正的時間。

你的孩子實際上聽到什麼

在這一點上要精確是值得的，因為它是安全問題的症結所在：你的孩子聽到父母真實聲音的合成版本，讀固定、預寫的文本。它不是一個聊天機器人。它不能說任何未經編寫的內容。它不能實時回應孩子。「AI」部分發生一次，提前，當聲音模型被建立並用於朗讀故事時——不是在你的孩子聽的時刻。

Tuck 的故事具體說來，被寫成一個故意的結構，該團隊稱之為「Tuck Arc」：一個平靜的歡迎、一個小軟奇蹟（從不冒險或興奮）、一個溫和的平靜，其中句子變得更短，世界變得更安靜，以及一個總是安全、溫暖和睡著的結尾。孩子聽到的內容中沒有冒險風格的危險。

在任何聲音克隆應用程式中要檢查什麼

無論是否選擇 Tuck，這是評估任何要求聲音錄音的應用程式的合理清單：

• 閱讀隱私政策——特別是聲音數據部分，不只是一般數據收集。
• 詢問聲音數據是否離開設備或傳輸到第三方服務器，如果是的話，誰操作它們。
• 檢查你的聲音是否被分享或出售給任何其他方、用於訓練不相關的模型，或用於生成家人故事之外的任何內容。
• 理解刪除選項——你能否刪除你的聲音錄音和生成的克隆，以及刪除是否實際上從他們的系統中移除它。
• 查看誰可以訪問克隆——它是否被鎖定在你的帳戶/家庭，或是否理論上可以由任何有應用程式訪問權限的人使用？

我們不會在這裡就該空間中其他應用程式是否處理聲音數據的方式做出聲明，除了每一個公開披露的內容——這值得直接針對每個應用程式自己的隱私政策進行驗證，而不是按照競爭對手的行銷值。

Tuck 陳述的隱私立場

對於 Tuck 具體來說：聲音錄音和生成的克隆對創建它們的家庭保持私密。他們不被出售或與第三方分享。克隆存在用於一個目的——在你無法親身在場的夜晚在你自己的聲音中朗讀 Tuck 的床邊故事給你自己的孩子。

常見問題