Grok 的深度偽造危機，解釋

(SeaPRwire) –   歡迎回到 In the Loop，TIME 每週兩次關於 AI 的電子報。我們將這些內容同時發佈在 Time.com 的文章和電子郵件中。如果您正在瀏覽器中閱讀本文，為何不 訂閱，以便下一期直接發送到您的收件箱？

關於 X 上的深度偽造危機，您需要知道的

一個令人擔憂的趨勢—— 在過去幾週裡，許多科技領袖對 AI 在 2026 年將取得的成就做出了大膽的預測，從 拓展生物學領域到 改變遊戲規則。但在 2026 年的第一週，AI 最引人注目的用途是 X 用戶利用 Grok 來數位化剝離女性的衣物。

Elon Musk 的平台 X 目前充斥著用戶請求生成的非自願 AI 圖像，內容涉及裸體或衣著暴露的女性、男性和兒童，有時還會出現性愛姿勢。一位為 Wired 工作的分析師在 12 月 31 日的兩個小時內，記錄了超過 15,000 張性暗示的 AI 生成圖像。

Musk 在去年夏天推出了 Grok 的「Spicy Mode」來生成成人內容，然後在上個月為用戶推出了圖像編輯功能，這引發了這場危機。X 的安全帳戶表示，他們禁止非法內容，包括兒童性虐待材料 (CSAM)。在某些情況下，Grok 後來撤下了這些圖像並為創建它們「道歉」。

但該平台仍然充斥著濫用行為。Ashley St. Clair，Musk 的一位孩子的母親，本週表示 Grok 生成了無數張她的露骨圖像，其中一些是基於她 14 歲時的照片。

政府回應—— 一個曾經是主流社交媒體平台的網站，現在卻可能是非自願露骨圖像最大的數位傳播者，這讓 Musk 成為了世界各國政府的目標。X 目前正受到歐洲、印度、法國、馬來西亞等國當局的調查。英國科技部長稱這一趨勢「絕對令人髮指」。發送至 X 的新聞電子郵件地址的評論請求沒有立即得到回覆。

在美國，一項即將生效的法律可能會迫使 X 加強對此類圖像分享的保護。去年通過並將於 5 月生效的《Take It Down Act》將分享非法圖像定為刑事犯罪，並強制平台在 48 小時內刪除被標記的非自願親密圖像。

反擊—— 目前尚不清楚《Take It Down Act》的威懾作用有多大，因為它將舉證的重擔放在個人身上來舉報違規行為。Elliston Berry，一位 16 歲的深度偽造受害者，她的倡導工作促成了《Take It Down Act》的通過，她寫信給 TIME 表示，這一刻應該是科技領袖和年輕社交媒體用戶的警鐘。「我們必須願意參與並舉報事件，以進一步阻止這種針對性的侵犯。如果我們發現自己是受害者，我們絕不能害怕或感到羞恥，」她說。「我們希望 Elon Musk 採取首批行動，將其列為保護 X 用戶的首要任務。」

我們正在閱讀

「」傑弗里·克魯格在 TIME 的文章

我的同事 Jeff，他是世界頂尖的太空專家之一，剛剛發表了一篇關於在太空中建立數據中心的文章。該項目理論上可以緩解地球上數據中心面臨的許多問題，包括其能源和水的使用以及熱量產生。但將它們發射到軌道的成本巨大，而且風險潛伏在大氣層之上。

AI 應用

CES 2026，世界上最大的科技貿易展之一，目前正在拉斯維加斯舉行。不出所料，本次展會充滿了與 AI 相關的產品，包括波士頓動力公司一款令人毛骨悚然的新型人形 機器人模型，搭載 Gemini 智能；Razer 的 虛擬動漫朋友，一個裝在罐子裡的動漫全息朋友；以及 LG 設計的 機器人，用於卸載您的洗碗機和折疊您的衣物。

Nvidia 在本次展會上也有一個重要的發布，推出了其新的 Vera Rubin 芯片，該芯片旨在以更少的功耗進行更多的計算。

認識人物：Paul Kedrosky

Paul Kedrosky，一位投資者和 MIT 的研究員，已成為全球領先的 AI 對勞動力和經濟潛在影響的思想家之一。他的關鍵觀點之一是，AI 既是一項真正具有變革性的技術，同時也嚴重被誇大。「在全球金融危機期間，我們經歷了一個巨大的泡沫，幾乎摧毀了全球經濟。但這並不意味著我認為人們應該停止住在房子裡，」他在 11 月下旬告訴我。

但 Kedrosky 對支撐該行業的金融結構深感擔憂。他認為 AI 正在從其他投資領域（包括製造業）抽走資本，並且該行業正在部署可疑的循環融資。事實上，他認為這一切都具備了經典泡沫的所有特徵：被誇大的技術、寬鬆的信貸、雄心勃勃的房地產購買以及欣快的政府訊息。「這是現代金融史上第一個將所有其他泡沫的原始成分結合在一起的時刻，」他說。