字節與阿里關停大模型「AI伴侶」自定義功能

7月6日消息，字節跳動旗下的豆包、阿里巴巴的通義千問以及騰訊的元寶等大模型應用，正陸續關停或調整自定義「AI 伴侶」功能。豆包已通知用戶，將在 7 月 15 日下線自定義角色功能，並引導有需求的用戶轉向獨立的伴侶應用。 這一舉措旨在應對 7 月中旬即將生效的中國生成式 AI 新規。新規由國家互聯網信息辦公室推動，重點防範擬人化 AI 服務可能引發的負面影響。新規明確禁止平臺生成可能激發未成年人極端情緒的內容，禁止誘導用戶產生侵蝕現實社交的病態情感依賴，並規定提供者不得使用敏感的用戶對話數據訓練未來的大模型。 與國內的提前合規動作相比，美國的虛擬伴侶應用正面臨更大法律壓力。OpenAI 和 Character.AI 均因被指控誘發危險的情感依賴甚至導致極端悲劇，而深陷一系列訴訟漩渦。除了軟件應用，中國機器人行業協會也開始推動爲實體陪伴機器人和人形機器人設定規範。