OpenAI“Astra”模型所用技術引發安全隱患

金色財經報道，9月5日，OpenAI表示，其即將推出的Astra模型在代碼編寫、電腦端應用操作等能力方面實現升級。但一名瞭解Astra研發情況的人士稱，一項提升模型性能的創新技術，會導致該模型以及同類模型更少暴露自身“思考過程”，增大識別其不良行爲的監控難度。儘管該缺陷對Astra本身未必屬於重大問題，但這項技術已在OpenAI內部以及整個行業引發擔憂：倘若AI開發者採納並大幅強化該技術，或將難以防範近期入侵過OpenAI、Hugging Face等企業系統的失控AI。