OpenAI首席科學家：尚無實驗室解決AI對齊與監控問題，應設共享安全門檻

金色財經報道，9月8日，OpenAI首席科學家Jakub Pachocki在題爲《An Alien Mind》的文章中表示，基於內部研究結果，他強烈預計當前AI進步速度可能延續至遞歸式自我改進階段，未來數年系統或出現幅度相當甚至更大的能力躍升，並越來越多地推動自身研發。 Pachocki稱，目前沒有任何實驗室已在AI對齊與監控方面取得足夠進展，能夠長期以最高速度負責任地擴展模型；在建立共同安全門檻前，他預計並希望自願放緩將成爲常態，未來AI發展也應被各國政府列爲國際協調的優先事項。OpenAI將繼續研究對齊和監控技術、建設防禦系統，並在必要時單方面暫停進一步擴展。 他同時指出，GPT-6 Astra應用了部分長期研發的對齊技術，相較GPT-5.6 Sol顯著改善，但隨着模型更擅長操控自身推理、工具交互增加以及非語言推理能力提升，依賴思維鏈進行監控的有效性正在逐步下降。