OpenAI首席科學家警告AI發展過快 稱現在需要“極度謹慎”

金色財經報道，9月8日，OpenAI首席科學家雅庫布·帕喬茨基（Jakub Pachocki）警告，人工智能發展速度過快，正變得越來越難以被人類理解和控制，“現在需要極度謹慎”。他指出，AI模型已能操作電腦、與人類及其他AI協作並開展研究，未來不久還可能在無需人類干預的情況下實現“遞歸式自我改進”。帕喬茨基表示，他擔心沒有人爲機器智能持續快速提升可能帶來的後果做好準備。開發者可以讓AI更符合人類利益，也可以在必要時放慢未來研發速度。他預計並希望，在行業建立共同安全標準之前，AI實驗室“自願放緩”研發將成爲常態。目前OpenAI已因GPT-6 Astra具備先進網絡安全能力而採取有限發佈方式。