Vitalik提議AI兩派達成折中方案：預先約定若極端情況出現則啓動暫停

金色財經報道，7月11日，以太坊聯合創始人Vitalik Buterin發文探討AI超級智能的爭議。他指出，AI界目前存在兩派：一派認爲超級智能2040年前必然到來，必須儘快控制；另一派則認爲AI只是普通技術，搞暫停是在控制人類。Vitalik稱自己不確定哪邊正確，對放緩或暫停持開放態度，但反對大型AI公司推動“開源有害”的論調，認爲這本質上是權力集中。 Vitalik提出了一個折中方案：雙方可以預先約定，如果某些極端情況（如超級大流行病、大規模失業等）真的發生，就同意啓動AI暫停；如果這些情況沒有出現，就按另一方的方案推進。他承認所有應對方案都有缺陷，人類只能在“不完美”和“更不完美”之間選擇，但形式驗證、密碼學、安全硬件等防禦性技術，在兩個世界裏都值得推進。