喺人工智能（AI）急速發展嘅當下，一封由未來生命研究所（Future of Life Institute）發起嘅公開信如驚濤駭浪般席捲科技界。英國哈里王子及其太太梅根·馬克爾（Meghan Markle）近日加入超過800名簽名者行列，連同AI界先驅如「教父」傑弗里·辛頓（Geoffrey Hinton）同約書亞·本吉奧（Yoshua Bengio）等，一齊呼籲：全球禁止開發「超級智能AI」（Artificial Superintelligence, ASI），直到科學界同公眾就其安全性達成廣泛共識。呢項倡議唔單止凸顯AI風險嘅迫切性，亦揭示國際社會喺監管同創新之間嘅深刻分歧。本文將結合事件背景同各方態度進行全面分析，探討其潛在影響。
事件概述：由「暫停」到「禁令」嘅激進轉向
公開信喺10月22日發布，迅速吸引全球目光。簽名者陣容可以話係「跨界大聯盟」：除咗哈里夫婦等備受關注嘅公眾人物，仲有前愛爾蘭總統瑪麗·羅賓遜（Mary Robinson）、維珍集團創辦人理查德·布蘭森（Richard Branson）、保守派評論員史蒂夫·班農（Steve Bannon）同格倫·貝克（Glenn Beck）。AI領域嘅重量級人物更加亮眼——辛頓同本吉奧做為圖靈獎得主，曾主導深度學習嘅突破，但近年轉向發出關於AI滅絕風險嘅警告。辛頓喺2023年離開谷歌後直言「AI可能比核武器更危險」。本吉奧喺2024年獲得諾貝爾物理學獎後，繼續推動「負責任AI」議程。
倡議核心係「禁止開發ASI」，而唔係以往嘅「暫停訓練」。信中強調，ASI指超越人類智能嘅系統，可能導致「不可控後果」，包括大規模失業、私隱崩潰甚至人類滅絕。佢哋呼籲簽署國建立國際條約，確保喺科學共識形成之前唔會解除禁令。哈里王子夫婦嘅加入尤其引人注目：作為Archewell基金會創辦人，佢哋長期關注科技倫理，之前已批評社交媒體對心理健康嘅危害。哈里喺X（前Twitter）上轉發該信，寫道：「我哋唔可以等AI變成下一個核危機。」呢個舉動迅速上咗熱搜，X平台上相關討論超過10萬條，當中多數係新聞轉發，但亦有質疑話「禁令唔切實際」。
呢次呼籲並非孤立。2023年嘅「AI暫停信」曾獲數千簽名，但執行力不足。到2025年，隨住GPT‑5同Gemini 2.0等模型迭代，ASI風險由科幻逐漸變得現實，推動更激進嘅行動。
AI安全憂慮嘅深層背景
ASI概念源自艾倫·圖靈關於「通用智能」嘅設想，但當前焦點係「存在風險」。專家警告，ASI可能自我優化，引致「智能爆炸」——喺數小時內超越人類數千年嘅進展。辛頓以比喻話：「佢好似一個超級聰明嘅細路，但可能唔聽話。」本吉奧補充，ASI或者會放大偏見、被武器化或加劇經濟不平等。2025年全球AI投資超過一萬億美元，但安全支出只佔5%，凸顯「速度 vs 安全」嘅矛盾。
公眾焦慮升溫。Pew研究中心2025年4月嘅調查顯示，62%嘅美國人擔心政府監管不足，43%認為AI更可能帶嚟傷害。哈佛大學一項民調更顯示：73%美國人支持「強監管」，95%反對「ASI軍備競賽」。全球KPMG報告涵蓋47個國家、4.8萬人，70%民眾呼籲國家或國際監管。呢啲數據反映，AI由「工具」轉成「雙刃劍」，催生咗要求禁令嘅聲浪。
各方態度：共識同分歧並存
科學家與專家：支持禁令嘅陣營實力強大。未來生命研究所創辦人馬克斯·泰格馬克（Max Tegmark）話，呢封信「走出nerd泡泡」，吸引跨界名人。不過反對者例如OpenAI嘅伊利亞·蘇茨克維（Ilya Sutskever）認為，禁令「扼殺創新」，主張做「對齊研究」而唔係禁止。谷歌DeepMind喺2025年嘅論文中警告ASI可能「永久摧毀人類」，但亦冇直接呼籲禁令。
政府層面：態度兩極。美國公眾支持監管（無論共和黨定民主黨都有多數贊成），但拜登政府2025年嘅AI行政令較著重「風險分級」，未有觸及ASI禁令。國會喺共和黨主導下，科技巨頭游說聯邦採取統一規範，以避免州級碎片化。歐盟做法較積極：2025年AI法案已生效，禁止高風險應用，並有中位48%民眾信任其監管能力。但比利時反對部分條款，擔心版權問題。中國喺Pew調查中信任度較低（僅37%），但國家主導嘅「新一代AI」計劃強調安全審查。國際電信聯盟（ITU）2025年嘅報告呼籲建立「全球治理框架」，但落實困難。整體嚟講，各國政府傾向採取「漸進式監管」而唔係全面禁令，擔心會喺中美AI競賽中落後。
企業立場：科技巨頭多數持謹慎反對態度。OpenAI、谷歌、Meta同xAI視ASI為「聖杯」，喺2025年為基礎設施投資數百億。OpenAI執行長薩姆·奧特曼（Sam Altman）公開反對「暫停AGI」，佢認為「落實安全措施」較實際。谷歌同微軟簽署咗歐盟AI守則，但Meta拒絕，認為守則「過度限制」。xAI嘅伊隆·馬斯克（Elon Musk）雖然警告風險，但亦推動「加速ASI」以抗衡中國。呢啲公司遊說反對州級法案，擔心創新受阻。不過布蘭森等企業家簽名支持禁令，顯示企業內部亦有裂痕。
分析：禁令嘅可行性同全球影響
呢次呼籲雖然聲勢浩大，但落地仍然面臨重重挑戰。首先，ASI嘅定義模糊：係以參數規模定能力閾值界定？其次，執行機制欠缺——冇一個聯合國式嘅條約，私企可能會「地下開發」。有人喺X上評論話：「禁AI好似禁互聯網，唔可能做到。」地緣政治進一步加劇分歧：美國強調「民主AI」，歐盟推「人權優先」，中國聚焦「主權控制」。
積極嘅影響亦好明顯：呢個呼籲重塑咗輿論，促使2026年G7 AI峰會將討論禁令框架列為議題。哈里夫婦嘅公眾影響力有機會激發青年運動，類似氣候示威。企業壓力亦會增加：公眾反噬已出現，43%美國人視AI為威脅。長遠嚟睇，如果能夠形成共識，可能催生「AI日內瓦公約」，喺創新同安全之間取得平衡。
然而風險仍然存在：禁令可能引致「監管套利」，把開發轉移到監管較鬆嘅國家。布魯金斯學會警告，2025年嘅「AI反彈」將塑造未來法規格局。
結語：從呼籲到行動嘅十字路口
哈里夫婦嘅加入標誌住AI辯論由精英圈擴展到大眾視野，突顯「人類優先」嘅緊迫性。面對ASI嘅雙重潛力，全球需要橋接分歧：科學家提供共識、政府建立框架、企業承擔責任。否則，科技無節制發展可能釀成不可逆嘅災難。正如馬克斯·泰格馬克所講：「呢唔係科幻，係我哋嘅選擇。」喺2025年尾嘅AI浪潮中，呢項倡議有機會成為轉捩點，促使社會由「無節制」向「可控繁榮」轉型。但短期內要達成共識仍然好艱難，特別係喺中美AI競爭同頭部企業持續加大投入嘅現況下，各方仍需逐步建立更大共識。