近期，人工智慧（AI）發展帶來的潛在風險，正日益成為矽谷科技界與學術圈的關注焦點。這股擔憂背後，深植著一股名為「有效利他主義」（Effective Altruism，簡稱EA）的哲學思潮。該思潮主張運用理性與證據，以求將善行發揮最大效益。
有效利他主義的知識根源，可追溯至澳大利亞哲學家彼得·辛格（Peter Singer）於1972年提出的論點。他認為，如果人們普遍認同挽救溺水兒童是道德正確的行為，那麼也應將資源投入到遙遠地區的生命救援中，因為距離不應成為道德判斷的障礙。這項理念吸引了許多希望捐款能發揮最大作用的富裕捐助者。
2000年代後期至2010年代初期，有效利他主義逐漸發展為一個去中心化的運動。2007年，霍爾登·卡諾夫斯基（Holden Karnofsky）和埃利·哈森菲爾德（Elie Hassenfeld）共同創立了GiveWell組織，專注於透過數據分析評估慈善機構的實際效益。隨後在2009年，牛津大學哲學家威廉·麥克阿斯克爾（William MacAskill）和託比·奧德（Toby Ord）共同發起了「盡我們所能」（Giving What We Can）運動，鼓勵人們至少捐贈收入的10%來解決全球貧困問題。根據IE大學哲學教授西奧多·列赫特曼（Theodore Lechterman）的說法，有效利他主義對現狀的批判在於，傳統慈善評估過於關注行政開支而非實際效益，而有效利他主義則致力於回答「這個組織究竟對世界產生了多少善意？」這一核心問題。
有效利他主義主要關注三大領域：全球貧困、工廠化養殖動物，以及全球災難性風險。由於其數據驅動的思維模式，這項哲學理念特別受到美國科技界與華爾街部分人士的青睞，尤其是那些習慣根據數據做出決策的工程師、軟體開發者和企業家。雖然如此，這項運動也曾與爭議人物產生關聯，例如因詐欺案被判刑的加密貨幣金融業者 Sam Bankman-Fried，他曾是有效利他主義的倡導者，也是AI公司Anthropic的早期投資人。
有效利他主義哲學家，如威廉·麥克阿斯克爾，近年來將重心轉向人類的未來，使「長期主義」成為運動的核心思維。這種思潮深切影響了矽谷對人工智慧發展的憂慮，尤其關注超智慧AI可能帶來的全球災難性風險。過去多年來，馬斯克（Elon Musk）就曾公開表達他對AI威脅人類的擔憂，並在2015年協助創立OpenAI，旨在防範此類風險。此外，有效利他主義對AI的關注也受到「理性主義」（rationalism）運動的影響，該社群圍繞作家艾列澤·尤考斯基（Eliezer Yudkowsky）發展，他曾警告超智慧AI可能導致人類滅絕。
這兩種思潮都強調透過證據與機率進行推理，並將防止人類滅絕視為首要任務。這些哲學上的考量，也反映在科技界近期的動態中。例如，一名從 Anthropic 離職的研究員 Jacob Coxon，上個月曾公開警告AI公司「正在拿我們的生命冒險」。數日後，Anthropic 共同創辦人兼執行長達里奧·阿莫代（Dario Amodei）也發表文章，主張AI日益增長的風險有理由放緩其發展速度。
