Vitalik 對 AGI 與 ASI 感到害怕:人類要優先專注智慧增強工具,不是讓 AI 取代人類

以太坊共同創辦人 Vitalik Buterin 在推特分享對 AGI (通用人工智慧) 與 ASI (人工超級智慧) 的獨特觀點,強調應專注於 AI 工具,而不是追求超級智慧生命體的發展並取代人類,他相當害怕 AGI 和 ASI 過度發展。
AGI 為獨立維持文明的人工智慧
Vitalik 將 AGI 定義為一種相當強大的 AI。他表示,假如所有人類突然消失,而且這個 AI 被安裝到機器人裡,能夠獨立運行並維持整個文明發展。而他補充,這概念將從傳統 AI 的「工具性」進一步升級成一種「自我維繫的生命形式」。
Vitalik 指出,目前的技術無法模擬這樣的情境,我們無法真的測試 AI 是否能在沒有人的情況下維持文明,更難以界定「文明發展」的標準,哪些條件代表文明在繼續運作,而這些問題本身就很複雜,但這可能就是人們可以直接區分 AGI 與普通 AI 的主要辨識來源。
(註:自我維繫的生命形式,意指能夠自行獲取和利用資源來維持生命活動、適應環境變化,並在一定條件下持續存活的生物體或生命系統。)
強調智慧輔助工具的重要性,不是讓 AI 取代人類
Vitalik 對人工超級智慧 (ASI) 的定義則是,當 AI 的進步超越了人類參與所能提供的價值,並且達到完全自主且更高效的階段。他舉例國際象棋在最近十年才真正進入這一階段,AI 的水平已經超越了人類與 AI 合作達成的最佳表現,並坦承 ASI 讓他感到害怕,因為它意味著人類可能真正失去對 AI 的控制。
Vitalik 表示,與其開發超級智慧生命體,不如專注在開發能夠加強人類智慧與能力的工具。他認為,AI 應該輔助人類,而不是取代人類。他認為這樣的發展路線能降低 AI 無法被控制的風險,同時提升整體社會的效率與穩定性。
(生成式 AI 帶來的失業威脅:Amazon 勞工將全面被機器艦隊取代?)
這篇文章 Vitalik 對 AGI 與 ASI 感到害怕:人類要優先專注智慧增強工具,不是讓 AI 取代人類 最早出現於 鏈新聞 ABMedia。
免責聲明:文章中的所有內容僅代表作者的觀點,與本平台無關。用戶不應以本文作為投資決策的參考。
您也可能喜歡
UNI 代幣持有者批准 1.655 億美元的新基金會資金,為長期承諾的「費用開關」奠定基礎
簡要概述 Uniswap 社區已投票通過兩項治理提案,其中一項為啟動長期承諾的“費用開關”奠定了基礎。這些提案授予 Uniswap 基金會 1.655 億美元的新資金,以在 Uniswap v4 和 Unichain 於今年早些時候上線後推動 Uniswap 生態系統的發展。

自十月以來,加密創投交易下降60%,投資者變得更加挑剔
快速概覽 風險投資領域的收縮似乎對所有加密貨幣類別產生了相對均勻的影響。以下是來自The Block的數據與洞察通訊的摘錄。

Hyperliquid 高槓桿巨鯨駁斥罪犯指控,鏈上偵探 ZachXBT 稱將公布細節
Ripple 執行長稱 SEC 將撤回對 Ripple 上訴,XRP 幣價短時漲超 10%
加密貨幣價格
更多








