人工智能導致人類滅絕的可能性為5％

　　許多人工智能研究人員認為，未來，超級人工智能的發展有可能導致人類滅絕。不過，對于這種風險，存在廣泛的分歧和不確定性。

　　這些發現來自對2700名人工智能研究人員的調查，他們最近在6個頂級人工智能會議上發表了研究成果。

　　這是迄今為止規模最大的此類調查。該調查要求參與者分享他們對未來人工智能技術里程碑的可能時間表的想法，以及這些成就帶來的好或壞的社會后果。

　　近58%的研究人員表示，他們認為人類滅絕或其他與人工智能相關的極其糟糕的結果的可能性為5%。

　　“這是一個重要的信號，表明大多數人工智能研究人員并不認為先進的人工智能會摧毀人類。”該論文作者之一、美國機器智能研究所的Katja Grace說，“我認為，人們普遍認為風險并非微不足道，這比確切的風險百分比更能說明問題。”

　　但美國凱斯西儲大學的émile Torres說，目前還沒有必要恐慌。許多人工智能專家在預測未來人工智能發展方面“沒有良好的記錄”。

　　Grace和同事承認，人工智能研究人員不是預測人工智能未來軌跡的專家，但他們2016年的調查顯示，他們在預測人工智能里程碑方面做得“相當好”。

　　與2022年相同調查的答案相比，許多人工智能研究人員預測，人工智能將比之前預測的更早達到某些里程碑。比如，ChatGPT于2022年11月首次亮相，硅谷急于廣泛部署基于大型語言模型的類似人工智能聊天機器人服務。

　　在39項樣本任務中，成功完成大部分任務的概率達到50%或更高，其中包括寫一首與泰勒·斯威夫特的歌曲毫無區別的新歌，或者從頭編碼一個完整的支付處理網站。其他任務，如在新家安裝電線或解決長期存在的數學難題，預計將花費更長時間。

　　到2047年，人工智能在每項任務上的表現都超過人類的可能性為50%，而到2116年，所有人類工作完全自動化的可能性為50%。這些估計比去年的調查結果分別早了13年和48年。

　　不過，Grace表示，對人工智能發展的高期望也可能落空。“很多突破都是不可預測的。人工智能領域完全有可能經歷另一個冬天。”他們指的是20世紀70年代和80年代人工智能領域資金枯竭和企業興趣喪失。

　　即使在沒有任何超級人工智能風險的情況下，也有其他更直接的擔憂。70%以上的人工智能研究人員認為，人工智能驅動的場景涉及深度偽造、公眾輿論操縱、工程武器、獨裁控制和日益惡化的經濟不平等，要么令人嚴重關切，要么令人極為擔憂。