人工智能生存性风险的讨论由来已久，人工智能生存性风险的基础是通用人工智能乃至超级人工智能的实现，但这一过程仍有阻碍。人工智能生存性风险的现状大多源于目标偏差，已引发算法和就业等一系列社会问题。人工智能生存性风险的终局被认为可能导致人类灭绝，其中包括推动战争形态和环境气候的变化。为应对人工智能生存性风险，需要统筹好人工智能的发展和安全，强化人工智能发展中的治理和技术软硬兼施的安全手段，推动国际人工智能安全治理合作，进一步打破发达国家和发展中国家的治理鸿沟和治理隔阂。

关键词

人工智能；生存性风险；发展安全