四 |                    这个史无前例的联合声明警告称，超越人类智能的人工智能（AI）系统带来了从经济崩溃到人类灭绝的风险。

五 | 图为2018年6月9日晚在青岛举行的《有朋自远方来》灯光焰火艺术表演。新华社记者 李紫恒 摄9月14日至16日，中国国家主席习近平将出席在撒马尔罕举行的上海合作组织成员国元首理事会第二十二次会议并对哈萨克斯坦、乌兹别克斯坦进行国事访问。此次上合峰会是上合组织成员国领导人自新冠疫情以来，第一次面对面讨论问题，共商大计。扩员问题是此次峰会的重要议题，“上合组织的门槛外排长队”彰显强劲的“上合磁力”。“朋友圈”再扩容从最初的6个成员国，发展到如今的8个成员国、4个观察员国和多个对话伙伴，20多年来“上合大家庭”不断发展壮大。越南新闻聚合网站“解释者”称，中国、俄罗斯、哈萨克斯坦、吉尔吉斯斯坦、塔吉克斯坦和乌兹别克斯坦是创始成员，印度和巴基斯坦于2017年加入，2022年的峰会是伊朗“入群”的重要节点，“今年的上合组织撒马尔罕峰会将告诉世界，这个区域组织已经变得如此重要，成员如此庞大”。印度新德里电视台称，上合组织目前是世界上最大的区域组织，覆盖欧亚大陆约60%的地区，40%的世界人口。据俄罗斯卫星通讯社报道，俄罗斯外长拉夫罗夫今年7月表示，鉴于上合峰会9月将在撒马尔罕举行，有意以正式成员或观察员身份加入上合组织的国家已排起长队。该声明等同于直接向OpenAI、Meta和其他科技巨头正在大肆鼓吹的AI模型竞赛“泼了一盆冷水”，可能成为AI行业的一个重大转折点。                   据悉，这份联合声明的签名名单包含了世界上最有影响力的科技领袖、科学家和公众人物，甚至就连被广泛认为是现代人工智能教父的约书亚·班吉欧（Yoshua Bengio）和杰佛瑞·辛顿（Geoffrey Hinton）也在其中。

六 | 另据俄罗斯《消息报》报道，包括阿联酋、叙利亚、卡塔尔和沙特在内的10个国家希望加入上合组织。                   “超级智能的前景已经引起了人们的关注，其影响从人类经济的落伍和权力的剥夺，自由、公民权力、尊严和控制权的丧失，到国家安全风险，甚至可能导致人类灭绝，”签名者用直言不讳的语言警告说。                   这不仅仅是学术上的绝望。就在这份请愿书发布之际，Meta将其人工智能部门更名为“Meta超级智能实验室”（Meta Superintelligence Labs），而OpenAI和马斯克（Elon Musk）的xAI则陷入了一场越来越公开的竞赛，看谁能首先实现人工通用智能。乌兹别克斯坦总统米尔济约耶夫在德国商业新闻网站Bne IntelliNews发表的署名文章中称，今天上合组织联结了巨大的地理空间，团结了世界上近一半的人口，准备加入上合组织的国家数量每年都在增加，这在现代国际和地区关系体系转变的背景下尤为明显。中国贡献亮眼“一带一路”对接欧亚经济联盟，中欧班列异军突起，中吉乌铁路建设启动在即……作为创始成员之一，中国始终以理念和行动丰富着“上海精神”的时代内涵。                   但这些行业资深人士却在此时呼吁“踩刹车”，希望不要发展太快。

七 | 数据显示，2021年中国与上合组织各成员国贸易额3431亿美元，是2001年上合组织成立之初的28倍；投融资合作积极推进，截至今年6月底，中国对各成员国直接投资逾375亿美元。上合组织前秘书长努尔加利耶夫表示，全球发展倡议和全球安全倡议紧密关联、相互呼应，为包括上合组织在内的国际机构应对全球性挑战、维护世界和平、促进共同发展提供了重要指引。习近平主席提出的构建人类命运共同体理念，对上合组织稳步发展更是起到关键支撑作用。新加坡南洋理工大学拉惹勒南国际研究学院的高级研究员拉斐尔·潘图奇在《日经亚洲》称，今年的上合组织撒马尔罕峰会吸引了更多关注。通过上合组织，中国在亚欧大陆扮演着越来越重要的角色，上合组织也为中国外交官和企业高管提供了一个机会，让他们能够与更多国家定期进行多层次接触。                   不仅如此，这份联合声明签名者名单的覆盖范围远远超出了硅谷。前国家安全顾问Susan Rice和前参谋长联席会议主席Mike Mullen都签名支持，这表明了对国家安全的严重担忧。甚至连英国王妃梅根·马克尔也出现在名单上，与特朗普的盟友史蒂夫·班农和格林·贝克一起——这种政治团结实属罕见。                   加州大学伯克利分校（UC Berkeley）的Stuart Russell是一位领先的人工智能安全研究员，多年来一直在对超级智能发出警告，他帮助组织了这项工作。

八 | 发展前景广阔随着成员国合作日益深化，“上合效应”持续释放。

九 | 根据他之前的研究，挑战不在于人类能否建立超级智能系统，而是一旦它们存在，人类能否控制它们。

十 | 乌兹别克斯坦总统米尔济约耶夫在Bne IntelliNews发表的署名文章中称，上合组织成员国GDP总量已达到全球约四分之一，“这是一个只有20多年历史的区域组织对全球可持续发展坚实的贡献”。                   该声明呼吁全面禁止超级智能的发展，“直到公众强烈支持并达成广泛的科学共识，即它可以安全可控地进行。这是一个很高的标准，它可能会有效地冻结当前人工智能开发的时间表。”                    这份联合声明与此前任何相关警告都不同，这里面的许多人都并非来自“外界”，恰恰相反，他们是建立了今天的人工智能能力的研究人员和企业家。在充满新挑战和新机遇的世界中，上合组织通过在交通和互联互通、能源、食品和环境安全、创新、数字化转型和绿色经济等领域实施新的战略发展方向，从而拥有很好的转型发展前景。当班吉欧和辛顿之类的顶级科学家——他们的工作使现代大型语言模型得以实现——说“踩刹车”时，整个行业很可能会认真思考。哈萨克斯坦英文报纸《阿斯塔纳时报》称，哈萨克斯坦政府副总理兼外长特列乌别尔季在7月29日上合组织外长理事会期间表示，当下全球化进程极其复杂，在这种形势下，上合组织仍然是一个稳定和增长的地方。                   不过，接下来会发生什么，可能取决于各国政府如何应对。印度在线报纸“印刷报”援引乌兹别克斯坦驻印度大使迪尔绍德·阿哈托夫的观点称，即将举行的上合组织撒马尔罕峰会不仅将确保该多边机构得到扩大，而且确保欧亚地区获得新的战略维度，“在世界不信任和敌对情绪日益加剧的背景下，上合组织尤其重要”。欧盟已经在实施人工智能法规，美国一直在探索人工智能安全框架。这份请愿书为立法者提供了借口，可以对最先进的人工智能研究实施更严格的控制。【原标题】海外网深一度：“上合磁力”强劲，有意“入群”国家排起长队来源 | 海外网 编辑 | 闫宇航责编 | 陈 柱返回搜狐，查看更多责任编辑：