主页 > 国内 >

半泽直树

超800名科技领袖联合呼吁：停止研发超级智能_我的网站

新白娘子传奇

一 | 据中国气象局官微消息，4月19日8时至21日8时，贵州南部、江南南部、华南北部和中东部等地的部分地区出现暴雨到大暴雨、局地特大暴雨。中国气象局于4月18日8时30分启动暴雨三级应急响应。本文来自微信公众号：财联社（ID：cailianpress），作者：黄君芝包括苹果联合创始人史蒂夫·沃茲尼克（Steve Wozniak）和维珍集团董事长理查·布兰森（Richard Branson）在内的800多名知名人士，近日签署了一份公开声明，要求立即停止超级智能的开发。 “超级智能”是指在所有领域超越人类认知能力的人工智能系统。4月21日10时，中央气象台继续发布暴雨橙色预警、强对流天气黄色预警。这个史无前例的联合声明警告称，超越人类智能的人工智能（AI）系统带来了从经济崩溃到人类灭绝的风险。

二 | 　　多地累计降水量突破4月历史纪录，珠江流域北江发生2024年第2号洪水　　19日8时至21日8时，广西北部、广东中北部、湖南东南部、江西南部累计降水量达100毫米至200毫米，其中广西东北部、广东西北部达250毫米至350毫米，局地超过400毫米。该声明等同于直接向OpenAI、Meta和其他科技巨头正在大肆鼓吹的AI模型竞赛“泼了一盆冷水”，可能成为AI行业的一个重大转折点。最大小时降水量达40毫米至80毫米，广西南宁、广东茂名局地超过100毫米。20日8时30分至9时15分，广西壮族自治区梧州市藤县发生中等强度龙卷风（相当于最大瞬时风力达15级）。据悉，这份联合声明的签名名单包含了世界上最有影响力的科技领袖、科学家和公众人物，甚至就连被广泛认为是现代人工智能教父的约书亚·班吉欧（Yoshua Bengio）和杰佛瑞·辛顿（Geoffrey Hinton）也在其中。 “超级智能的前景已经引起了人们的关注，其影响从人类经济的落伍和权力的剥夺，自由、公民权力、尊严和控制权的丧失，到国家安全风险，甚至可能导致人类灭绝，”签名者用直言不讳的语言警告说。这不仅仅是学术上的绝望。就在这份请愿书发布之际，Meta将其人工智能部门更名为“Meta超级智能实验室”（Meta Superintelligence Labs），而OpenAI和马斯克（Elon Musk）的xAI则陷入了一场越来越公开的竞赛，看谁能首先实现人工通用智能。但这些行业资深人士却在此时呼吁“踩刹车”，希望不要发展太快。　　受强降水影响，珠江流域北江发生2024年第2号洪水。

三 | 不仅如此，这份联合声明签名者名单的覆盖范围远远超出了硅谷。21日早晨，北江下游控制站石角水文站流量为14900立方米/秒，已经超过2024年第1号洪水，并在广西、广东造成多条中小河流水位超警戒水位，多地发生地质灾害。前国家安全顾问Susan Rice和前参谋长联席会议主席Mike Mullen都签名支持，这表明了对国家安全的严重担忧。甚至连英国王妃梅根·马克尔也出现在名单上，与特朗普的盟友史蒂夫·班农和格林·贝克一起——这种政治团结实属罕见。

四 | 加州大学伯克利分校（UC Berkeley）的Stuart Russell是一位领先的人工智能安全研究员，多年来一直在对超级智能发出警告，他帮助组织了这项工作。根据他之前的研究，挑战不在于人类能否建立超级智能系统，而是一旦它们存在，人类能否控制它们。　　气象部门密切关注此次强降水过程，中国气象局与水利部联合发布山洪灾害气象风险提醒，并联合自然资源部提前启动2024年度全国地质灾害气象风险联合预警业务。该声明呼吁全面禁止超级智能的发展，“直到公众强烈支持并达成广泛的科学共识，即它可以安全可控地进行。这是一个很高的标准，它可能会有效地冻结当前人工智能开发的时间表。广西、广东省（自治区）气象局与当地水利厅、自然资源厅联合发布山洪灾害与地质灾害气象风险预警。” 这份联合声明与此前任何相关警告都不同，这里面的许多人都并非来自“外界”，恰恰相反，他们是建立了今天的人工智能能力的研究人员和企业家。　　多重因素导致近期南方降雨偏多偏强，未来强降水过程多仍需加强防范　　中央气象台首席预报员马学款介绍，4月以来，副热带高压比常年同期偏强，有利于南海和孟加拉湾水汽向南方地区输送，同时高原槽和南支系统活跃，导致南方地区强降水过程频繁、降水持续时间偏长。另外，江南、华南等地气温比常年同期明显偏高，大气含水量丰富、不稳定能量高，导致对流发展旺盛、降雨强度高，多地累计降水量突破4月历史纪录。当班吉欧和辛顿之类的顶级科学家——他们的工作使现代大型语言模型得以实现——说“踩刹车”时，整个行业很可能会认真思考。

五 | 　　中央气象台预计，4月21日至22日，江南南部和东部、华南中东部和南部等地仍有强降水，局地有大暴雨并伴有雷暴大风或冰雹等强对流天气。不过，接下来会发生什么，可能取决于各国政府如何应对。

六 | 23日，华南地区的降雨将明显减弱，但华南南部沿海部分地区仍有大到暴雨。欧盟已经在实施人工智能法规，美国一直在探索人工智能安全框架。这份请愿书为立法者提供了借口，可以对最先进的人工智能研究实施更严格的控制。

七 | 另外，在25日前后，贵州、江南、华南等地还将有一次较强降水过程。　　马学款提示，未来几天，我国南方地区强降水过程多、局地雨强大，并可能伴有风雹天气，公众需及时关注当地气象部门发布的预报预警信息，在强降水时段减少外出，避免在山涧、河道等低洼地带逗留，注意防雨防雷电，防范山洪、滑坡、泥石流等次生灾害风险。相关部门要注意城市低洼地带及时排水，加固户外设施，防范强风对临时搭建物、高空作业装置和人员、航运等的安全威胁。