ChatGPT让人工智能再次引起科技界的震动，同时也激起了政策制定者、消费者倡导团体以及企业领导层的警觉。他们普遍要求为这种前沿技术制定规范，以确保其发展道路的可控性和可持续性。
几个月前，马斯克资助的生命未来研究所（Future of Life Institute，FLI）发起了一场具有影响力的公开信签名运动。该运动强烈呼吁先进大模型研究应至少暂停6个月，目的在于对当前人工智能发展的快速膨胀进行深入反思，因为这可能正导致我们失去对这项技术的控制。
上个月，人工智能安全中心（Center for AI Safety，CAIS）公布了一份瞩目的简短声明。这份声明得到了OpenAI和DeepMind的高级管理人员、图灵奖得主以及其他AI领域的领军研究人员的共同签署。他们称AI这一堪比“疫情和核战争”的技术或对人类构成生存威胁。
不过，与众多AI谨慎派不同，以“深度学习三巨头之一”杨立昆（Yann LeCun）为代表的乐观派并认为，我们应该更加耐心，更加相信科技的进步；AI现阶段仍处在它的青涩和幼稚期，我们远未抵达那个需要紧急行动的点。
这两派的对立并非细枝末节的学术争论，而是关于人类如何看待技术的问题，是人类把技术看作是工具，完全受人类控制，还是把它看作可能脱离人类控制，甚至危及人类存亡的潜在威胁。
乐观派：AI不如狗
上周三的Viva Tech大会上，Meta首席AI科学家杨立昆被问及AI目前的限制。
“这些系统仍然非常有限，它们对现实世界的底层现实没有任何理解，因为它们完全是在大量的文本上接受训练的。”杨立昆说，“大部分人类的知识与语言无关……所以人类经验的那一部分并未被AI捕捉到。”
“这告诉我们，人工智能还缺失了一些真正重要的东西……别说是赶上人类的智力水平了，人工智能现在是连狗都不如。”杨立昆总结道。
这并不是杨立昆首次发言“AI不如狗”，在上月底350位AI领域大佬签署CAIS组织的联名公开信时，杨立昆转发了同是乐观派华人科学家吴恩达的推文表示：
“在人类最重要的生存问题清单上，根本排不上超越人类的人工智能。主要是因为它还不存在。直到我们能设计出起码达到狗狗水平的智能（更不用说人工智能了），再来谈安全问题也不迟。”
当然，“AI不如狗”本质上输出的结论是，人类并没有真正设计出超级智能系统，谈论安全或控制问题有些为时过早。至于如何更加全面地反驳AI威胁论，他提供了两个更有力的论证角度。
其一，人们不会给现阶段的AI以完全自主权：
杨立昆指出，现阶段的自回归模型如GPT-4，虽然拥有强大的自然语言处理能力，但其输出结果是不可预测和难以控制的。无论是改变训练数据的统计信息，还是调整问题的形式，都无法直接地约束这些AI模型以满足某种特定目标。
这种情况自然引发了一系列的担忧。人们在某种程度上假设，一旦允许这些AI系统自由地做任何我们能通过互联网连接的事情，让它们有自由使用网络资源的权限，那么它们可能会做出一些疯狂的、不理智的，甚至可能带来危险的行为。一些人担心，我们将无法控制这些AI系统，它们会逃脱我们的控制，甚至可能控制我们，因为它们的规模更大，所以它们的智能也会增强。
然而，这种观点其实是没有根据的，或者说是纯粹的想象和夸大。未来被授予自主性的系统，应该是能够规划一系列行动、有明确目标且易于控制的。因此，杨立昆预测，理智的人不会使用完全自动的大语言模型，他们会转向更复杂、可控制的系统。
其二，智力和控制欲毫无关联性：
许多人认为，智能实体会因为比人类更聪明而想要支配人类。然而，杨立昆认为这是个误解。智力高并不意味着就有支配他人的欲望，这更多的是与进化和生物性质相关。
人类、黑猩猩、狼、狗等社会动物会想要影响他人，是因为它们在进化过程中建立了这种欲望。而对于非社会动物如长颈鹿来说，它们并没有支配他人的欲望。因此，控制欲望和能力与智力是两个不同的概念，它们之间没有必然联系。
此外，谈及AI带来的失业问题，他认为关键在于如何分配财富，如何组织社会使每个人都能从中获益。这是一个政治问题，不是技术问题，也不是人工智能造成的新问题，而是技术进化造成的。
在杨立昆、吴恩达等乐观主义者的观点中，可以发现一个共识：任何新技术在初次出现时，都不可能完美无缺。
实际上，人类需要的是一种可以控制的方式，限制技术可能带来的危害，对其进行有效地监管，并解决可能的恶性用例。完全中断研发进程并不是一个明智的决策。人类应该保持对技术进步的尊重和包容，而不是因为害怕未知而过早地否定其潜在的价值。
谨慎派：心思各异的联盟
相较于乐观派，谨慎派的阵营似乎人数更多，也反应了人性的一种普遍趋势。当新的事物出现时，它往往会引发人们的担忧和疑虑。这是人类对可能带来颠覆性改变的新技术所产生的本能反应。
在两轮的公开签名活动中，可以看到谨慎派的声音和影响力逐步增强。当这种关于“AI风险”的讨论在外界引发了广泛地思考和讨论的同时，一些质疑声音也不断出现。
关于“AI的风险和危害”，这个话题已经成为了一个表态的舞台，每个参与者都希望在这场风潮中塑造自己的正面形象。
然而，问题在于，这场大讨论真的有用吗？表面看起来，似乎每个人都在积极参与，但实际上，却鲜有人真正采取行动。这种现象在一定程度上显得像是在浪费大家的时间。“那些创造出AI技术的人参与这种声明，其实无非就是为了给自己博取好名声。”这是不少业界人士对这种现象的评价。
就连“人工智能之父”，德国计算机科学家于尔根·施密德胡伯（Jürgen Schmidhuber）也表示，许多在公开场合对人工智能的危险提出警告的人只是在寻求宣传。
当然，在一些人可能试图利用这种情况来提升自己的知名度的同时，不乏也有一些独到的见解。
中国科学院自动化研究所人工智能伦理与治理研究中心主任曾毅，也在CAIS组织的这封公开信中签名。他认为，公开信的目的并不是阻碍人工智能的发展，而是绝大多数人有权利知道人工智能的潜在风险，研发者们也有义务确保人工智能不给人类带来生存风险，至少要确保这种风险的最小化。
在他的观点中，人工智能对人类生存所可能带来的威胁，可以从两个不同的角度进行分析：
如果将目光放到无限远，远到通用人工智能和超级智能到来，AI智力水平可能远超人类，那么或许就会像很多影视作品呈现的那样，视人类如同蝼蚁，与人类争夺资源，甚至危及人类生存。
如果只看现在和不远的未来，当代人工智能只是看似智能的信息处理工具，不具有真正的理解能力。但曾毅认为，正因为它们算不上真正的智能，不理解什么是人类、什么是生死和什么是生存风险，才有可能会以人类难以预期的方式犯下人类不会犯的错误。而这恰恰是更紧迫的关切所在。
有趣的是，这似乎正好在反驳杨立昆的两大主要论点。
此外，谨慎派阵营中，三位“人工智能教父”中的两位辛顿（Geoffrey Hinton）和本吉奥（Yoshua Bengio）也赫然在列。他们曾因在深度学习方面的工作，与杨立昆共同获得2018年“图灵奖”。
然而，与杨立昆的观点相左，本吉奥在接受采访时坦言，他开始对自己这一生的工作成果产生了一种“迷茫”的感觉。本吉奥认为，所有致力于构建强大AI产品的企业都应该进行正式的注册和报备。“政府需要对这些公司的行动进行追踪，对其工作内容进行审查，对AI行业至少要实行像对待航空、汽车或者制药等领域一样的监管机制。”
辛顿则在近期辞去了谷歌的工作，并警告这一技术领域的持续发展或将带来巨大风险。辛顿表示，“我总在用这样的借口安慰自己：哪怕我自己不做，其他人也会这样做。但目前真的不知道要怎么防止坏蛋利用 AI 来作恶。”
辛顿对于AI的担忧主要有两个方面。首先，他担心AI会完全取代那些需要大量记忆的工作，这可能会对许多行业和职业产生深远影响。其次，随着AI逐步获取编写和运行自身代码的能力，他担忧AI最终可能取代人类的位置。
写在最后
上文中对立两派的观点，其实也有重合的地方。对于如今的 AI 是否具有风险以及该如何克服，两派代表人物杨立昆和奥特曼看法一致。他们都认为，即便风险存在，但可以通过仔细的工程设计，减轻或抑制它。
可以肯定的是，随着AI技术的不断发展和深化，两派之间的争论和争议仍将持续不断。
不过相对于国外热火朝天地讨论，国内对AI伦理和风险的关注相对较少。市场似乎更专注于AI大模型如何改变各行各业，并对此感到喜悦和兴奋。
原因可能在于，一方面为了在全球竞赛中夺取发言权，商业公司首先需要缩小与国外AI大模型的差距；另一方面，也正由于国内的AI大模型能力还未进入未知前沿，大家对AI可能带来的威胁并未给予足够的关注。
在此背景下，国内的AI创业者更倾向于维持一种技术乐观主义的态度，他们不希望过早收敛自身发展，认为这将相当于提前投降，放弃了与国外竞争的机会。
总的来说，这次的争论并非毫无意义的口舌之争。它为我们提供了一个理想的舞台，让我们深入探讨AI的未来走向，以及如何以人类的智慧和经验，来引导这一领域的发展，使其真正地服务于人类社会，而非反过来控制我们。
从这场激烈的辩论中，可以清楚地看到，人类现在正站在一个重大的决策点。无论是选择乐观地拥抱AI的发展，还是谨慎地审视其可能带来的风险，都需要意识到，现在所做的每一个决定，将会影响人类和AI之间的关系，也将塑造人类对未来的想象和期望。
原文标题 : AI威胁论：先过狗关，再赛人智
相关推荐
-
国产存储巨头，拟投资349亿元扩产
9月28日晚间，长鑫科技发了一则重要公告，大体内容是在当天董事会上通过一项议案，打算把180亿元超募资金，投到两个新项目上。 公司拟使用130 亿元超募资金投建技术研发项目；同时以增资 + 借款的形式
-
企业级AI智能体怎么落地？金秋10月，深圳有答案！
企业级AI智能体怎么落地？金秋10月，深圳有答案！ 近期，AI 进千行百业在一路铺开，从办公到制造，好像哪里都能塞进去一个AI智能体。热度涨得快，退得也快。等这一波热闹过去，问题集中暴露出来，工具调用
-
保利物业携手海康威视 以AI大模型打造智慧小区管理新模式
传统小区管理长期依赖人工巡检、被动响应的运营模式，园区安防排查、设备运维、业主服务等各项工作，高度依靠人力值守跟进。人工巡查存在覆盖盲区、排查效率有限等痛点，不仅增加运维压力，也难以全方位保障社区居住
-
AI时代，独立思考和原创知识更有力量
人工智能时代，跨界人才怎么培养？知识还是不是力量？9月19日，《知识就是力量》创刊70周年活动圆桌对话现场，主持人抛出了这些直接的问题。对此，植物病理学藻类学家、中国科学院院士赵进东，化学工程专家、中
-
阿里巴巴，最新AI芯片亮相
维科网9月22日消息，9月22日上午，杭州国际博览中心，2026云栖大会上，阿里巴巴CEO吴泳铭上台，抛出了一个机器智能的新说法。他把AI模型、AI芯片、AI云说成机器智能时代的三大基石，表态阿里会坚
-
AI系统可快速精准匹配X光与三维扫描图像
手术中的二维X光图像与术前三维CT或磁共振成像（MRI）如何快速“对上”？美国麻省理工学院等机构科学家开发的人工智能（AI）系统“xvr”给出了新方案。该系统可针对患者进行个性化适配，在数秒内将术中X
-
AI为珍稀鸟儿“上户口”
初秋的南京绿水湾国家城市湿地公园万木葱茏，植被茂密的林间，一台AI声纹监测设备挂在树上，静静“聆听”树林的“密语”。“这台设备集成了高灵敏度音频采集与抗干扰处理技术，能在复杂野外环境中自动剔除风雨声、
-
我国首款藏语多语言全模态AI输入法发布
9月20日，在青海师范大学教师教育高质量发展暨建校70周年大会科研成果展示环节，我国首款藏语多语言全模态AI输入法——智达AI输入法及配套藏文字体集正式发布。据悉，近年来，青海师范大学藏语智能全国重点
-
约五分之一英国成年人使用AI获取新闻
英国通信管理局9月15日发布的一项调查显示，约五分之一的英国成年人过去一个月曾使用人工智能（AI）应用或服务获取新闻，其中ChatGPT是使用最广泛的相关AI工具。英国通信管理局当天发布的《2026年
-
AI系统可让3D打印实现同步质检
美国劳伦斯利弗莫尔国家实验室研究人员开发出一种利用摄像头和人工智能（AI）检测3D打印质量的系统，在打印过程中，3D打印机可逐层“检查”自己制造的零部件，并及时发现断丝、尺寸异常等细微缺陷。研究人员表
