【警告AI有危险，就一定是一场精心策划的阴谋？】厨师从厨房跑出来，跟食客说：别吃了，这菜可能有毒。这时候最紧张的是谁？按常理，应该是食客。可在硅谷，画风不一样。
有人跳出来说，大家别慌，这个厨师是装的，他这么喊，是想搞垮我们餐厅。
这事就发生在 Anthropic 身上。
9月8日，这家公司研究员雅各布·考克森在 X 上宣布辞职，临走撂下一句话：AI 公司正在竞相开发可能在本十年末毁灭我们所有人的超级智能。
这话够重吧？
更有意思的是后面，公司内部好几个人站出来声援。
干过 DeepMind、现在做 AGI 安全的王安娜 10 日发文，说目前还没有一个可行的科学计划，来应对递归式自我改进型 AI 的风险，公司里许多人想踩一脚刹车。
另一个员工德雷克·托马斯说，发展太快了，我们想要的保障程度，还差得很远。
做安全研究的萨缪尔·马克斯写得最直白，AI 开发者相信，他们的技术可能导致人类灭绝，而且员工级别越高，越担忧。
请注意最后这句。越往高层，越害怕。
按理说，造原子弹的人跑出来说这东西危险，你该听。可马斯克偏不。他发文说，听起来像是个阴谋局。
还补了一刀，说这场心理战的铺垫早就做好了，考克森的帖子不过是点燃干柴的一根火柴。
跟他一唱一和的，还有保守派智库资本研究的研究员帕克·塞耶。
这哥们在毫无确凿证据的情况下提出一种理论，说这是一场极其精密且资金充裕的公关行动，目的是争取民主党支持，进而把 AI 监管到彻底扼杀。
对冲基金大佬比尔·阿克曼转发了，评论两个字：有意思。
你品品这个场面。
员工说技术可能毁灭人类，不拿证据，就说你们搞心理战。
谁该举证，他们心里没数吗？
其实吧，马斯克这套话术，一点都不新鲜，甚至还挺眼熟。
烟草公司当年怎么对付说吸烟致癌的医生的？说他们是危言耸听，是拿钱办事，是想毁掉一个伟大行业。
石油公司怎么对付气候科学家的？一模一样的话术。
套路的核心从来没变过：你没法证明我的话是错的，那我就攻击你说话的动机。动机一脏，话就不用听了。
高明吗？
高明。可有个绕不过去的坎。
如果 AI 风险真是这帮研究员编出来的公关剧本，那他们图什么？辞职砸自己饭碗，得罪整个行业，就为了帮民主党推个监管？
这买卖亏到姥姥家了。
反过来，说这话是阴谋局的人，手里攥着 xAI，攥着 Grok，AI 竞赛里押了重注的人，恰恰是马斯克自己。监管一脚刹车踩下去，谁先追尾，你想想。
谁的主张离利益更近，这事不难算。
再说了，就在这场口水仗的同一天，9 月 10 日，Anthropic 甩出一份报告，把过去 8 个月自家模型被滥用的情况摆上了台面。
报告说，今年已经有科学家利用其顶尖模型，开展可能有助于研发生物武器的研究，公司化解了数起潜在风险。
里面有个案例，看得人后脖颈发紧。
5 月，一名科学家想让 Claude 帮忙写一份资助申请，研究基孔肯雅病毒，通过基因改造，让病毒在反复感染活体动物的过程中变得致病性更强。
这类功能增益研究，名义上合法，也确实可能推动疫苗研发，可换个方向，就是超级病毒变体。
更让公司警觉的是，这项工作原计划放在一家军事研究机构开展。
威胁情报负责人雅各布·克莱因说得很克制：我们不知道这项研究是否旨在武器化，但军事机构开展功能增益研究，确实令人担忧。
读到这你可能发现了真正棘手的地方。
同一份研究，左手是疫苗突破，右手是致命病原体，连提供模型的公司自己都分不清楚，只能靠宁枉勿纵去拦。
技术已经跑进了灰色地带，分辨善恶靠的不是制度，是公司自觉。
而这份自觉，撑不了多久。
Anthropic 愿意拦，是因为它把自己定位成行业里那个系安全带的人。可赛车场上，系安全带的那位，车速往往吃亏。
当所有人都在比谁的油门踩得狠，谨慎就成了竞争劣势。
公司内部的担忧为什么级别越高越强烈？因为站得越高，越看得清终点线后面是什么。
所以这件事真正值得琢磨的，压根不在于考克森是不是剧本，马斯克的指控是不是成立。
在于一个荒诞的现实：一项被自家建造者公开承认可能毁灭人类的技术，此刻的刹车系统，靠的是个别研究员的良心，和一家公司的自愿报告。
没有强制标准，没有跨国核查，没有任何一个权威机构能说清楚这些模型到底被用来干了什么。
核武器好歹有国际原子能机构盯着，AI 呢？靠发帖子。
就这样，枪已经造出来了，保险栓全靠自觉。
指望持枪的人都有教养，这个赌局，人类历史上从没赢过。
马斯克说是心理战。也许吧。可心理战这词，通常用在对方说的是真话、你又没法反驳的时候。
配查网提示：文章来自网络，不代表本站观点。
相关文章
沪深京行情 实时轮播
热点资讯