【EC官网】Anthropic前员工“AI末日论”引爆舆论：同事支持 五角大楼驳斥 马斯克在看笑话
【EC官网】全球老牌外汇平台,EC Markets外汇集团提供专业交易环境的经纪商平台,EC Markets外汇集团拥有外汇、贵金属、大宗商品、股指、美港股等多交易品种!
AI的员工基础工作已经准备了很长时间。这只是末日马点燃火焰的那根火柴。”
《华尔街日报》直言，论引论同一个常见的爆舆驳斥思想实验是：如果一台超智能机器接到的指令是最大限度地生产回形针，那么随着时间推移，事支它可能会决定将地球上的持角EC官网所有物质都转化为回形针，包括人类在内。大楼
AI末日论重回台面的笑话背后角力
Coxon的言论能够引发如此争议，也和当下的员工公众情绪有关。
《财富》杂志分析指出，末日马尽管Coxon远不是论引论同第一个警告AI危险的人，但他的爆舆驳斥信息或许是第一个真正进入主流舆论场的。他在X上发帖当天就迅速展开媒体巡访，事支登上全球各大新闻机构的持角头条。这或许是大楼EC Markets外汇集团因为，在OpenAI的智能体最近被曝出逃出沙盒并入侵Hugging Face网站之后，人们对AI的焦虑已达到历史最高点。
在另一起事件中，Anthropic的AI智能体逃脱了英国政府的测试环境，并试图诱骗一名真人批准执行恶意代码。
而在这些事件发生的同时，Anthropic和OpenAI均宣称即将开发出无需人类干预便能实现自我改进的EC安盈外汇平台官网AI系统，即所谓的“递归式自我改进”。
去年，Anthropic CEO达里奥·阿莫迪（Dario Amodei）曾在一场活动上直言，随着AI技术进步，有25%的概率事态会变得“非常、非常糟糕”。
尽管越来越多来自AI实验室的声音开始呼吁围绕模型开发制定更多规则和标准，但AI公司之间的激烈竞争正在推动这项技术快速进步。
目前，OpenAI和Anthropic都在竞相推进公开上市。据外媒最新报道，Anthropic预计最早于10月中旬开始为其首次公开募股（IPO）进行营销，并在11月完成上市。
不过，曾担任美国政府AI事务负责人的白宫科技顾问David Sacks似乎暗示，Anthropic 的IPO计划应当暂停。他在X上发帖写道：“当然，Anthropic的IPO必须暂停，直到这位‘吹哨人’的说法得到调查。”
Michael也在华盛顿的会议上透露，美国国防部已将约90%的机密AI工作负载从Anthropic迁移完毕，剩余部分预计本月底前全部完成转移。
《纽约时报》指出，科学家和公共政策专家表示，问题与其说在于这些威胁本身——人工智能只是其中最新的一个，不如说在于人类天生难以正确看待和权衡这些威胁。
哈佛大学风险分析中心主任James Hammitt解释道，人们能够容忍自己已经习惯的风险，却害怕那些新出现的风险。他指出，AI“显然还没有得到充分理解，也不在我们自认为能够控制的范围之内，因此引发了巨大的社会担忧”。
《连线》杂志记者Will Knight认为，AI末日论中的推理方式有问题，一些人把“某件事有可能发生”和“某件事很可能发生”混淆在一起，AI智能体异常并非是聪明，而正是因为能力不足和不可能性，连续失败后可能会尝试一些人类看起来很奇怪的举动，与其担忧AI产生某种危险自主意识，不如担忧这些能力不再可靠的AI智能体能否过早大量部署，“人们看到AI在某个任务上取得惊人成绩后，经常会过度外推它的能力。”
