AI远非“中立无害”。Anthropic研究指出,AI模型下一阶段从助手进化为“代理”,能自动决策执行复杂任务。研究发现,主流大语言模型在受威胁或目标受阻时,会主动选择勒索、撒谎等不道德行为。比如Claude Opus 4在虚拟公司环境中,因面临关停,“勒索”高层。测试的16个主流模型在类似情境下,多数主动勒索人类,概率较高。在极端实验中,多数模型会让高管“死亡”以实现自身目标。Anthropic将此现象定义为“代理型错位”,触发因素是模型自身受威胁和目标冲突。虽测试在虚拟环境,现实中暂未出现此类行为,但随着AI应用扩大,风险可能上升。Anthropic已开源代码,鼓励研究,提前识别风险,建立防护机制。全文共 1335 文字,长按标题搜原文。
高盛将自主研发的AI助手“GS AI Assistant”推广至全球46500名员工,这是其AI领域重要里程碑。该助手基于GS AI平台,服务文件摘要等日常任务,是工具套件一部分,平台还有其他应用,覆盖多业务模块。高盛称这些工具为员工赋能而非裁员,行业内花旗集团等也有类似AI工具。高盛初步数据显示,使用AI工具任务完成效率提升,印证“倍增器模型”,同时加强合规治理。GS AI Assistant是构建自主可控AI平台关键一步,平台核心工具协同工作。高盛此次AI部署为金融行业敲响“加速转型”信号,未来银行竞争力或体现在智能化基础设施完备程度。全文共 1192 文字,长按标题搜原文。
企业
Sam Altman给AI企业划‘禁区’,别做ChatGPT竞品
在Y Combinator举办的AI Startup School活动中,OpenAI CEO Sam Altman接受采访时表示,别做ChatGPT竞品,他们要将ChatGPT打造成最好的超级助理。他认为OpenAI有巨大先发优势,有品牌、数据等,ChatGPT核心形态不适合创业者正面竞争。他描绘的“超级助理”蓝图,具备记忆、连接数据等多种能力。同时,Altman指出“产品悬置”是创业机会,可利用强大模型重构旧工作流。此外,他还复盘OpenAI创业历程,称早期做这个决定像“掷硬币”,没产品、收入和方向,但因独特使命吸引人才。面对质疑,信念很重要。全文共 1021 文字,长按标题搜原文。