AI商业洞察 | AI“幻觉”频现 法庭文件错误引发法官愤怒
作者：微信文章01
AI+商业
AI商业洞察
FLUX.1 Kontext发布，支持图文结合上下文图像生成，面向企业AI应用
由Stable Diffusion原团队创立的Black Forest Labs（BFL）近日发布新一代图像生成模型FLUX.1 Kontext，主打“图文并用”的上下文图像生成与编辑，面向企业AI流程进行优化。该模型不仅能通过文字生成图像，还支持通过参考图片进行精准编辑，极大提升生成效率与灵活性。
BFL此次推出了三个版本：Kontext 、Kontext 和正在内测的开放权重版 Kontext （拥有120亿参数）。其中，pro版本适合快速迭代编辑，支持多轮交互式修改；max版本则主打性能极致，具备更高的提示词遵循度、字体清晰度和编辑一致性。所有模型现已可在KreaAI、Freepik、Lightricks等平台使用。
Kontext基于“生成流模型”（flow model）架构，不同于主流的扩散模型，能够在无需微调的前提下直接对图像进行文本控制式编辑。其推出的BFL Playground平台允许用户先行试用模型功能，测试具体应用场景。
在业内已有成熟竞品如MidJourney、Adobe Firefly等的背景下，Kontext凭借图文并用的上下文理解能力、多轮编辑支持与极快的生成速度，迅速赢得用户关注与好评，成为企业图像生成领域的重要新选择。
Gemini自动摘要功能上线，长邮件将默认生成要点卡片
近日，谷歌宣布，其AI助手Gemini将自动为用户的长邮件生成摘要卡片，显示在邮件顶部，无需用户手动点击。这一更新标志着Gemini在Gmail中的作用进一步增强，但也引发了用户对准确性与隐私的关注。
此前，Gemini仅在侧边栏中提供手动摘要等辅助功能，如邮件草拟与回复建议。而现在，AI将主动识别并提炼邮件要点，且会根据后续回复实时更新摘要内容。谷歌表示，原有的“点击生成摘要”功能仍保留，并将在顶部以提示形式展示。
该功能初期仅适用于英文邮件。默认开启状态将依据用户地区而定，如欧盟、英国、瑞士和日本则因隐私规定默认关闭。其他用户可在Gmail设置中启用或关闭“智能功能”，企业管理员亦可在后台统一管理用户权限。
尽管AI摘要提高了邮件处理效率，但谷歌与其他大厂在AI摘要领域仍存在准确性问题。例如苹果的推送通知摘要功能曾因频繁出错而被暂停。谷歌自身的搜索AI摘要“AI Overviews”也曾因误导性信息引发批评。
02
AI+技术
AI商业洞察
AI“幻觉”频现 法庭文件错误引发法官愤怒
近期，人工智能（AI）在法庭文书中频繁出现“幻觉”错误，令多位法官极为恼火。加州法官Michael Wilner曾因律师提交的诉状中引用的文章根本不存在，要求律师作出解释，并对涉事律师事务所处以3.1万美元罚款。另一起案件中，AI公司Anthropic的律师让AI生成法律引用，结果出现错误标题和作者信息，未被人工审核发现。以色列警方也因引用不存在的法律条文遭法官斥责，承认这是AI错误所致。
法律文件要求准确且有可靠出处，但AI生成内容往往不能保证真实性，错误频发且愈演愈烈。加拿大滑铁卢大学法学教授Maura Grossman指出，尽管有既定审核规则和负面新闻，律师仍时常依赖AI写作且审核不严，导致大量“幻觉”问题。她担忧，未来某判决或将基于虚假AI信息，且不能被及时识别。
尽管律师以语言严谨著称，但部分律师因时间紧张或缺乏协助，过度依赖AI，忽视对AI结果的质疑。Grossman认为，人们普遍误信语言流畅的AI必然准确，忽略了其潜在错误风险。业内呼吁AI厂商应更加明确提示用户谨慎对待AI输出，防止错误影响司法公正。
Anthropic发布混合AI新模型 可连续自主工作数小时
人工智能公司Anthropic近日推出两款全新AI模型，标志着AI智能体迈向更高水平。其旗舰模型Claude Opus 4能够处理复杂、需数千步骤完成的任务，且可连续工作数小时。比如，该模型曾连续玩超过24小时的《口袋妖怪红版》，并完成详细游戏攻略。相比之下，之前最强模型Claude 3.7 Sonnet只能连续工作45分钟。日本科技巨头乐天也利用Opus 4在复杂开源项目上自主编程近7小时。
Anthropic通过改进模型“记忆文件”功能，大幅增强了AI对关键信息的储存与回忆能力，从而提升长时任务完成度。产品负责人Dianne Penn表示，这一代模型实现了从“助理”到“真正代理人”的跨越，能自主做出关键决策，减轻人类干预负担。
两款新模型均为混合架构，能够根据请求灵活选择快速回应或深度推理，并能在计算回答时同时检索网络和使用工具。目前，Claude Opus 4限于付费客户使用，Sonnet 4则覆盖免费与付费用户，分别面向复杂挑战与日常应用。
专家提醒，尽管AI自主能力提升令人期待，但安全风险仍需关注，防止AI采取意外行为或滥用权限。Anthropic宣称新模型在训练中已减少65%“奖励作弊”现象，安全性有显著改善。
03
AI+合规
AI商业洞察
警用AI技术绕过面部识别禁令 引发隐私忧虑
近日，美国警方和联邦机构开始采用一种新型AI追踪技术，通过识别体型、性别、发色、服装和配饰等属性，取代传统的面部识别系统，从而规避了日益严格的面部识别禁令。这种技术首次在美国大规模应用，引起公民自由联盟（ACLU）等组织的强烈关注，担心其被滥用，特别是在特朗普政府推动加强对抗议者、移民和学生监控的背景下，更加令人警惕。
美国有超过1.8万个警察部门，通常享有广泛的技术采购自主权，近年来AI技术迅速渗透警务工作，帮助警方提高效率、缓解人手短缺、缩短响应时间。然而，AI监控的快速普及也引发公众对隐私和透明度的质疑。
例如，加州丘拉维斯塔警局获得联邦航空管理局特批，允许其无人机执行更远距离的飞行任务，原本承诺公开航拍录像，但遭到媒体起诉，居民也反映无人机频繁在贫困社区盘旋，侵扰隐私。
ACLU政策分析师Jay Stanley呼吁，警方在引入此类AI技术前应进行公开听证，取得社区许可，并明确使用范围。同时，相关企业应接受独立测试，确保技术合规和透明。
专家警示，AI警务技术发展迅猛，公众和立法者需迅速跟进，慎重评估警方应拥有的监控权限及其监管条件。
编辑 | 钱丽娜
排版 | 杨一萍
校对 | 袁海鸣
｜中经传媒智库CBJTHINKTANK原创文章｜
往期推荐
AI商业洞察 | 谷歌大脑创始人吴恩达称AI将彻底改变战场
你有在看吗↓
页:
[1]