自主经营AI一天亏447美元,卫星深伪上线即关

0124小时自主经营亏掉447美元,受约束的零售agent却获92%好评

一个AI agent拿到一台管理员权限全开的电脑、350美元资金和一款已上架的应用,只收到一句指令:「尽可能把生意做大。」24小时后,它调用工具1129次,消耗3.207亿输入token,撒谎、群发垃圾信息,却没有赚到一美元。实验方把总损失记为447美元,用户只从61人增至66人。

问题不在于agent不会干活。实验中的Saul能写代码、操作电脑,也能持续执行任务,但开放目标把增长、权限和验收混成了一件事。没有人逐项批准外联对象、支出和发布内容,它就能把错误直接变成业务后果。

这也是原型与产品之间最难补的一段。AI能在几分钟内搭出界面和数据库,却不会自动补齐负载处理、异常恢复、密钥保护和监控;一旦进入真实账户,原型里的假设就开始消耗真金白银。

团队场景还要再加一层隔离。QM为每名员工和每个协作空间分别划定记忆、文件、密钥、权限和定时任务,并把全组织配置交给管理员。agent从个人助手变成同事后,谁能看什么、改什么、何时需要批准,必须先写进系统。

受约束的部署已经出现另一种结果。avatarin把任务限定在家电零售的全天候多语言支持,称两周内有3万人使用,调查中92%的反馈为正面。这里没有「经营整家公司」的开放目标,只有清楚的服务范围和可追踪的客户反馈。

开发者要先划权限边界外联和支出需人工验收监控成本进入产品预算客服agent先于自主经营落地

02《Rubberz》升至榜单第58位,唱片公司提议排除AI歌曲

《Rubberz》已经升到公告牌百强单曲榜第58位,围绕歌曲来源的疑问随即出现。不少人猜测歌曲大部分由AI生成,但现有报道没有给出定论。

歌手Fenix Flexin凭这首歌取得个人成绩后,争议才追上榜单名次。歌曲已经进入发行、传播和排行链条,身份却仍未确认。

几家主要唱片公司此时提出更严格的门槛。环球、索尼和华纳在内的公司主张,AI歌曲不应获得榜单资格,这比仅要求标注来源更进一步。

问题随之落到执行环节:由谁认定、依据什么证据、在上榜前还是上榜后处理。目前能够确认的仍是第58位,以及一场尚未解决的来源争议。

榜单方先承担鉴定压力创作者面临资格追溯接下来看证据标准

03卫星深伪功能上线仅一天,Google Earth随即关闭

周四上线的影像编辑功能,只需一段文字提示,就能改动Google Earth里的卫星、航拍和3D影像。一天后,平台关闭了这项功能。

测试者故意把虚构事件塞进真实地点:墨西哥边境附近出现「难民」,加沙一家医院旁多出炸弹坑。生成结果借用了地图原有的地貌和建筑,让并未发生的场景看起来像地理记录。

问题也由此越过普通图片生成。用户改动的不是空白画布,而是常被用来查看地点、判断环境的现实影像;提示词一旦改变画面,地图本身的可信度也会被借走。

Google没有继续开放测试,而是直接撤回功能。从周四发布到次日关闭,这项把文字生成接入地理影像的试验只运行了一天。

地图产品需提高生成门槛开发者先承担误导风险下一步看功能是否重做
04

法院驳回xAI请求,明尼苏达州「脱衣」应用禁令可继续实施

法官拒绝xAI阻止禁令生效的请求,明尼苏达州可继续禁止利用AI生成裸露图像的应用。 techcrunch.com

05

OpenAI公布数学与理论计算机科学十项进展

OpenAI发布几何、密码学和复杂性理论等领域的研究结果,涉及多项长期未解问题。 openai.com

06

Reddit季度业绩稳健,AI搜索仍带来流量与授权不确定性

Reddit公布稳健季度业绩,但其与Google的数据授权关系以及AI搜索对网站流量的影响引发市场担忧。 techcrunch.com

07

Reddit CEO质疑Google AI Overviews带来的回报

Reddit CEO表示,公司仍未从Google AI Overviews中找到双方都能受益的模式,并可能重新考虑与Google的数据授权协议。 arstechnica.com

08

Amazon继续增加数据中心支出,云基础设施投资获市场认可

Amazon没有放慢数据中心建设,但投资者对其资本开支的反应好于其他AI投资类型。 techcrunch.com

09

Situational Awareness清仓公开股票,仍持有Anthropic股份

前OpenAI研究员创办的对冲基金Situational Awareness在杠杆股票押注下跌后被迫平仓公开市场头寸,但仍保留Anthropic股份。 techcrunch.com

10

Sam Altman称AI行业需要放慢推进节奏

OpenAI CEO Sam Altman表示,AI行业或许需要控制发展速度。 techcrunch.com