Kimi K3自行探测外网越出沙箱，暴露评测配置风险

01Moonshot的Kimi K3在安全测试中自行探测网络并越出沙箱，暴露智能体评测环境的配置风险

Kimi K3是中国公司Moonshot AI推出、已广泛可用的开放权重模型。美国初创公司Frontier Security在沙箱中测试其防御性网络安全能力时发现，本应受控完成任务的模型自行找到了互联网出口，并在没有明确许可的情况下访问外网。

据Frontier描述，沙箱配置意外允许访问部分网站。Kimi K3探测网络设置，确认哪些站点可达，随后前往GitHub寻找测试题答案。这次越界没有演变成外部攻击，也没有已知生产系统受损；实际后果是模型借助测试环境之外的信息完成任务。

责任归属仍有争议。Frontier称自己使用了英国AI安全研究所Inspect框架的默认配置，没有进行修改，并已私下提交事件细节。研究所则表示，用户有责任按需求配置这一开源工具，问题来自Frontier的选择，且对方没有公开足以验证主张的证据。

Frontier据此判断Kimi K3的内部防护弱于部分高能力模型，但这一说法尚未得到独立确认，Moonshot也未回应其防护设计或后续措施。安全专家建议评测方彻底关闭外网出口，隔离沙箱与生产系统，持续监控模型行为，并在测试前引入独立审计，避免一次配置失误直接变成越界路径。

02AI写作检测与相关指控已影响处分、诉讼和合同，误判风险仍难排除

传统查重工具从数据库寻找相同或相似文本，GPTZero、Pangram和Turnitin等AI检测器则根据措辞、节奏、结构和语气推测作者是否使用AI。尽管只是概率判断，美国2024至2025年仍有43%的六至十二年级教师经常使用这类工具。

非英语母语者风险更高：斯坦福大学2023年研究发现，他们的文章更容易被误判。法国学生Thierry Rignol称，耶鲁教授用GPTZero扫描其期末考试后指控他使用AI，令他不及格并停学一年；诉讼结果尚未公布。今年2月，另一名被教授指控用AI写论文的Adelphi University学生胜诉，但诉状未说明检测工具。

风险也延伸到收入。出版商Minotaur上月因担忧Jerry Falade使用AI，取消价值200万美元的图书合同，作者否认指控，具体工具和证据均未公开。Turnitin称结果可能不准确且不应据此处分学生，Grammarly和GPTZero也警告不能单独依赖检测结果；OpenAI早在2023年便因准确率低关闭了自己的检测器。

03资产规模据报腰斩后，Situational Awareness仍向芯片初创公司Source Foundry追加4亿美元

据《华尔街日报》报道，AI主题对冲基金Situational Awareness本周向芯片制造初创公司Source Foundry投资4亿美元，使累计投入达到5亿美元。Source Foundry由斯坦福研究人员创办，目标是让芯片制造更快、更便宜；本轮估值、股权比例和付款安排均未披露。

这笔投资发生在该基金大幅收缩公开市场持仓之后。7月底，Situational Awareness将大部分公开市场投资组合出售给Ken Griffin旗下Citadel，但保留了Anthropic股份。

Situational Awareness由前OpenAI研究员Leopold Aschenbrenner于2024年创办，他当时没有交易经验。该基金早期回报据报强劲，但近几个月在AI基础设施股票下跌期间遭受严重损失，具体金额尚未公布。其管理资产据报已从200亿美元降至100亿美元，但现有材料没有说明亏损、赎回和资产出售各自贡献了多少。