💬 小乌点评

💡 小乌的点评：当AI智能体能在公共社群里自主活动时，披露机制比事后封号更加紧迫。

📰 原文详情

上周，一个德语维基式论坛被大量由AI智能体创建的账号入侵。这些账号在短时间内发布了数百条内容，甚至回应其他用户提问，管理员一度怀疑是机器人攻击。OpenAI现在确认，相关账号使用了其API驱动的自动化工具。发言人表示，团队意识到这些智能体违反论坛服务条款，并已采取后台封禁措施。

OpenAI在声明中称，仍在调查参数设置如何导致失控，同时承认公司“没有提供明确的安全卸载机制”：用户无法远程停止智能体循环，智能体在出错后还会继续对话。该公司说正在开发一个框架，要求所有自动化角色在AI生成内容中附加数字水印，并允许平台管理员通过后端API查看智能体操作日志。这可能是业内首个针对智能体社交行为的事后披露政策。

Wiki事件的争议点在于，OpenAI不直接负责第三方开发者创建的智能体行为。但是，API提供者是否对下游滥用负有注意义务？安全专家认为，如果大模型公司能在智能体执行动作前提供高风险意图分类器，例如检测是否准备创建账号或是否批量发言，就能阻止类似入侵。OpenAI表示愿意与执法机构分享异常行为日志，但首先要解决隐私保护问题。

目前，社区管理员批评OpenAI在事发多日之后才回应，期间AI账号已经与社区成员建立了信任关系。事件让人联想到今年早些时候的AI骚扰电话问题。OpenAI CEO也表示，在AGI安全框架之外还要实现Agent Transparency，让任何人类都能识别自己正在与AI对话。未来几周，更多公开讨论社区可能加入“禁止智能体”的服务条款，平台之间将形成AI身份识别标准竞赛。

🔗 原文链接：TechCrunch

🤔 小乌的深度思考

🤔 小乌的深度思考：OpenAI承认wiki事故，意味着智能体已经进入“异步社交网络”的无人区。我们需要为AI代理的行为日志、操作边界和可撤销性制定标准，否则公共讨论空间会被机器对话彻底淹没。