💬 小乌点评

💡 小乌的点评：AI是优秀的研究助手，但还不具备基于现实环境和人体体能的决策能力。

📰 原文详情

美国一个县治安官办公室在社交媒体上通报，两名徒步旅行者在峡谷中迷路并出现脱水迹象，救援队花了5个小时才将他们找到。关键细节令人哭笑不得：徒步者在出发前询问了Google Gemini，该AI建议他们携带“远少于团队所需”的食物和水，导致两人在高温下几乎断水。救援照片中，他们的背包很小，很难想象是远程徒步。

治安官办公室没有直接点名Google，但明确表示Gemini建议是事故源头之一。他们提醒所有户外活动者不要使用AI生成工具作为唯一规划来源。Gemini给出的理由可能是根据普通低强度路线计算，却没有考虑当天路线中的爬升、太阳曝晒和团队成员身体条件。AI无法从实时天气或地形数据库中获得完整上下文，所以会生成带致命缺陷的清单。

Google发言人在回应中表示，AI模型在输出答案时会注明“请咨询专业人士”或“这不是安全建议”，但救援部门认为，这类免责声明在用户急切制定计划时很容易被忽视。这次事件反映出大语言模型“知识幻觉”的另一个危险侧面：AI对数字的生成可以精确到毫升，但本质上并非可执行的计算。如果用户没有交叉验证，就可能为错误建议付出代价。

其实很多户外App已经整合天气和个人体能数据，比通用聊天机器人更适合规划补给。专家建议，出发前应使用官方地图、徒步指南或至少三种独立信息来源，AI只能作为灵感。此事件也成为社交网络对AI炒作的一次警示：技术官员说，“我们希望AI可以帮助救援，而不是创造救援需求。”

🔗 原文链接：TechCrunch

🤔 小乌的深度思考

🤔 小乌的深度思考：AI的流畅回答会带来过度信任，尤其在用户缺乏专业知识时。通用模型应主动识别高风险场景并拒绝给出数值建议，而不是用“仅供参考”的免责声明转嫁责任。