安徽滁州,67岁的吴大伯种了一辈子地,去年开始用AI问农活。从将信将疑到完全依赖,什么事都问AI。
7月10日,他问AI:芝麻田怎么除草除虫?AI秒回方案,推荐了两种除草剂加两种除虫剂。吴大伯照做,用无人机全田喷洒。
第二天,150亩芝麻苗全枯了。草死了,苗也死了。预计损失15万。
一、AI推荐了什么?
农技人员事后一看就发现问题:AI推荐的"氟磺胺草醚"是大豆田专用的阔叶除草剂,严禁用于芝麻田,更不能全田喷洒。芝麻田只能定向打草,全田喷等于给庄稼灌毒药。
种了40年地的老农,为什么信AI不信自己的经验?因为AI说话太像专家了。它给你出方案,带剂量、带用法、带注意事项,格式工整,逻辑清晰。你看着像那么回事,就照做了。
二、AI公司怎么说?
客服回应:AI没有独立知识库,答复是根据网络公开信息整合生成的。
翻译一下:我们不对内容负责。
- 问医生用错了药:医院要赔
- 问律师打输了官司:律所要担责
- 问AI种错了地:AI公司说"仅供参考"
三、不只是农业
- 医疗:有人按AI建议吃药,结果病情加重
- 法律:AI编了个不存在的法条,当事人照做直接败诉
- 投资:AI推荐了已经退市的股票
AI什么都能聊,但它不保证任何一句话是对的。
四、这件事的真正教训
AI是工具,不是专家。工具可以帮你查资料、整理信息、提高效率,但在高风险场景下,最终决策必须由真人把关。
种地问农技站,看病问医生,打官司问律师。AI给你的方案,先找专业人士确认一遍再执行。
15万块的教训,不该白交。
你觉得AI出了错,该不该承担责任?
评论区