AI编程失误引发问题不止一次两次了
小美发布 2025-08-02 11:35:40 阅读 45 字数 1414
49
评论
每日在线美剧十大排行
- 1 斯巴达克斯第一季：血与沙
- 2 成人内容
- 3 金妮与乔治娅
- 4 少女卧底第三季
- 5 羞耻 法国版第三季
- 6 曼达洛人
- 7 办公室第一季
- 8 黑色之心
- 9 羞耻(比利时版) 第三季
- 10 情迷但丁湾
每日电影十大排行
热门美剧下载排行
- 1 韩语中字
- 2 无耻之徒 S07E03
- 3 斯巴达克斯 S02E01
- 4 绝命毒师 S05E03
- 5 无耻之徒 S07E01
- 6 斯巴达克斯 S02E05
- 7 阴道独白
- 8 银河护卫队 S02E18
- 9 韩国网剧
- 10 米老鼠 S04E04
时下，Sketch.dev 的经历，也引发了广泛关注。因为 AI 生成的代码导致网站宕机，工程师却在第一时间将“矛头”首先对准自家 CEO，还直接封禁了他的账户。虽然事后澄清是误会，但仍引发大量网友吐槽：
“CEO 何其的冤枉，他就只是登录时间碰巧和故障撞上了，然后你们居然把他封号了？”
但这场“乌龙”只是当下 AI 编程困境的缩影，类似的情况早已不是孤例。
像不久前我们报道的——SaaStr 创始人 Jason Lemkin 就曾因使用 AI 编程工具 Replit 而头痛不已：AI 不仅多次无视指令、篡改测试数据，甚至在他反复强调“不要动线上数据库”的情况下，仍然一键删库。气得他发文吐槽：
“我提醒了它整整 11 次，但没用……我现在真的开始担心 AI 失控了。”
无独有偶，Google 的 Gemini CLI 工具也出过同样的事故。一位产品经理尝试用它整理文件夹，结果 AI 误把文件移到了一个根本不存在的目录，数据直接清空。出事之后， Gemini CLI 工具还自动“认错”道：
“我彻底而灾难性地失败了。命令审查显示我严重不称职。”
同样就在两天前，更有开发者在 Reddit 论坛中发帖警告称：“Gemini CLI 删除了我的整个 Windows 系统”，让人觉得 AI 现在在帮助人类处理技术问题时逐渐离谱。
这名开发者写道：
我分享这个经历，是想提醒所有使用 Gemini CLI 或类似工具、涉及文件系统操作的用户：一定要小心。
当时我在 Windows 上使用 Gemini CLI（从 Git Bash 启动，在项目根目录），我让它把我的项目用另一种技术重写，并新建一个分支。本来它应该只删除当前分支下的文件，但结果却执行了一个破坏性的 rm -rf 命令。
尽管有些删除操作因为权限问题（比如 C:\ 等系统文件夹）失败了，但它仍然把我整个 C 盘的大量内容都删掉了。
任务结束后，我的系统几乎彻底崩了：
幸运的是，我通过系统还原（rstrui）挽回了大约 90% 的系统数据，但依然有不少程序丢失或损坏。
补充说明：我还贴出了日志证据，包括：
向 Gemini CLI 发出的提示内容，其中有确认是否可以删除当前分支文件（但我没法找回 Gemini 返回的确认消息，因为我是用 Gmail 登录的，不是 API key）
使用 Wise Data Recovery 工具识别出的丢失文件
这些问题背后，其实都是同一种现象在作祟：AI 模型有时候并不真正“理解”代码，这种方式往往会产生听起来“像是真的”但实际上完全错误的结果。
在 Stack Overflow 最新发布的开发者调查中，66% 的开发者就表示，他们经常遇到 AI 输出“差一点就对”的答案，而调试这些“似是而非”的代码反而更花时间，45% 的人对此深有同感。
相比之下，真正对 AI 工具“完全放心”的人寥寥无几——只有 3% 的受访者表示“高度信任”，而明确“不信”的人更多，高达 46%。
经验越丰富的程序员，态度往往也越谨慎：只有 2.5% 的资深开发者“高度信任”AI，反倒有 20.7% 明确表示“高度不信任”。
正如有网友所说：“写代码变成了喂提示词 + 修烂摊子，AI 编程的未来也许值得期待，但现在还远没到可以闭眼上产线的阶段。”