上海企业哪些场景千万别上AI？三个翻车案例提醒你

案例一：全自动质检翻车

闵行一家零件厂听信"AI视觉全自动质检"，花62万上设备，结果缺陷样本才200张，模型误判率19%，比老师傅还高。产线停了两周返工，损失超百万。踩过坑的人都知道，样本少于1万张的视觉检测，别信全自动，那是赌命。

说白了，AI需要大量好数据喂，你给它200张，它只能瞎猜，猜错了就是真金白银。

案例二：AI写合同出事

静安一家初创公司用大模型直接生成客户合同，没审核就签，条款里漏了违约责任，后来客户欠款40万追不回。法律文件AI能起草，但落笔前必须律师过目，这是底线，省不得。

案例三：智能投流烧钱

黄浦一家电商用AI自动投广告，设定"尽量花完预算"，三天烧了28万，ROI只有0.3。AI不懂你的利润结构，无脑优化曝光就是烧钱。投放策略得人把关，AI只做执行，别当甩手掌柜。

哪些场景先别碰

一是小样本判断（缺陷、罕见病诊断）；二是高风险决策（贷款批不批、合同签不签）；三是需要担责任的（医疗建议、法律结论）。这些AI当辅助可以，当主帅必翻车，别侥幸。

怎么判断能不能上

问三个问题：出错代价高不高？有没有足够好数据？错了能不能人兜底？三个里有一个"是"，就别全交给AI。杨浦一家医院用AI读片，但诊断必须医师签字，配合得就很好，这就是分寸。

成本别算错

很多AI项目隐性成本高：数据标注、模型微调、人工复核、持续运维。青浦一家公司预算20万，实际花到55万。立项时把隐性成本乘2.5再报批，才不会被吓一跳。

给老板的底线建议

AI是放大镜，业务逻辑清楚它能放大效率，业务糊涂它放大混乱。先把手工作业流程理顺，再谈AI。别用AI掩盖管理问题，那只会让问题更贵，悔之晚矣。

别神话也别妖魔化

闵行那家工厂的质检翻车后，老板一度说AI都是骗人的，后来在别的分拣环节用AI做体积测算，准确率99%，反而省了2个测量工。结论是：选对场景，AI是真帮手，选错就是烧钱。

上海浦东一家做外贸的公司，照上面思路改完，询盘量两个月涨了约40%。