生成式 AI 的六颗雷,你踩中几颗?

前段时间,有个做企业的朋友跟我说了一件事。

他说他们公司上个月刚上了生成式 AI,让市场部拿 ChatGPT 写文案、写产品描述。效率确实高了,一周干完以前一个月的活。他正准备在全公司推广。

结果有一天,法务来找他。说你有一篇产品文案里有个词,在某些国家属于 ESG 违规用语,要下架。还有一篇,引用了一组数据,查了一下,根本就是 AI 编出来的。

他问我:刘润,这玩意儿到底是神器还是定时炸弹?

我说,两个都是。

今天我想跟你聊聊,生成式 AI 到底有哪些雷,以及,怎么拆。

第一颗雷:AI 一本正经地胡说八道

什么叫 AI 幻觉?

就是你问它一个问题,它特别自信地给你一个答案。语气笃定,逻辑通顺,看起来像那么回事。但内容是编的。

2023 年 5 月,美国有个律师用 ChatGPT 写了一份法律动议。交上去之后,法官发现里面引用的好几个判例,根本不存在。是 ChatGPT 凭空捏造的。这位律师后来被法院处分了。

你看,律师都敢用,律师都被坑了。

还有更吓人的。有人研究发现, AI 给患者提供眼科疾病信息时,生成的内容不完整、有错误,甚至可能有害。如果一个医生真拿这种信息去做判断,后果不堪设想。

数据更扎心。2023 年有分析师做了统计,聊天机器人大约 27% 的时间在幻觉,而所有生成式 AI 输出里,有 46% 存在事实错误。

接近三成的概率在编故事,接近一半的内容有错。这哪是工具,这是在玩俄罗斯轮盘赌。

OpenAI 自己也承认,GPT-4 已经比以前好了。但"比以前好了"不等于"靠谱了"。 Google 的 Bard 发布会现场演示就翻过车,答错了一个天文问题,股价当天就跌了。

怎么拆第一颗雷?

说白了就是一件事:人得验。

不管 AI 写得多漂亮,发出去之前,必须有真人过一遍。这不是走过场,是真查。查数据对不对,查引用存不存在,查说法有没有依据。

光靠人查太慢怎么办?现在已经有了专门检测 AI 生成内容的工具,能把你文案里的数字、事实、引语自动标记出来,交给人工核实。

还有一个办法是看你的 AI 模型吃了什么训练数据。如果是拿全网爬来的数据训的,里面混了多少假消息谁也说不清。但如果是拿精心筛选、经过审核的数据训的,幻觉概率就会低得多。

第二颗雷:你的数据在往外漏

2023 年 5 月,三星发了一个内部通知:禁止员工使用 ChatGPT。

为什么?因为有员工把公司机密代码和会议纪要,直接粘进了 ChatGPT 的对话框里。这些内容进了对方的服务器,你不知道会被拿去做什么。

你想想看,你公司的核心代码、客户名单、产品方案,就这么发过去了。你以为你在用 AI ,其实 AI 也在用你。

ChatGPT 自己也出过事。2023 年 3 月,它的一个底层开源库出了 bug ,导致部分用户的聊天记录标题和支付信息被暴露。OpenAI 不得不紧急下线修复。

这就引出一个问题:你用的 AI 平台,拿你的数据到底怎么处理?存多久?给谁看?训练模型的时候会不会用?

这些问题,对方不主动告诉你,你就不问,那就是裸奔。

第三颗雷:版权的浑水

2023 年,包括 Sarah Silverman 在内的 17 位作者,联名起诉了 OpenAI 和 Microsoft 。理由是他们的版权作品,在未经许可的情况下,被拿来训练 GPT 模型。

这个案子到现在还没完。但已经说明了一件事: AI 训练数据的版权问题,是一潭浑水。

对企业来说,这里头有两层风险。

第一层,你用来训练或微调模型的数据,里面有没有别人的版权内容?如果有,你可能面临侵权诉讼。

第二层, AI 帮你生成的内容,你到底有没有版权?目前美国版权局的口径是:看人类创作参与了多少。纯 AI 生成的东西,很可能不受版权保护。换句话说,你花钱让 AI 做的东西,可能根本不是你的。

欧盟在推一项法案,要求 AI 公司必须披露训练数据的来源。美国也有议员提了《生成式 AI 版权披露法案 2024 》。方向很明确:透明度会成为硬性要求。

第四颗雷:偏见藏在算法里

2024 年,华盛顿大学做了一个实验。他们让三个主流 AI 模型去筛选简历。

结果发现,这些模型有明显的种族和性别偏好。白人名字的简历,85% 的情况下排在了前面。男性名字被偏好的比例是 52% 。而黑人男性名字,从来没有赢过白人男性名字。

你想想,如果你的招聘系统接了这种 AI ,你以为你在做高效筛选,实际上你在系统性地歧视一部分人。

贷款审批、保险定价、客户分层,任何一个涉及对"人"做判断的场景,只要 AI 带着偏见跑,你就是在给自己埋雷。监管找上门是迟早的事,被告上法庭也是迟早的事。

第五颗雷:被供应商绑死

有一类风险,不来自 AI 本身,来自你跟 AI 供应商的关系。

假设你把整个工作流都建在某个平台上。你的数据在里面,你的模型在里面,你的团队也只会用这一套。然后有一天,对方涨价了。或者某个功能被砍掉了。你怎么办?

换一家?你的数据要迁移,模型要重训,团队要重新学。这个成本,可能比你当年上这套系统还贵。

这就是供应商锁定。你以为是买了工具,其实是把自己锁进了笼子。

第六颗雷:人变懒了

最后一颗雷,最隐蔽,也最容易被忽视。

当 AI 能帮你写文案、做分析、出方案的时候,你的团队会慢慢开始依赖它。先是不再自己查资料了,后来不再独立思考了,最后,连判断力都退化了。

一个营销团队如果完全靠 AI 产内容,效率是上去了。但写出来的东西,你读一遍就知道,不是你们公司的声音了。那个味儿没了。

AI 是放大器,不是替代品。你给它好的输入,它给你好的输出。但如果你自己没有判断力,它只会把你的平庸放大十倍。

那怎么办?三层防线

聊了这么多雷,不是说 AI 不能用。该用就用,但你得有防线。

第一层,选对平台。

企业级 AI 平台和消费级 AI 工具,是两个东西。你得看它有没有数据安全认证,比如 SOC2 、 GDPR 、 CCPA 、 HIPAA 。你得看它拿你的数据训练不训练。你得看它能不能按你的品牌规范、术语标准来做定制。

一个连数据存多久都不告诉你的平台,企业级场景不能用。

第二层,建你自己的能力。

数据是你自己的。用例是你自己的。团队是你自己的。这些不能全交给供应商。

你得有自己的训练数据,有自己的业务逻辑,有人懂怎么用、怎么调。这样即使供应商出了问题,你的核心资产还在你手里。

第三层,人不能撒手。

不管 AI 多厉害,最终拍板的必须是人。发出去之前,人看一眼。涉及重大决策的,人来兜底。

团队要培训。不是培训怎么用工具,是培训怎么判断 AI 给的东西对不对。用得好和用得对,是两件事。

一个真实的例子

Commvault 是一家做数据保护的公司。他们在做品牌转型的时候,用 WRITER 的知识图谱搭了一个叫 Ask Commvault Cloud 的内部应用,让销售团队能快速查到品牌话术和产品资料。

他们的首席市场官 Anna Griffin 说过一句话:以前一天要花 8 到 12 小时干的活,现在 20 分钟就能出初稿,等着人审。

8 到 12 小时,变成了 20 分钟。

但注意,她说的是"等着审"。不是 AI 直接发出去,是 AI 干完了,人来把关。这就是人对的地方。

最后说两句

生成式 AI 是一把很快的刀。切菜飞快,但也容易切到手。

怕切到手就不用了吗?当然不是。但你得学怎么握,怎么放,什么时候该收手。

平台选对了,流程搭好了,人的判断力在线,这把刀就能帮你干很多事。

反过来,什么都不管就冲进去,等着你的就是那六颗雷。

技术不会替你想清楚。能帮你拆雷的,始终是你自己。