AI不是一个神奇的大脑。它通过学习海量数据——比如文本、图片、数字等等——来工作。基于这些数据，它找出其中的关联和规律，然后尝试生成新的信息或做出决策。

希望通过这篇内容帮助你简单理解为什么AI会犯错：

AI犯错的背后原因

• 它只知道它学过的东西：

  AI是基于数据进行训练的。如果它学习的数据不完整、有偏见或包含错误，AI的表现也会反映出这些不足。它不像人类那样拥有真实世界的经验或常识，只能处理它见过的数据模式。

  举个栗子： 就像你只给一个人看猫的照片，却一直告诉他这些都是狗，他就会开始相信猫是狗。AI也可能因为训练数据的问题而学到错误的概念。

• 它基于概率，而非真正理解：

  AI，特别是生成文本或图片的那种，是通过预测基于训练数据统计上最可能出现的内容来工作的。它不像人类那样理解意义。这就像根据单词通常出现的顺序来预测句子中的下一个词，而不是真正理解整个句子的意思。

  举个栗子： 比如，AI可能学会“猫”后面经常跟着“坐在垫子上”它可以生成这个句子，因为这在统计上是高概率的，但它实际上并不会在脑中想象出一只猫坐在垫子上的画面，也不理解这些词在现实世界中的真正含义。

• 理解语境很困难：

  人类非常擅长理解语境——包括情境、语气和言外之意。AI在这方面可能比较困难。你措辞上的一点点改变，或者AI在训练数据中没遇到过的情况，都可能导致它误解你的请求或正在处理的信息。

  举个栗子： 如果你告诉一个人，“我感觉有点不爽”，他们会明白你有点不舒服。如果AI没有专门训练过这个习语，它可能就难以理解。

• “幻觉”（无中生有/胡编乱造）：

  有时，当AI不确定或缺乏所需信息时，它可能会自信地生成听起来好像有道理但完全错误的信息。它不是故意说谎；它只是根据其学到的模式，生成一个它认为可能的回复，即使这个回复在事实上是错误的。

  举个栗子： 想象一下，你正在猜一个还没读完的故事的结局。你可能会根据目前读到的内容做出一个看似非常有说服力的猜测，但结果可能完全错误。AI在生成信息时也可能发生类似的情况。

• 数据带来的偏见：

  如果用来训练AI的数据反映了社会中现有的偏见（比如与种族、性别或地域相关的偏见），AI就可能学到并延续这些偏见，体现在它的输出或决策中。

  举个栗子：比如，如果AI用历史数据训练，而这些数据中某个特定职业主要由某个性别的人担任，它就可能不公平地优先推荐该性别的候选人从事这些工作，即使其他性别中存在同样优秀的候选人。

AI可能犯错的例子

营销场景：

营销团队会使用AI来写广告文案、生成社交媒体帖子、推荐邮件主题、分析客户情绪以及识别目标受众。

• 内容生成示例：
  • 场景： 使用AI工具撰写关于新产品的博客文章。AI在训练中获取了各种在线信息。然而，它学到的一些信息在新产品的规格或优点方面已经过时或略有不准确。

  • AI的错误： AI生成的博客文章自信地包含了错误的规格，好像它们是事实一样。

  • 为什么需要人工核查： 如果这位营销专员不对照公司官方文档核实产品细节，公司可能会发布虚假信息，导致客户困惑、潜在投诉，并损害品牌信誉。

• 受众定位示例：
  • 场景： 使用AI根据过往客户数据识别对新服务最感兴趣的群体。由于历史数据中的偏见（例如，该服务历史上主要针对某个特定年龄段进行营销），AI不成比例地建议仍然重点定位这个可能有限的年龄段。

  • AI的错误： AI提供了一个有偏见的目标受众建议，可能导致营销活动错过其他年龄段的潜在重要客户。

  • 为什么需要人工核查： 人类营销专业人士需要审查AI的建议，考虑历史数据是否可能存在偏差，并运用他们的市场知识确保定位范围广泛、公平，并触及最有希望的潜在客户，而不仅仅是AI根据可能存在偏见的过往趋势认为最有可能的客户。

销售场景

销售团队使用AI来识别线索、个性化触达邮件、预测哪些潜在客户最有可能转化，甚至自动化部分沟通工作。

• 个性化触达示例：
  • 场景： 用AI工具为线索生成个性化邮件。AI从公开信息源抓取客户信息。然而，它误解了一条信息或抓取了略微过时的数据。

  • AI的错误： AI生成的邮件中包含了对客户公司、近期活动或角色尴尬或不正确的引用。例如，它可能祝贺客户升职，但客户实际并未升职，或者提到了客户已不再参与的项目。

  • 为什么需要人工核查： 发送包含不准确个性化细节的邮件会让销售代表显得粗心、不专业，并从一开始就损害与潜在客户的关系。人类需要快速检查AI的个性化内容，确保其准确和恰当。

• 销售线索打分示例：
  • 场景： 使用AI系统根据潜在客户的转化可能性进行评分。然而，AI的算法过度依赖某些数据点，而这些数据点未能充分捕捉当前市场或特定客户潜力的细微差别。

  • AI的错误： AI可能错误地将不符合其学习的历史模式、但实际上非常有价值的潜在客户的优先级降低，或者错误地将低潜力的潜在客户标记为高优先级。

  • 为什么需要人工核查： 销售专业人士应将AI的评分作为指导，而非绝对真相。他们的经验、直觉以及与潜在客户的直接互动提供了AI所缺乏的关键语境，使他们能够纠正AI潜在的错误优先级判断，专注于真正有前景的机会。

分析师场景

分析师使用AI来识别大型数据集中的趋势、创建预测、总结报告、检测异常以及生成洞察。

• 报告总结示例：
  • 场景： 使用AI工具快速总结一份冗长的行业报告。AI处理文本并提取关键点。然而，在压缩信息时，它可能误解一个复杂的句子或遗漏报告发现中的关键细微之处。

  • AI的错误： AI生成的总结遗漏了一个关键信息，或稍微歪曲了原始报告中一个关键结论的含义。

  • 为什么需要人工核查： 分析师需要将AI的总结与原始报告进行对比，以确保准确性和完整性，尤其是在将总结分享给决策者之前。对关键发现的误解可能导致错误的商业决策。

• 趋势识别/预测示例：
  • 场景： 使用AI模型根据历史数据和市场指标预测未来的股票价格。尽管AI擅长发现模式，但意想不到的全球事件、突发市场变化或训练数据中未包含的微妙新兴因素，都可能以AI无法预测的方式显著影响市场。

  • AI的错误： AI的预测可能因为无法考虑训练数据中未捕获的不可预测的真实世界事件或微妙变化而出现重大偏差。

  • 为什么需要人工核查： 分析师必须将AI预测作为众多工具之一。他们需要运用对当前事件、地缘政治因素和定性信息的理解来批判性地评估AI的预测，并相应调整策略。完全依赖AI预测而不考虑外部因素可能导致重大的财务损失。

为什么需要“复核确认”？

因为AI没有意识、常识或真正的理解能力，而且它的知识受限于训练数据，所以它很容易犯这些错误。对于简单的、风险不高的任务，AI的输出可能完全没问题。但对于任何重要的事情——例如对准确性、公平性或安全性要求极高的情况——完全依赖AI而不进行核查可能会带来严重的后果。

“复核确认”意味着运用你自己的判断，与可靠来源交叉核对信息，并且清楚地认识到AI的输出只是一个协助你的工具，而不是绝对正确的事实。随着你更多地使用AI，你会开始了解它容易犯哪些类型的错误，以及什么时候最需要核实它的回复。