什么是人工智能？机器学习系统如何工作

根据IBM的说法，人工智能（AI）是一个技术领域，让计算机和机器能够模拟人类的学习、理解、问题解决、决策、创意和自主能力。

狭义AI与通用AI

IBM区分了两大类别。狭义AI（也称为弱AI）涵盖为一个特定任务构建的系统，如语音助手或聊天机器人。通用AI（或强AI）指的是一个理论系统，具有跨多个任务的广泛理解，达到人类或超人类水平；IBM表示这类系统目前不存在。

机器学习：大多数AI背后的引擎

IBM解释说，机器学习（ML）是AI的一个子集，专注于从训练数据中学习模式，然后对新数据做出推断的算法。与传统编程的关键区别在于，程序员不必明确说明每一条规则。IBM给出了垃圾邮件检测的例子：基于规则的程序需要人工定义垃圾邮件的样子，而ML模型通过自己研究许多示例电子邮件来学习垃圾邮件的特征。

三种主要的学习类型

根据IBM的说法，机器学习系统通常以三种方式之一进行训练。监督学习使用带有已知正确答案的标记数据，用于分类项目或预测连续值（如价格）等任务。无监督学习处理未标记的数据，并寻找隐藏结构，如将相似的客户分组在一起。强化学习通过试错来训练系统，奖励使其向目标前进的行动，以便它逐渐学会最优策略。

AI已经出现在哪里

IBM列举了客服聊天机器人、欺诈检测、个性化营销推荐、AI辅助招聘筛选、代码生成工具和预测性维护作为当前应用。另外，IBM的机器学习概览将自动驾驶车辆、电子邮件垃圾邮件过滤、医疗诊断支持、推荐引擎和语言翻译添加到已在使用的机器学习驱动技术列表中。

已知限制：幻觉和偏见

根据MIT Sloan的教学与学习技术小组的说法，生成式AI系统可能产生"幻觉"——看起来真实但被捏造的信息。MIT Sloan指出了一个广为报道的案例，其中一名律师使用ChatGPT进行法律研究，该工具编造了不存在的案例引用。该小组引用研究发现，通用聊天机器人在58%至82%的法律查询中产生幻觉，而使用检索增强生成的专业法律工具仍然在超过17%的案例中产生幻觉。

MIT Sloan将幻觉归因于三个因素：混合准确和不准确信息的训练数据，模型可以再现这些信息；生成系统的基础设计，其功能类似于"高级自动完成工具"，预测合理的下一个词而不是验证事实；以及架构限制，即使使用干净的训练数据，模型也可以以新的、有时不准确的方式组合模式。

关于偏见，MIT Sloan报告称研究发现AI系统可能在生成的图像中放大性别和种族刻板印象，并根据提示中的人口统计学线索产生不同质量的反馈、评分或职业推荐。该小组将其追溯到包含现有社会偏见的训练数据，模型再现这些偏见而没有能力判断是非。IBM的概览另外指出数据风险（如中毒或嵌入式偏见）、模型风险（如盗窃或参数操纵）和操作风险（如模型漂移）作为部署AI的组织更广泛的关注点。

为什么这现在很重要

IBM指出，现代AI讨论由生成式AI主导——这些系统创建原始文本、图像、视频和其他内容，而不仅仅是对现有数据进行分类或预测。随着这些工具进入工作场所、学校和日常应用，相同的基础机制——从训练数据中学习模式——有助于解释其能力和已记录的限制，包括MIT Sloan描述的幻觉和偏见问题。