什麼是人工智慧？機器學習系統如何運作

根據IBM的說法，人工智慧（AI）是一個技術領域，讓電腦和機器能夠模擬人類的學習、理解、解決問題、決策、創意和自主性。

狹窄AI與通用AI

IBM區分了兩個廣泛的類別。狹窄AI（也稱為弱AI）涵蓋為一項特定任務構建的系統，例如語音助手或聊天機器人。通用AI（或強AI）是指一個具有跨多項任務的廣泛理解能力的理論系統，達到人類或超人類水平；IBM指出這些系統目前不存在。

機器學習：大多數AI背後的引擎

根據IBM的解釋，機器學習（ML）是AI的子集，專注於從訓練數據中學習模式然後對新數據進行推論的演算法。與傳統編程的關鍵區別是程序員不必逐一闡述每條規則。IBM舉了垃圾郵件檢測的例子：基於規則的程序需要人類定義垃圾郵件的樣子，而ML模型通過自己研究許多示例電子郵件來學習垃圾郵件的特徵。

三種主要的學習類型

根據IBM的說法，機器學習系統通常以三種方式之一進行訓練。有監督學習使用帶標籤的數據，包含已知的正確答案，用於分類項目或預測連續值（如價格）等任務。無監督學習使用未標籤的數據並尋找隱藏的結構，例如將相似的客戶分組在一起。強化學習通過試錯訓練系統，獎勵朝向目標的行動，使其逐漸學習最優策略。

AI已經出現的地方

IBM列舉了客服聊天機器人、欺詐檢測、個性化營銷推薦、AI輔助招聘篩選、代碼生成工具和預測性維護作為當前應用。另外，IBM的機器學習概述還將自動駕駛車輛、電子郵件垃圾郵件過濾、醫療診斷支持、推薦引擎和語言翻譯添加到已經使用中的ML驅動技術列表中。

已知的局限性：幻覺和偏見

根據MIT Sloan的教學與學習技術小組的說法，生成式AI系統可以產生「幻覺」——看起來真實的虛構信息。MIT Sloan指出了一個廣泛報導的案例，一名律師使用ChatGPT進行法律研究，該工具編造了不存在的案例引用。該小組引用研究指出，通用聊天機器人在測試的58%至82%的法律查詢中產生幻覺，而使用檢索增強生成的專業法律工具仍在超過17%的案例中產生幻覺。

MIT Sloan將幻覺歸因於三個因素：訓練數據混合準確和不準確信息，模型可以重現；生成系統的基礎設計，其功能類似「高級自動完成工具」預測可能的下一個詞而不是驗證事實；以及架構限制，即使使用乾淨的訓練數據，也讓模型能以新的、有時不準確的方式組合模式。

在偏見方面，MIT Sloan報告研究發現AI系統可以在生成的圖像中放大性別和種族刻板印象，並根據提示中的人口統計學線索產生不同質量的反饋、評分或專業建議。該小組將此追溯到包含現有社會偏見的訓練數據，模型在沒有判斷對錯能力的情況下進行重現。IBM的概述另外指出數據風險（如中毒或嵌入式偏見）、模型風險（如盜竊或參數操縱）以及操作風險（如模型漂移）作為部署AI的組織的更廣泛關注。

為什麼這在現在很重要

IBM指出現代AI討論由生成式AI主導——創建原始文本、圖像、視頻和其他內容的系統，而不僅是從現有數據進行分類或預測。隨著這些工具進入工作場所、學校和日常應用，相同的基礎機制——從訓練數據中學習模式——有助於解釋它們的能力和已記錄的限制，包括MIT Sloan描述的幻覺和偏見問題。