Что такое искусственный интеллект? Как работают системы машинного обучения

Искусственный интеллект (ИИ) — это область технологии, которая позволяет компьютерам и машинам имитировать человеческое обучение, понимание, решение проблем, принятие решений, творчество и автономность, по определению IBM.

Узкий ИИ против общего ИИ

IBM различает две широких категории. Узкий ИИ, также называемый слабым ИИ, охватывает системы, созданные для одной конкретной задачи, такой как голосовой помощник или чатбот. Общий ИИ, или сильный ИИ, относится к теоретической системе с широким пониманием множества задач на уровне человека или выше; IBM заявляет, что такие системы в настоящее время не существуют.

Машинное обучение: двигатель большинства систем ИИ

Машинное обучение (МО) — это подмножество ИИ, сосредоточенное на алгоритмах, которые учатся находить закономерности в обучающих данных, а затем делают выводы о новых данных, объясняет IBM. Ключевое отличие от традиционного программирования состоит в том, что программист не должен формулировать каждое правило. IBM приводит пример обнаружения спама: программе на основе правил нужен человек, чтобы определить, что выглядит как спам, тогда как модель МО изучает характеристики спама, самостоятельно анализируя множество примеров писем.

Три основных типа обучения

По данным IBM, системы машинного обучения обычно обучаются одним из трёх способов. Контролируемое обучение использует помеченные данные с известными правильными ответами для таких задач, как классификация элементов или прогнозирование непрерывного значения, такого как цена. Неконтролируемое обучение работает с немаркированными данными и ищет скрытую структуру, например группирует похожих клиентов вместе. Обучение с подкреплением тренирует систему методом проб и ошибок, награждая действия, которые приводят к цели, поэтому она постепенно изучает оптимальную стратегию.

Где ИИ уже появляется

IBM перечисляет чат-боты обслуживания клиентов, обнаружение мошенничества, персонализированные рекомендации маркетинга, вспомогательный скрининг при найме, инструменты генерации кода и прогностическое обслуживание как текущие приложения. Отдельно, обзор машинного обучения IBM добавляет в список технологий на основе МО, уже находящихся в использовании, автономные транспортные средства, фильтрацию спама в электронной почте, поддержку медицинской диагностики, рекомендательные системы и машинный перевод.

Известные ограничения: галлюцинации и смещение

Системы генеративного ИИ могут производить «галлюцинации» — сфабрикованную информацию, которая выглядит подлинной, по данным группы Teaching & Learning Technologies MIT Sloan. MIT Sloan указывает на широко освещённый случай, когда адвокат использовал ChatGPT для юридических исследований и инструмент придумал несуществующие ссылки на дела. Группа ссылается на исследования, которые показали, что универсальные чат-боты галлюцинировали в 58–82% тестировавшихся юридических запросов, в то время как специализированные юридические инструменты, использующие получение дополненной информацией, всё ещё галлюцинировали более чем в 17% случаев.

MIT Sloan приписывает галлюцинации трём факторам: обучающие данные, которые смешивают точную и неточную информацию, которые модели могут воспроизводить; основной дизайн генеративных систем, которые функционируют как «продвинутые инструменты автодополнения», предсказывающие правдоподобные следующие слова, а не проверяющие факты; и архитектурные ограничения, которые позволяют моделям комбинировать закономерности по-новому, иногда неправильным образом, даже с чистыми обучающими данными.

Касаясь смещения, MIT Sloan сообщает, что исследования показали, что системы ИИ могут усиливать гендерные и расовые стереотипы в генерируемых изображениях и производить обратную связь, оценки или профессиональные рекомендации разного качества в зависимости от демографических подсказок в подсказке. Группа прослеживает это до обучающих данных, содержащих существующие общественные предрассудки, которые модели воспроизводят без способности судить о правильности и неправильности. Обзор IBM отдельно указывает на риски данных, такие как отравление или встроенное смещение, риски модели, такие как кража или манипуляция параметрами, и операционные риски, такие как дрейф модели, как более широкие проблемы для организаций, развёртывающих ИИ.

Почему это важно сейчас

IBM отмечает, что современное обсуждение ИИ доминируется генеративным ИИ — системами, которые создают оригинальный текст, изображения, видео и другой контент, а не только классифицируют или прогнозируют на основе существующих данных. Поскольку эти инструменты попадают на рабочие места, в школы и в повседневные приложения, один и тот же основной механизм — обучение закономерностям из обучающих данных — помогает объяснить как их возможности, так и их задокументированные ограничения, включая проблемы с галлюцинациями и смещением, которые описывает MIT Sloan.