인공지능이란 무엇인가? 기계학습 시스템의 작동 원리

인공지능(AI)은 IBM에 따르면 컴퓨터와 기계가 인간의 학습, 이해, 문제 해결, 의사 결정, 창의성, 자율성을 시뮬레이션할 수 있도록 하는 기술 분야입니다.

좁은 AI 대 일반 AI

IBM은 두 가지 광범위한 범주를 구분합니다. 좁은 AI(약한 AI라고도 불리는)는 음성 어시스턴트나 챗봇 같은 하나의 특정 작업을 위해 구축된 시스템을 다룹니다. 일반 AI 또는 강한 AI는 많은 작업에 걸쳐 인간 수준 또는 초인적 수준의 광범위한 이해를 가진 이론적 시스템을 지칭합니다. IBM은 이러한 시스템이 현재 존재하지 않는다고 명시합니다.

기계학습: 대부분의 AI 뒤의 엔진

기계학습(ML)은 훈련 데이터에서 패턴을 학습한 후 새로운 데이터에 대해 추론을 하는 알고리즘에 초점을 맞춘 AI의 부분집합입니다. IBM이 설명하듯이 기존 프로그래밍과의 핵심 차이점은 프로그래머가 모든 규칙을 명시할 필요가 없다는 것입니다. IBM은 스팸 탐지 예시를 듭니다. 규칙 기반 프로그램은 사람이 스팸의 모양을 정의해야 하지만, ML 모델은 많은 예제 이메일을 연구해서 자동으로 스팸 특성을 학습합니다.

세 가지 주요 학습 유형

IBM에 따르면, 기계학습 시스템은 일반적으로 세 가지 방식 중 하나로 훈련됩니다. 지도 학습은 항목 분류나 가격 같은 연속 값 예측 같은 작업을 위해 알려진 올바른 답변이 있는 라벨이 붙은 데이터를 사용합니다. 비지도 학습은 라벨이 없는 데이터로 작동하며 유사한 고객들을 함께 그룹화하는 것 같은 숨겨진 구조를 찾습니다. 강화 학습은 시행착오를 통해 시스템을 훈련하며, 목표를 향해 나아가는 행동에 보상을 주므로 점차적으로 최적의 전략을 학습합니다.

AI가 이미 나타나는 곳

IBM은 고객 서비스 챗봇, 사기 탐지, 개인화된 마케팅 추천, AI 보조 채용 심사, 코드 생성 도구, 예측 유지 보수를 현재 애플리케이션으로 나열합니다. 별도로, IBM의 기계학습 개요에는 자율주행 자동차, 이메일 스팸 필터링, 의료 진단 지원, 추천 엔진, 언어 번역을 이미 사용 중인 ML 기반 기술 목록에 추가합니다.

알려진 제한: 환상과 편향

MIT Sloan의 교육 및 학습 기술 그룹에 따르면, 생성형 AI 시스템은 '환상'을 생성할 수 있습니다. 이는 진정해 보이는 허위 정보입니다. MIT Sloan은 변호사가 법적 조사를 위해 ChatGPT를 사용했고 도구가 존재하지 않는 판례를 만들어낸 널리 보도된 사건을 지적합니다. 이 그룹은 범용 챗봇이 법적 질문의 58%에서 82%에서 환상을 일으켰다는 연구를 인용하며, 검색 보강 생성을 사용하는 전문화된 법률 도구는 여전히 17% 이상의 경우에서 환상을 일으킵니다.

MIT Sloan은 환상을 세 가지 요인에 기인합니다: 정확한 정보와 부정확한 정보를 혼합하는 훈련 데이터(모델이 재현할 수 있음), 사실을 검증하지 않고 그럴듯한 다음 단어를 예측하는 '고급 자동완성 도구' 같은 생성형 시스템의 기본 설계, 그리고 깨끗한 훈련 데이터에서도 모델이 패턴을 새롭고 때로는 부정확한 방식으로 조합할 수 있게 하는 아키텍처 제한.

편향에 대해, MIT Sloan은 연구에서 AI 시스템이 생성된 이미지에서 성별 및 인종 고정관념을 증폭할 수 있고 프롬프트의 인구통계적 단서에 따라 다양한 품질의 피드백, 등급 또는 전문 추천을 생성할 수 있다는 것을 발견했다고 보도합니다. 이 그룹은 이를 기존 사회적 편견을 포함하는 훈련 데이터에 기인합니다. 모델은 옳고 그름을 판단할 수 있는 능력 없이 이를 재현합니다. IBM의 개요는 데이터 위험(중독 또는 내장된 편향), 모델 위험(도용 또는 매개변수 조작), 운영 위험(모델 드리프트)을 AI를 배포하는 조직에 대한 더 광범위한 우려로 별도로 지적합니다.

왜 지금 이것이 중요한가

IBM은 현대적 AI 논의가 생성형 AI(기존 데이터의 분류나 예측만 하는 것이 아니라 원본 텍스트, 이미지, 비디오 및 기타 콘텐츠를 만드는 시스템)에 의해 지배되고 있다고 지적합니다. 이러한 도구가 직장, 학교, 일상적인 앱에 도달함에 따라, 같은 기본 메커니즘(훈련 데이터에서 패턴을 학습하는 것)이 MIT Sloan이 설명하는 환상 및 편향 문제를 포함한 그들의 능력과 문서화된 제한 사항을 설명하는 데 도움이 됩니다.