¿Qué es la inteligencia artificial? Cómo funcionan los sistemas de aprendizaje automático

La inteligencia artificial (IA) es un campo de la tecnología que permite a las computadoras y máquinas simular el aprendizaje humano, la comprensión, la resolución de problemas, la toma de decisiones, la creatividad y la autonomía, según IBM.

IA estrecha vs. IA general

IBM distingue entre dos categorías amplias. La IA estrecha, también llamada IA débil, cubre sistemas construidos para una tarea específica, como un asistente de voz o un chatbot. La IA general, o IA fuerte, se refiere a un sistema teórico con una comprensión amplia en muchas tareas a nivel humano o sobrehumano; IBM establece que tales sistemas no existen actualmente.

Aprendizaje automático: el motor detrás de la mayoría de la IA

El aprendizaje automático (AA) es el subconjunto de IA enfocado en algoritmos que aprenden patrones de datos de entrenamiento y luego hacen inferencias sobre datos nuevos, según explica IBM. La diferencia clave con la programación tradicional es que un programador no tiene que deletrear cada regla. IBM da el ejemplo de la detección de spam: un programa basado en reglas necesita que un humano defina cómo se ve el spam, mientras que un modelo de AA aprende características de spam estudiando muchos correos electrónicos de ejemplo por sí mismo.

Tres tipos principales de aprendizaje

Según IBM, los sistemas de aprendizaje automático se entrenan generalmente de una de tres maneras. El aprendizaje supervisado utiliza datos etiquetados con respuestas correctas conocidas, para tareas como clasificar elementos o predecir un valor continuo como un precio. El aprendizaje no supervisado funciona con datos sin etiquetar y busca estructura oculta, como agrupar clientes similares. El aprendizaje por refuerzo entrena un sistema a través de prueba y error, recompensando acciones que la mueven hacia un objetivo para que aprenda gradualmente una estrategia óptima.

Dónde la IA ya aparece

IBM enumera chatbots de servicio al cliente, detección de fraude, recomendaciones de marketing personalizado, detección de reclutamiento asistida por IA, herramientas de generación de código y mantenimiento predictivo como aplicaciones actuales. Por separado, la descripción general de aprendizaje automático de IBM agrega vehículos autónomos, filtrado de spam de correo electrónico, soporte de diagnóstico médico, motores de recomendación y traducción de idiomas a la lista de tecnologías impulsadas por AA ya en uso.

Limitaciones conocidas: alucinaciones y sesgos

Los sistemas de IA generativa pueden producir "alucinaciones" — información fabricada que parece auténtica, según el grupo de Tecnologías de Enseñanza y Aprendizaje de MIT Sloan. MIT Sloan señala un caso ampliamente reportado en el cual un abogado usó ChatGPT para investigación legal y la herramienta inventó citas de casos que no existían. El grupo cita investigación que encontró que los chatbots de propósito general alucinaban en 58% a 82% de consultas legales probadas, mientras que las herramientas legales especializadas que utilizan generación aumentada por recuperación todavía alucinaban en más del 17% de los casos.

MIT Sloan atribuye las alucinaciones a tres factores: datos de entrenamiento que mezclan información precisa e imprecisa, que los modelos pueden reproducir; el diseño subyacente de los sistemas generativos, que funcionan como "herramientas de autocompletado avanzado" prediciendo palabras siguientes plausibles en lugar de verificar hechos; y limitaciones arquitectónicas que permiten a los modelos combinar patrones de nuevas maneras, a veces inexactas, incluso con datos de entrenamiento limpios.

Sobre sesgo, MIT Sloan reporta que estudios han encontrado que los sistemas de IA pueden amplificar estereotipos de género y raza en imágenes generadas y producir retroalimentación de diferente calidad, calificaciones o recomendaciones profesionales dependiendo de señales demográficas en un mensaje. El grupo rastrea esto a datos de entrenamiento que contienen prejuicios sociales existentes, que los modelos reproducen sin la capacidad de juzgar lo correcto de lo incorrecto. La descripción general de IBM por separado señala riesgos de datos como envenenamiento o sesgo integrado, riesgos de modelo como robo o manipulación de parámetros, y riesgos operacionales como desviación de modelo como preocupaciones más amplias para las organizaciones que implementan IA.

Por qué esto importa ahora

IBM señala que la discusión de IA moderna está dominada por IA generativa — sistemas que crean texto, imágenes, video y otro contenido original en lugar de solo clasificar o predecir datos existentes. Cuando estas herramientas llegan a lugares de trabajo, escuelas y aplicaciones cotidianas, el mismo mecanismo subyacente — aprender patrones de datos de entrenamiento — ayuda a explicar tanto sus capacidades como sus límites documentados, incluyendo los problemas de alucinación y sesgo que MIT Sloan describe.