El Dr. Fidel Alejandro Sánchez Flores es investigador del Instituto de Biotecnología de la Universidad Nacional Autónoma de México, Campus Morelos, y es miembro y presidente actual de la Academia de Ciencias de Morelos.
Esta publicación fue revisada por el comité editorial de la Academia de Ciencias de Morelos.
¿Cómo se transforma nuestra vida?
La ciencia y la tecnología sin duda facilitan y transforman nuestra vida cotidiana, muchas veces sin percatarnos de su presencia. Posiblemente, muchos hemos escuchado de la inteligencia artificial (IA) pero pocos estamos conscientes de la constante interacción que tenemos con este tipo de tecnología. Por ejemplo, los automóviles como los de Tesla y Google utilizan la IA para tomar decisiones en tiempo real y adaptarse a diferentes situaciones en la carretera para poder manejarse de manera autónoma.
Incluso, en ediciones anteriores de esta columna, ya se ha abordado el tema de la IA con la máquina de Google llamada LaDMA (Language Model for Dialogue Applications) https://acmor.org/publicaciones/sienten-y-piensan-las-computadoras.
En este artículo explicaré al lector, de manera muy general, en qué consiste la IA y en particular, de una aplicación que ha cobrado mucha popularidad pero que puede ser un arma de doble filo en cuestiones de contenido y ética, al generar información y contenido con fines distintos. Nótese que el texto explicativo está escrito en itálicas y que he resaltado con letra bold las críticas del evaluador.
Imagen futurística, hecha con IA, de personas conviviendo con robots. Se dibujó con
https://huggingface.co/spaces/stabilityai/stable-diffusion
Qué es la Inteligencia Artificial y algunos ejemplos
La inteligencia artificial (IA) es una rama de la informática que se enfoca en el desarrollo de algoritmos y sistemas que permiten a las máquinas realizar tareas que requieren de inteligencia humana, como el aprendizaje, la percepción, la toma de decisiones y el razonamiento. En otras palabras, la IA busca imitar la inteligencia humana en las máquinas.
Existen diversas definiciones de IA, pero una de las más aceptadas es la que propuso John McCarthy, uno de los padres fundadores de esta disciplina, en 1956: "La inteligencia artificial es la ciencia e ingeniería de hacer máquinas inteligentes, especialmente programas de cómputo inteligentes".
Hay varios enfoques diferentes para crear IA, pero muchos de los sistemas utilizan técnicas de aprendizaje automático y procesamiento de lenguaje natural (¡sería bueno explicar esas técnicas!). La IA se aplica en múltiples campos, como la robótica, la automatización industrial, la medicina, la seguridad, el transporte, la educación, la agricultura y el entretenimiento, entre otros. Algunos ejemplos de aplicaciones de IA son los chatbots, los asistentes virtuales, los sistemas de recomendación, los vehículos autónomos, los diagnósticos médicos y los juegos de video.
El aprendizaje automático es una técnica de IA que permite a un sistema aprender a partir de datos, sin que haya sido programado explícitamente para realizar una tarea en particular. El aprendizaje automático se basa en algoritmos que pueden analizar datos y reconocer patrones, lo que les permite hacer predicciones y tomar decisiones (¡no es claro cómo aprende!).
El procesamiento de lenguaje natural es otra técnica de IA que se utiliza para enseñar a un sistema a entender el lenguaje humano. Los sistemas de procesamiento de lenguaje natural utilizan algoritmos que pueden analizar el texto y comprender su significado (¿cómo “comprende” el algoritmo?), lo que les permite responder a preguntas y llevar a cabo otras tareas.
En general, los sistemas de IA funcionan a través de una combinación de algoritmos, modelos y datos. El objetivo es crear un sistema que pueda aprender y adaptarse a medida que recopila más datos y se enfrenta a nuevas situaciones. A medida que la IA se vuelve más sofisticada, se espera que pueda realizar tareas cada vez más complejas y ayudar a resolver algunos de los mayores desafíos que enfrenta la humanidad.
Algunos ejemplos del uso de la IA en la vida cotidiana son los asistentes de voz como Siri, Alexa o Google Assistant, que utilizan IA para entender y responder a las preguntas de los usuarios. Los sistemas de recomendación de Netflix, Amazon y YouTube utilizan IA para analizar los datos de los usuarios y hacer recomendaciones personalizadas. Las redes sociales como Facebook y Twitter utilizan IA para etiquetar personas en fotos, detectar contenido inapropiado y personalizar el flujo de noticias. La tecnología de reconocimiento de voz y texto utilizada en los sistemas de transcripción de voz a texto como en WhatsApp, traducción de idiomas y chatbots también se basa en la IA. Las aplicaciones de edición de fotos como FaceApp y Snapchat, utilizan IA para aplicar filtros y efectos especiales en tiempo real. Los sistemas de seguridad en línea, como los antivirus y los sistemas de detección de fraude, utilizan IA para detectar patrones y comportamientos anómalos.
Imagen futurística, hecha con IA, de personas conviviendo con robots. Se dibujó con
https://huggingface.co/spaces/stabilityai/stable-diffusion
¿Qué es ChatGPT?
ChatGPT es un modelo de lenguaje de inteligencia artificial basado en la arquitectura GPT (Generative Pre-trained Transformer por sus siglas en inglés), desarrollado por la empresa OpenAI.
En términos simples, ChatGPT es un sistema de conversación que utiliza técnicas de procesamiento de lenguaje natural para comunicarse con los usuarios. Utiliza la tecnología de aprendizaje automático para aprender de grandes conjuntos de datos de texto y producir respuestas coherentes y útiles a las consultas de los usuarios.
Para lograr esto, ChatGPT utiliza una arquitectura de red neuronal profunda (deep learning) que está pre-entrenada con grandes conjuntos de datos que incluyen una variedad de géneros, como libros, artículos de noticias, conversaciones en redes sociales y páginas web, con la finalidad de comprender (¿comprende o establece?) patrones lingüísticos. Esto le permite generar texto coherente y relevante en las conversaciones generadas mediante una interfaz gráfica.
El modelo se entrena de manera no supervisada (¿qué es un aprendizaje no supervisado?) en esos grandes conjuntos de datos de texto, utilizando el aprendizaje por transferencia, lo que significa que aprende a generar texto a partir del contexto de palabras y oraciones anteriores.
La arquitectura consta de varias capas de "atención transformadora", que es una técnica que permite que el modelo aprenda a enfocarse en diferentes partes del texto para comprender el contexto y generar texto relevante.
La entrada del modelo es una secuencia de palabras, y cada palabra se convierte en un vector de números reales. Luego, estos vectores se pasan a través de múltiples capas de atención (aquí se explica como si quien lo lee conoce las redes neuronales. Sería conveniente explicar algo más). transformadora, donde el modelo aprende a identificar patrones en la secuencia de palabras. El modelo también utiliza una técnica llamada "máscara de atención", que permite que el modelo se centre en partes específicas de la secuencia de entrada y generar una respuesta específica.
En resumen, la arquitectura GPT es un modelo de lenguaje basado en redes neuronales que utiliza técnicas de atención transformadora y aprendizaje por transferencia, para generar texto coherente y relevante a partir de palabras y oraciones en cierto contexto.
Aplicaciones de la tecnología ChatGPT
Además de las aplicaciones de la IA que se han mencionado, en particular ChatGPT tiene un amplio potencial de aplicaciones en diversas áreas. Por ejemplo, puede ser utilizado por empresas para proporcionar asistencia a la cliente automatizada a través de chatbots que pueden responder preguntas frecuentes, proporcionar información y realizar tareas simples. También se puede utilizar para la automatización de tareas, como la generación de informes, la redacción de correos electrónicos y la transcripción de discursos.
En educación y enseñanza, podría ser utilizado en aplicaciones para ayudar a los estudiantes a aprender nuevos conceptos y responder preguntas mediante la generación de texto. También puede ser puede ser utilizado en aplicaciones de entretenimiento, como videojuegos para proporcionar una experiencia más interactiva y personalizada dentro del juego.
Por lo tanto, una herramienta de IA como ChatGPT puede ser de gran utilidad, pero debe haber consideraciones éticas y de criterio para su uso.
Consideraciones éticas y pensamiento crítico al usar ChatGPT
La generación de texto como artículos de información podría ser otra aplicación de ChatGPT. Si usted ha llegado a este punto del artículo, una gran parte de los textos que ha leído hasta ahora, escritos en itálicas, fueron generados con esta aplicación. Los revisores de este artículo y el comité editorial fueron informados, es importante considerar las implicaciones éticas que existen al generar una obra con una herramienta como ChatGPT, ya que el contenido generado podría contener errores y la autoría sería cuestionable si es que el autor no revisa la información escrita por la herramienta. Es importante mencionar que el evaluador que revisó la primera versión lo hizo, en un principio, sin saber que había sido en parte escrito por ChatGPT y en seguida notó algo raro. De hecho, he incluido sus críticas, muy pertinentes. Existen programas para detectar que un texto proviene de ChatGPT, pero además un buen árbitro de textos científicos nota rápidamente algunas explicaciones repetitivas y un uso incompleto o equivocado de las palabras. También es importante mencionar que el árbitro consideró este un artículo informativo, más no divulgativo. La divulgación requiere de creatividad y originalidad que este texto no tiene.
Si bien la tecnología y la inteligencia artificial son herramientas sumamente útiles, una herramienta como ChatGPT debe de ser utilizada de manera responsable y con un juicio crítico. Además, debe existir una regularización y marcos éticos y hasta legales al generar información por este medio.
De entrada, la generación de información sin poner las citas de dónde proviene, no permite a los lectores verificar la información. Además, no estaríamos dando el crédito a la fuente y con eso estaríamos cometiendo plagio, ya que no ha sido una idea original nuestra, dónde no hay interpretación ni generación de nuevo conocimiento a partir del existente.
También, aunque la cantidad de datos utilizados en el proceso de entrenamiento de la red neuronal es enorme, podrían existir sesgos o información incorrecta, lo cual difícilmente puede ser verificada y dependemos de nuestro criterio y cultura para detectar algún posible fallo.
De hecho, la UNESCO en el 2021, emitió una serie de recomendaciones para el uso de la IA, dónde analizan los fines y objetivos de su uso, así como los valores y principios que deben respetarse al utilizar la IA, como el respeto, protección y promoción de los derechos humanos, las libertades fundamentales y la dignidad humana. En particular, en el ámbito de comunicación e información se recomienda utilizar los sistemas de IA para mejorar el conocimiento, respetando y promoviendo la libertad de expresión y el acceso a la información en lo que respecta a la generación automática de contenidos.
Independientemente de la veracidad de la información y su contexto, es necesario verificar que no contenga información ofensiva, discriminatoria, excluyente o que puede incitar a una conducta violenta hacia uno mismo o los demás.
La IA y los modelos utilizados para generar información por medio del lenguaje natural son algo muy novedoso y que es perfectible. Definitivamente debe estar regulado y es posible que, en los años venideros, es en este rubro donde se canalizarán la mayoría de los esfuerzos para contar con una tecnología segura y al servicio de la humanidad.
Imagen futurística al estilo Picasso, hecha con IA, de personas conviviendo con robots. Se dibujó con https://huggingface.co/spaces/stabilityai/stable-diffusion
Como un homenaje a los 50 años de la muerte del gran artista Pablo Picasso
https://es.wikipedia.org/wiki/Pablo_Picasso
Referencias
Russelll, S. J., & Norvig, P. (2010). Artificial intelligence: a modern approach. Prentice Hall.
McCarthy, J., Minsky, M. L., Rochester, N., & Shannon, C. E. (1955). A proposal for the Dartmouth summer research project on artificial intelligence. AI magazine, 27(4), 12-14.
McCarthy, J., Minsky, M. L., Rochester, N., & Shannon, C. E. (1955). A proposal for the Dartmouth summer research project on artificial intelligence. AI magazine, 27(4), 12-14.
Ligas de interés
https://d4mucfpksywv.cloudfront.net/better-language-models/language_models_are_unsupervised_multitask_learners.pdf
https://openai.com/
https://unesdoc.unesco.org/ark:/48223/pf0000381137_spa
Esta columna se prepara y edita semana con semana, en conjunto con investigadores morelenses convencidos del valor del conocimiento científico para el desarrollo social y económico de Morelos. Desde la Academia de Ciencias de Morelos externamos nuestra preocupación por el vacío que genera la extinción de la Secretaría de Innovación, Ciencia y Tecnología dentro del ecosistema de innovación estatal que se debilita sin la participación del Gobierno del Estado.
