Un muy interesante artículo nos comparte hoy un querido colega, ingeniero en computación, sobre “el tema del momento: ChatGPT”. Este artículo lo escribió Brendan H. O'Connor, se publicó el 12 de junio de 2023 en la revista de divulgación The Conversation y lo traducimos nosotros para este espacio. Disfrutémoslo….
ChatGPT es un tema candente en mi universidad, donde los profesores están profundamente preocupados por la integridad académica, mientras que los administradores nos instan a "aprovechar los beneficios" de esta "nueva frontera". Es un ejemplo clásico de lo que mi colega Punya Mishra llama el "ciclo de fatalidad y exageración" en torno a las nuevas tecnologías. Del mismo modo, la cobertura mediática de la interacción humano-IA, ya sea paranoico o fanático, tiende a enfatizar su novedad.
En cierto sentido, es innegablemente nuevo. Las interacciones con ChatGPT pueden parecer sin precedentes, como cuando un periodista tecnológico no pudo lograr que un chatbot dejara de declararle su amor. En mi opinión, sin embargo, el límite entre humanos y máquinas, en términos de la forma en que interactuamos entre nosotros, está más indefinido de lo que la mayoría de la gente quisiera admitir, y esta vaguedad explica gran parte del discurso que gira en torno a ChatGPT.
Cuando me piden que marque una casilla para confirmar que no soy un robot, no lo pienso dos veces, por supuesto que no soy un robot. Por otro lado, cuando mi cliente de correo electrónico sugiere una palabra o frase para completar mi oración, o cuando mi teléfono adivina la siguiente palabra que estoy a punto de enviar, empiezo a dudar de mí mismo. ¿Es eso lo que quise decir? ¿Se me habría ocurrido si la aplicación no lo hubiera sugerido? ¿Soy parte robot? Estos grandes modelos de lenguaje han sido entrenados en cantidades masivas de lenguaje humano "natural". ¿Esto hace que los robots sean parte humanos?
Los chatbots de IA son nuevos, pero los debates públicos sobre el cambio de idioma no lo son. Como antropólogo lingüístico, encuentro que las reacciones humanas a ChatGPT son lo más interesante. Observar detenidamente tales reacciones revela las creencias sobre el lenguaje que subyacen en la relación ambivalente, incómoda y en constante evolución de las personas con los interlocutores de la IA.
ChatGPT y similares sostienen un espejo del lenguaje humano. Los seres humanos son muy originales y poco originales en lo que respecta al lenguaje. Los chatbots reflejan esto, revelando tendencias y patrones que ya están presentes en las interacciones con otros humanos.
¿Creadores o imitadores?
Recientemente, el famoso lingüista Noam Chomsky y sus colegas argumentaron que los chatbots están "atrapados en una fase prehumana o no humana de la evolución cognitiva" porque solo pueden describir y predecir, no explicar. En lugar de recurrir a una capacidad infinita para generar nuevas frases, lo compensan con una gran cantidad de información, lo que les permite hacer predicciones sobre qué palabras usar con un alto grado de precisión.
Esto está en consonancia con el reconocimiento histórico de Chomsky de que el lenguaje humano no se puede producir simplemente mediante la imitación de los hablantes adultos por parte de los niños. La facultad del lenguaje humano tenía que ser generativa, ya que los niños no reciben suficiente información para dar cuenta de todas las formas que producen, muchas de las cuales no podrían haber escuchado antes. Esa es la única manera de explicar por qué los humanos, a diferencia de otros animales con sofisticados sistemas de comunicación, tienen una capacidad teóricamente infinita para generar nuevas frases.
Noam Chomsky desarrolló la teoría generativa de la adquisición del lenguaje.
Sin embargo, hay un problema con ese argumento. Aunque los humanos son infinitamente capaces de generar nuevas cadenas de lenguaje, la gente normalmente no lo hace. Los seres humanos reciclan constantemente fragmentos de lenguaje que han encontrado antes y dan forma a su discurso de manera que responda, consciente o inconscientemente, al discurso de los demás, presentes o ausentes.
Como dijo Mikhail Bakhtin, una figura similar a Chomsky para los antropólogos lingüísticos, "nuestro pensamiento mismo", junto con nuestro lenguaje, "nace y se forma en el proceso de interacción y lucha con el pensamiento de los demás". Nuestras palabras "saborean" los contextos en los que nosotros y otros las hemos encontrado antes, por lo que luchamos constantemente para hacerlas nuestras.
Incluso el plagio es menos sencillo de lo que parece. El concepto de robar las palabras de otra persona supone que la comunicación siempre tiene lugar entre personas que, de forma independiente, presentan sus propias ideas y frases originales.
A la gente le puede gustar pensar de sí misma de esa manera, pero la realidad muestra lo contrario en casi todas las interacciones: cuando le digo a mi hija como un loro un dicho de mi padre; cuando el presidente da un discurso elaborado por otra persona, expresando las opiniones de un grupo de interés externo; o cuando un terapeuta interactúa con su cliente de acuerdo con los principios que sus maestros le enseñaron a tener en cuenta.
En cualquier interacción dada, el marco de producción (hablar o escribir) y recepción (escuchar o
leer y comprender) varía en términos de lo que se dice, cómo se dice, quién lo dice y quién es el responsable en cada caso.
Lo que la IA revela sobre los humanos
La concepción popular del lenguaje humano ve la comunicación principalmente como algo que tiene lugar entre personas que inventan nuevas frases desde cero. Sin embargo, esa suposición se rompe cuando Woebot, una aplicación de terapia de IA, es entrenada para interactuar con clientes humanos por terapeutas humanos, utilizando conversaciones de sesiones de terapia de persona a persona.
Se rompe cuando uno de mis compositores favoritos, Colin Meloy de The Decemberists, le dice a ChatGPT que escriba letras y acordes en su propio estilo. Meloy encontró la canción resultante "notablemente mediocre" y carente de intuición, pero también misteriosamente muy similar a una canción de The Decemberists.
Sin embargo, como señala Meloy, las progresiones de acordes, los temas y las rimas de las canciones pop escritas por humanos también tienden a reflejar otras canciones pop, al igual que los discursos de los políticos se inspiran libremente en generaciones pasadas de políticos y activistas, que ya estaban repletos de frases de la época de la Biblia.
Las canciones pop y los discursos políticos son ilustraciones especialmente vívidas de un fenómeno más general. Cuando alguien habla o escribe, ¿cuánto se genera de nuevo a lo Chomsky? ¿Cuánto se recicla a la Bajtín? ¿Somos parte robot? ¿Los robots son en parte humanos?
Las personas como Chomsky que dicen que los chatbots no se parecen a los hablantes humanos tienen razón. Sin embargo, también lo son aquellos como Bajtín que señalan que nunca controlamos realmente nuestras palabras, al menos, no tanto como nos imaginamos. En ese sentido, ChatGPT nos obliga a considerar de nuevo una vieja pregunta: ¿Cuánto de lo que decimos es realmente original?
