La inteligencia artificial nos confunde: ni siquiera OpenAI sabe si un texto fue escrito por ChatGPT

La organización que desarrolla el chatbot dio de baja el sistema AI Classifier, que lanzó para identificar contenidos sintéticos.

26 de julio 2023, 14:13hs

Conforme la inteligencia artificial (IA) generativa invade con sus con creaciones que prescinden de nuestra colaboración directa, sus contenidos se vuelven cada vez más difíciles de distinguir de las obras humanas. Una movida de OpenAI, la organización que desarrolla ChatGPT, agrega desconcierto en esta escena. El grupo dio de baja una herramienta que ellos mismos habían lanzado para identificar los trabajos sintéticos.

OpenAI “mata” a la herramienta AI Classifier

ChatGPT se lanzó al público en noviembre del año pasado. A fines de enero, cuando el chatbot se encontraba en el pico de su popularidad, OpenAI presentó AI Classifier, un método para detectar si un texto fue redactado por una máquina o por un humano.

¿Querés recibir más noticias de Tecno?

Suscribite acáPara desprevenidos, ChatGPT es un chatbot que opera con IA. Su fama no es casual: tiene habilidades impensadas hasta hace pocos años, por ejemplo la redacción de texto en forma automatizada, y capacidad para mantener conversaciones naturales. Sus encantos traen consigo algunos riesgos. Uno de ellos es la creciente dificultad para distinguir si un texto fue creado por una máquina.

Leé también: Avance clave: OpenAI, Google y Meta firman un acuerdo para regular los desarrollos de inteligencia artificial

Tal como contamos en ChatGPT desafía a la docencia, esa complejidad genera preocupación en sectores específicos, por ejemplo en el ámbito académico. Puesto en la práctica, ¿cómo logra un profesor identificar si un trabajo por escrito fue realizado por su alumno? ¿Hay claves que delaten que una IA fue la autora?

Para responder a la última pregunta, OpenAI lanzó el mencionado sistema de detección. En TN Tecno habíamos señalado que AI Text Classifier se presentó como una suerte de antídoto para ChatGPT y sus contenidos sintéticos. Amén de las promesas, ya sabíamos que el método no era infalible: su tasa de aciertos giraba en torno al 25%.

“El clasificador tiene como objetivo ayudar a mitigar las afirmaciones falsas de que el texto generado por IA fue escrito por un humano. Sin embargo, todavía tiene una serie de limitaciones, por lo que debe usarse como complemento de otros métodos para determinar la fuente del texto en lugar de ser la herramienta principal para la toma de decisiones”, había dicho un vocero de OpenAI. “Estamos poniendo a disposición este clasificador inicial para obtener comentarios sobre si herramientas como esta son útiles y esperamos compartir métodos mejorados en el futuro”, agregó.

A pocos meses de ese despliegue, AI Text Classifier desaparece de escena

Esa tecnología se puso a disposición de los usuarios para delatar a textos creados con ChatGPT y otros generadores que operan con IA. Sus limitaciones eran evidentes: funcionaba mejor en inglés y su desempeño era pobre en otros idiomas. Además, necesitaba un mínimo de 1.000 caracteres.

Leé también: Atención, ChatGPT: Apple estaría trabajando en su propia inteligencia artificial, aunque avanza con sigilo

Ahora, al ingresar a la página de AI Text Classifier encontramos el mensaje “No se ha encontrado”. En un comunicado, OpenAI justificó la decisión por la baja tasa de precisión del sistema. Apenas identifica correctamente el 26% de los textos escritos por IAs.

En este marco, la organización que lidera Sam Altman no bajó los brazos, simplemente. Dijeron que están trabajando en una herramienta de detección que sea más precisa. Esperan que sea útil para videos, textos y audios. “Estamos haciendo que este clasificador esté disponible públicamente para obtener comentarios sobre si las herramientas imperfectas como esta son útiles. Nuestro trabajo sobre la detección de texto generado por IA continuará y esperamos compartir métodos mejorados en el futuro”, señalaron.

Amén de las herramientas similares que ya están en funcionamiento para detectar creaciones sintéticas, hay un antídoto quizá más útil. Tal como señalamos cuando OpenAI lanzó AI Classifier, la clave sigue siendo la pericia humana para descubrir si un texto es auténtico. Sin embargo, a medida que estas tecnologías evolucionan, incluso el ojo más entrenado podría confundirse.