Por estrategiaynegocios.net
La startup de investigación de inteligencia artificial OpenAI presentó una herramienta que está diseñada para determinar si el texto es generado por humanos o escrito por una computadora.
El lanzamiento se produce dos meses después de que OpenAI captara la atención del público cuando presentó ChatGPT , un chatbot que genera texto que parece haber sido escrito por una persona en respuesta a una indicación de la persona.
Las escuelas se apresuraron a limitar el uso de ChatGPT por temor a que el software pudiera perjudicar el aprendizaje. Sam Altman, director ejecutivo de OpenAI, dijo que la educación ha cambiado en el pasado después de que surgiera tecnología como las calculadoras, pero también dijo que podría haber formas en que la compañía ayude a los maestros a detectar textos escritos por IA.
La nueva herramienta de OpenAI puede cometer errores y es un trabajo en progreso, escribieron los empleados de la compañía Jan Hendrik Kirchner, Lama Ahmad, Scott Aaronson y Jan Leike en una publicación de blog , señalando que a OpenAI le gustaría recibir comentarios sobre el clasificador de padres y maestros, reportó CNBC.
“En nuestras evaluaciones sobre un ‘conjunto desafiante’ de textos en inglés, nuestro clasificador identifica correctamente el 26 % del texto escrito por IA (verdaderos positivos) como ‘probablemente escrito por IA’, mientras que incorrectamente etiqueta el texto escrito por humanos como 9 % escrito por IA del tiempo (falsos positivos)”, escribieron los empleados de OpenAI.
Este no es el primer intento de averiguar si el texto proviene de una máquina. El estudiante de la Universidad de Princeton, Edward Tian, anunció a principios de este mes una herramienta llamada GPTZero , señalando en el sitio web de la herramienta que estaba hecha para educadores. OpenAI mismo emitió un detector en 2019 junto con un modelo de lenguaje grande, o LLM, que es menos sofisticado que el núcleo de ChatGPT. La nueva versión está más preparada para manejar texto de sistemas de inteligencia artificial recientes, escribieron los empleados.
La nueva herramienta tiene limitantes: no es buena para analizar entradas que contengan menos de 1.000 caracteres, y OpenAI no recomienda usarla en otros idiomas además del inglés. Además, el texto de AI se puede actualizar ligeramente para evitar que el clasificador determine correctamente que no es principalmente el trabajo de un humano, escribieron los empleados.
Incluso en 2019, OpenAI dejó en claro que identificar texto sintético no es una tarea fácil. Tiene la intención de seguir persiguiendo el desafío.
“Nuestro trabajo sobre la detección de texto generado por IA continuará y esperamos compartir métodos mejorados en el futuro”, escribieron Hendrik Kirchner, Ahmad, Aaronson y Leike.
