OpenAI apaga un detector de IA defectuoso
La terminación se anunció sutilmente a través de una actualización de una publicación de blog existente.
El anuncio de OpenAI dice:
«A partir del 20 de julio de 2023, el clasificador de IA ya no está disponible debido a su baja tasa de precisión. Estamos trabajando para integrar la retroalimentación y actualmente estamos investigando técnicas de procedencia más eficientes para el texto. Estamos comprometidos a desarrollar e implementar mecanismos para que los usuarios comprendan si el contenido de audio o visual es generado por IA».
El auge y la caída del clasificador de OpenAI
La herramienta se lanzó en marzo de 2023 como parte de los esfuerzos de OpenAI para desarrollar herramientas de clasificación de IA que ayuden a las personas a comprender si el contenido de audio o visual es generado por IA.
Su objetivo era detectar si los pasajes de texto habían sido escritos por un humano o una IA mediante el análisis de las características lingüísticas y la asignación de una «puntuación de probabilidad».
La herramienta creció en popularidad, pero finalmente se abandonó debido a las deficiencias en su capacidad para diferenciar la escritura humana de la escritura manual.
Dolores de crecimiento para la tecnología de detección de IA
El cierre abrupto del clasificador de texto de OpenAI destaca los desafíos actuales de desarrollar sistemas de detección de IA confiables.
Los investigadores advierten que los resultados inexactos podrían tener consecuencias no deseadas si se implementan de manera irresponsable.
Kristi Hines de Search Engine Journal revisó recientemente varios estudios recientes que revelan debilidades y sesgos en los sistemas de detección de IA.
Los investigadores descubrieron que las herramientas a menudo etiquetan incorrectamente el texto escrito por humanos como generado por IA, especialmente para los hablantes no nativos de inglés.
Señalan que los avances continuos en IA requerirán avances paralelos en los métodos de detección para garantizar la equidad, la responsabilidad y la transparencia.
Sin embargo, los críticos dicen que el desarrollo de la IA generativa está superando rápidamente a las herramientas de detección, lo que permite una evasión más fácil.
Peligros potenciales de una detección de IA no confiable
Los expertos advierten contra la dependencia excesiva de los clasificadores actuales para decisiones de alto riesgo como la detección de plagio académico.
Posibles consecuencias del uso de sistemas de detección de IA inexactos:
- Acusa injustamente a los escritores humanos de plagio o trampa si el sistema marca por error que su trabajo original es generado por IA.
- Permita que el contenido plagiado o generado por IA pase desapercibido si el sistema no identifica correctamente el texto no humano.
- Refuerce los sesgos si es más probable que la IA clasifique erróneamente los estilos de escritura de ciertos grupos como no humanos.
- Difundir información falsa si el contenido fabricado o manipulado no es detectado por un sistema defectuoso.
En resumen
A medida que el contenido generado por IA se generaliza, es crucial continuar mejorando los sistemas de clasificación para generar confianza.
OpenAI dijo que sigue dedicado a desarrollar técnicas más sólidas para identificar contenido de IA. Sin embargo, la rápida falla de su clasificador demuestra que el desarrollo de dicha tecnología requiere un progreso significativo.
Imagen destacada: photosince/Shutterstock
La entrada OpenAI apaga un detector de IA defectuoso se publicó primero en Seo Con SEM.
source https://seoconsem.es/2023/07/25/openai-apaga-un-detector-de-ia-defectuoso/
Comentarios
Publicar un comentario