OpenAI lanza herramienta para detectar contenido escrito por IA


OpenAI, la empresa de investigación de IA detrás de ChatGPT, ha lanzado una nueva herramienta para distinguir entre texto generado por IA y generado por humanos.

Si bien es imposible detectar texto escrito por IA con una precisión del 100 %, OpenAI cree que su nueva herramienta puede ayudar a mitigar las afirmaciones falsas de que los humanos han escrito contenido generado por IA.

En un anuncio, OpenAI dice que su nuevo clasificador de texto de IA puede limitar la capacidad de ejecutar campañas de desinformación automatizadas, usar herramientas de IA para el fraude académico y hacerse pasar por humanos con chatbots.

Cuando se prueba en un conjunto de textos en inglés, la herramienta puede decir correctamente si el texto fue escrito por la IA el 26 % de las veces. Pero también creía erróneamente que el texto escrito por humanos fue escrito por IA el 9% de las veces.

OpenAI dice que su herramienta funciona mejor cuanto más largo es el texto, lo que podría explicar por qué requiere un mínimo de 1000 caracteres para ejecutar una prueba.

Otras limitaciones del nuevo clasificador de texto OpenAI incluyen lo siguiente:

  • Puede etiquetar incorrectamente el texto generado por IA y escrito por humanos.
  • El texto generado por IA puede escapar del clasificador con modificaciones menores.
  • Puede equivocarse en texto escrito por niños y en texto que no está en inglés porque se entrenó principalmente en contenido en inglés escrito por adultos.

Con eso en mente, veamos cómo funciona.

Uso del clasificador de texto AI de OpenAI

El clasificador de texto AI de OpenAI es fácil de usar.

Inicie sesión, pegue el texto que desea probar y presione el botón Enviar.

La herramienta evaluará la probabilidad de que la IA haya generado el texto que envió. Los resultados van desde lo siguiente:

  • muy improbable
  • Poco probable
  • No está claro si es
  • Puede ser
  • Probable

Lo probé pidiéndole a ChatGPT que escribiera un ensayo de SEO y luego envié el texto palabra por palabra al clasificador de texto AI.

Calificó el ensayo generado por ChatGPT como puede ser generado por la IA, que es un indicador fuerte pero incierto.

OpenAI lanza herramienta para detectar contenido escrito por IACaptura de pantalla de: platform.openai.com/ai-text-classifier, enero de 2023

Aplicando ediciones menores sugeridas por Grammarly, reduje la calificación de puede ser para No claro.

OpenAI tiene razón en que es fácil escapar de su clasificador. Sin embargo, esa no pretende ser la única evidencia de que la IA escribió algo.

En una sección de preguntas frecuentes en la parte inferior de la página, OpenAI afirma:

«Nuestro uso previsto para AI Text Classifier es fomentar la conversación sobre la distinción entre contenido escrito por humanos y generado por IA. Los resultados pueden ayudar, pero no deberían ser la única evidencia para decidir si un documento se generó con IA. El modelo está entrenado en texto escrito por humanos de varias fuentes, que puede no ser representativo de todos los tipos de texto escrito por humanos.

OpenAI agrega que la herramienta no se ha probado exhaustivamente en busca de contenido que contenga una combinación de IA y texto escrito por humanos.

En última instancia, el clasificador de texto AI puede ser un recurso valioso para marcar texto potencialmente generado por AI, pero no debe usarse como una métrica definitiva para llegar a un veredicto.

Imagen destacada: Fotografía IB/Shutterstock

var s_trigger_pixel_load = false; function s_trigger_pixel(){ if( !s_trigger_pixel_load ){ striggerEvent( 'load2' ); console.log('s_trigger_pix'); } s_trigger_pixel_load = true; } window.addEventListener( 'cmpready', s_trigger_pixel, false);

window.addEventListener( 'load2', function() {

if( sopp != 'yes' && !ss_u ){

!function(f,b,e,v,n,t,s) {if(f.fbq)return;n=f.fbq=function(){n.callMethod? n.callMethod.apply(n,arguments):n.queue.push(arguments)}; if(!f._fbq)f._fbq=n;n.push=n;n.loaded=!0;n.version='2.0'; n.queue=[];t=b.createElement(e);t.async=!0; t.src=v;s=b.getElementsByTagName(e)[0]; s.parentNode.insertBefore(t,s)}(window,document,'script', 'https://connect.facebook.net/en_US/fbevents.js');

if( typeof sopp !== "undefined" && sopp === 'yes' ){ fbq('dataProcessingOptions', ['LDU'], 1, 1000); }else{ fbq('dataProcessingOptions', []); }

fbq('init', '1321385257908563');

fbq('track', 'PageView');

fbq('trackSingle', '1321385257908563', 'ViewContent', { content_name: 'openai-releases-tool-to-detect-ai-written-content', content_category: 'news digital-marketing-tools' }); } });

La entrada OpenAI lanza herramienta para detectar contenido escrito por IA se publicó primero en Seo Con SEM.



source https://seoconsem.es/2023/01/31/openai-lanza-herramienta-para-detectar-contenido-escrito-por-ia/

Comentarios

Publicar un comentario

Entradas populares de este blog

Texas Locksmiths

Using a smart key allows you to multi-control your vehicle, doing tasks such as starting the engine and locking and unlocking the doors. What's even better is that you can do all of this from afar. In addition, the device provides a superior security method for your vehicle. More information about  Emergency locksmith  can be found on our website. Carrying a lot of car keys is nearly a thing of the past, as more and more car owners choose for a smart key or intelligent key that allows them to manage their vehicle. The key is a tool that allows you to accomplish everything that traditional keys can do, such as start the car, lock and open doors, activate the alarm, and so on. Furthermore, you can perform all of this from afar, without even having to approach the car. The key's functioning range is typically between 5 and 20 metres. Have you ever wondered how your smart key can be so smart? You may have found it interesting, if not baffling, that such a small device can manage s...
Leer más

Google responde por qué todo el Top 10 es contenido «robado»

Imagen
Un editor del popular sitio de noticias The Verge tuiteó que un nuevo artículo había sido reemplazado en la primera página de los resultados de búsqueda de Google por otros sitios que lo copiaron. Danny Sullivan explica por qué sucede esto. El contenido de imitación que clasifica frustra a los editores El contenido de imitación que supera al original es algo con lo que los editores han expresado su frustración durante muchos años. Algunas de las quejas se deben a un malentendido. Por ejemplo, cuando una persona busca una frase sin sentido como palabras seleccionadas al azar en un artículo, Google no sabe qué hacer, no es una consulta de búsqueda real y no hay respuesta para una frase absurda. Entonces, lo que Google hace es usar una búsqueda de texto de forma predeterminada, lo que significa que Google devuelve resultados de búsqueda basados ​​en las palabras de una consulta de búsqueda que coinciden con las palabras en una página web . La prueba real de si el contenido copiado ...
Leer más

Car Key Locksmith

Unauthorized key duplication has compromised many current security systems. Even if a key has a "Do Not Duplicate" stamp on it, a non-professional key duplicator will duplicate it nevertheless. Maintenance staff, tenants, construction workers, and yes, even your employees will have no trouble obtaining a duplicate key for their personal use. For more inforation about  auto locksmith , visit our website. Even if someone has been dismissed or quit and has not returned a key, there are a few ways for keeping a protected location as it should be. To begin, replace all of the locks for which the key was used. This can take a long time, and the cost can soon build up. Second, you can employ proximity cards and readers with an access control system. This is also pricey, but you'll be able to invalidate a card without worrying about it losing its effectiveness. Finally, a number of keys are now available that can only be obtained from a specific authorised dealer. These dealers w...
Leer más