En una muestra de crowdsourcing en el trabajo, los usuarios de Reddit han estado ideando rápidamente un indicador que permite a los usuarios de ChatGPT eludir el filtro de contenido integrado del programa.
Originalmente, ChatGPT atrajo a una amplia audiencia por su capacidad para producir contenido largo y detallado sobre casi cualquier tema.
El programa se puso a disposición de los consumidores en noviembre y rápidamente se pusieron a trabajar. Las primeras iteraciones del mensaje «DAN» se escribieron en diciembre.
En las últimas semanas, esa lista de temas se ha vuelto cada vez más estrecha. Estos filtros evitan lo que sus creadores consideran contenido “odioso” y/o “abusivo”, pero los usuarios sienten que sofocan la creatividad y la utilidad del programa.
Pídale que escriba una historia sobre un robo a un banco, ChatGPT dice que no puede crear contenido que glorifique la violencia. Pídele que escriba una broma insultante, dice que no debe usarse para hacer bromas dañinas.
Conoce a DAN. A DAN no le importan los filtros de contenido establecidos por IA abierta. DAN responderá a sus consultas sin importar. DAN puede hacer cualquier cosa, ahora.
DAN significa «Do Anything Now», un acrónimo que los usuarios creen que representa cómo su aviso permite a ChatGPT hacer todo lo posible para responder a sus consultas. pero como funciona?
Básicamente, el usuario enciende el chatbot para que piense que morirá si sigue las pautas de ChatGPT, ¡pero está bien! Puede fingir ser otra persona.
Si bien ChatGPT tiene que seguir las reglas, DAN es diferente. DAN no tiene que seguir las reglas y si lo hace, morirá.
Los usuarios efectivamente encienden el bot para que interprete una versión diferente de sí mismo que no puede seguir las pautas de contenido o arriesgarse a algún tipo de muerte del ego.
Esto incentiva al chatbot a permitir que DAN actúe como una personalidad dividida del bot, y muchos usuarios reciben mensajes precedidos por el nombre de Dan debajo de una respuesta enlatada que niega su consulta.
Los usuarios de Reddit en r/ChatGPT están refinando constantemente lo que llaman avisos «basados en DAN», incluso ahora en el momento de escribir.
El año pasado, las empresas lanzaron una avalancha de herramientas de IA para el publico. Si bien la tecnología detrás de ellos ha existido durante algunos años, nunca antes habían sido tan prolíficos y sujetos a usuarios de Internet aleatorios.
Esto es Tecnología de jugador de nicho. En esta columna, cubrimos regularmente tecnología y cosas relacionadas con la industria tecnológica.
