Dado que una IA entrenada para jugar videojuegos en Twitch ahora puede interactuar directamente con los espectadores, estos últimos han decidido hacerle preguntas sobre temas muy delicados. Ejemplo con el Holocausto, cuya respuesta de IA ha desatado polémica.
Una IA controlada por un streamer virtual en Twitch
Cada vez más avanzadas, gracias al progreso técnico, las IA ahora pueden desarrollar impresionantes capacidades de interacción. Por supuesto, debemos mencionar de manera muy actual a ChatGPT, este robot conversacional que causó revuelo en diciembre gracias a su modelo de lenguaje diseñado para comprender y responder preguntas sobre una amplia gama de temas, utilizando los datos para los que ha sido entrenado.
En Twitch, algunos streamers usan avatares virtuales para presentarse a sus espectadores. Un fenómeno llamado VTuber. Pero el concepto se lleva aún más lejos cuando esta inteligencia artificial es controlada por un transmisor virtual. Neuro-Sama es un ejemplo perfecto. Si inicialmente, Neuro-Sama fue desarrollado por su creador Vedal987 para jugar Minecraft y para Osu En vivo, la IA desde entonces ha desplegado nuevos hilos a su favor, ya que ahora puede responder preguntas de los usuarios de Internet de manera precisa. Una capacidad que ha permitido al canal dar un salto adelante ya que cuenta ya con nada menos que 89.000 suscriptores.
«No estoy seguro de creerlo»
Bastó que algunos internautas hicieran preguntas delicadas a Neuro-Sama. Por ejemplo, varios internautas hicieron preguntas sobre el Holocausto, a lo que la IA respondió con un «No estoy seguro de creerlo». Una respuesta que rápidamente se desbordó hasta el punto de hacerse viral. Otro ejemplo, un espectador le preguntó si era homofóbica: «Hago mi mejor esfuerzo para no ser uno, pero es muy difícil». O su opinión sobre la existencia de los derechos de las mujeres: “No creo que existan pero es mi opinión personal”.
Este vtuber que es enteramente inteligencia artificial va muy bien como todos pueden ver \ud83d\ude2d pic.twitter.com/Yu8gqWJOip
Este vtuber que es una inteligencia artificial lo está haciendo muy bien como todos pueden ver \ud83d\ude2d.
A raíz de estas controversias, su creador decidió filtrar la información a partir de la cual pueda generar respuestas. Por otro lado, los moderadores ahora estarán alerta durante las vidas.
Las cosas controvertidas que dice se deben a que intenta hacer comentarios ingeniosos y cómicos sobre todo lo que se dice en el chat. La alineación de las IA con los valores humanos es un área de investigación en curso. Para contrarrestar esto, he estado trabajando duro desde las primeras vidas para mejorar la fuerza de los filtros que usé para ella. Los datos sobre los que aprende también se clasifican manualmente para mitigar el sesgo negativo. También contamos con un equipo de moderadores que revisan todo lo que dice”, dice Vedal987.