Los personajes de juego impulsados por la IA de Nvidia se están volviendo tóxicos
Nvidia ACE, la herramienta destinada a transformar juegos con IA generativa, está evolucionando, y Nvidia acaba de revelar una interesante actualización de la misma. Resulta que los desarrolladores no solo podrán utilizar ACE para crear personajes totalmente interactivos, completos con diálogos y expresiones faciales, sino que también podrán usar la nueva tecnología NeMo SteerLM de Nvidia para adaptar las personalidades de estos personajes.
Nvidia anunció inicialmente su herramienta ACE a principios de este año, manteniendo los detalles bastante escasos. ACE es algo así como ChatGPT para juegos, destinado a facilitar a los desarrolladores de juegos la creación de personajes con historias de fondo completamente desarrolladas, agregando más profundidad a la forma en que interactúan con los jugadores.
Usando esta tecnología, los jugadores pueden usar entradas de voz para interactuar con personajes no jugadores (NPC) en el juego. Riva speech-to-text luego traduce su voz en una entrada de texto y la alimenta a la IA. Se alimenta en un modelo de lenguaje grande (LLM), que genera una respuesta, y Nvidia utiliza algunas herramientas de inteligencia artificial más para convertir la respuesta de nuevo en voz y animar al personaje.
Entre la interacción del jugador y la respuesta de los NPC, hay un camino bastante elaborado, y Nvidia acaba de agregar una capa adicional de complejidad al incluir el nuevo NeMo SteerLM.
Nvidia presenta NeMo SteerLM como algunos conmutadores que deberían simplificar el ajuste del comportamiento de un personaje. Las tres opciones que hemos visto hasta ahora son «Creatividad», «Humor» y «Toxicidad». Si bien la mayoría de los jugadores, o al menos aquellos que juegan en línea, ya están acostumbrados a comportamientos tóxicos, es interesante verlo como una opción para lo que es esencialmente un chatbot de IA con pasos adicionales.
Antes de la adición de NeMo SteerLM, la IA prepararía una respuesta personalizada para responder a la consulta del jugador. Luego volvería a través de Riva para texto a voz y, por último, Nvidia Omniverse para que las expresiones faciales coincidieran con el discurso. Ahora, sin embargo, antes de que la IA genere una respuesta, NeMo SteerLM intervendrá con algunos atributos para determinar qué tan útil, divertido o peculiar será el NPC en sus interacciones.
Amplificar estos tres rasgos podría traer resultados hilarantes, pero igualmente, es fácil imaginar que la IA se descarrile por completo, al igual que esa vez cuando Bing Chat nos dijo que quería ser humano.
Para combatir la posible locura de la IA, Nvidia ha lanzado la herramienta NeMo Guardrails para que los desarrolladores puedan bloquear tales comportamientos locos y evitar que los jugadores intenten lograr resultados no deseados. Ahora, el camino entre el jugador y la IA se ha expandido para incluir otra herramienta. Estoy deseando ver esta característica implementada en los juegos. Algo me dice que a pesar de todos los mejores esfuerzos por parte de Nvidia, los primeros días de ACE en los juegos no serán tan armoniosos como uno podría esperar.
