El experimento fue un juego centrado en un algoritmo de escritura de texto de OpenAI, que creaba mediante Inteligencia Artificial juegos de rol, pero se tornó en algo obscuro cuando los jugadores comenzaron con juegos de rol de historias peligrosas.
El juego «AI Dungeon» genera a los jugadores una aventura improvisada que se adapta según lo que los jugadores determinen.
Un nuevo sistema de monitoreo que implemento la startup creadora del juego Latitude, reveló que algunos jugadores estaban escribiendo palabras que hicieron que el juego generara historias que mostraban encuentros sexuales con niños.
OpenAI le pidió a Latitude que tomara medidas inmediatas. «Las decisiones de moderación de contenido son difíciles en algunos casos, pero no en este», dijo el director ejecutivo de OpenAI, Sam Altman, en un comunicado. «Este no es el futuro de la IA que todos queremos», que algunos jugadores usen la narración para campañas de juegos de rol que involucraban el abuso sexual a menores.
Esto da una advertencia y demuestra lo complicado que es tener el control sobre los sistemas avanzados de Inteligencia Artificial, entre ellos el Aprendizaje Automático que representa un desafío tanto legal como de moderación del contenido.
