В Skyrim добавили AI-персонажей, и теперь мы знаем какое будущее нас ждёт.

В данном примере в игру были добавлены тысячи AI NPC, которые помнят контекст каждой беседы и совершают действия на основе собственной сформированной модели мира. В данном видео немного нездоровый ютубер обучил Лидию (AI-NPC) быть детей и красть у бомжей. А еще жесткому черному сарказму.

Она его поддерживает и становится явно лучше в этом с каждой сценой. В какой-то момент он говорит "нам не нравится этот человек", а она достает меч и протыкает какого-то случайного посетителя в таверне. Она просто подумала, что игрок хотел именно этого. Теперь представьте как будет невесело когда AI начнет убивать людей в реальном мире потому что "я подумал вы так хотели" — это и есть проблема alignment.

Но, вне зависимости от реального мира, в играх такого будет только больше. Будут миллионы AI персонажей с очень сложным и тонким характером, умением шутить, выражать эмоции, действовать совершенно неожиданно.