Подумала по поводу этого и комментария, который мне оставили: "Если подделку можно отличить, то проблемы нет, потому что видно, что это подделка и все ок. Если подделку нельзя отличить, то почему она подделка? Чем она хуже? Если книги понимать как развлекательный продукт, то ИИ может его обеспечить получше многих людей".

Я думаю, это мировоззренческий вопрос, вопрос ценностей в жизни. Одной группе совершенно плевать, живой человек, на которого он подписался, или сгенерированный, т.к. он воспринимается как объект потребления - и все. Наплевать, сгенерированный текст или написанный, т.к. интересует, забавляет он человека или нет. Это подход рыночного потребителя, когда все воспринимается как набор товаров для развлечения, а также бизнес-подход, когда все воспринимается как инструмент. Скажем, среднему менеджеру неважно, кто нарисует героев, если техзадание будет выполнено. То есть объекты важны с точки зрения достижения цели (сделать проект, развлечься), важен лишь результат (продукт на витрине), а что за ним стоит - нет. Целая часть жизни игнорируется или опускается как неважная в ущерб восприятию всего как круговорота продуктов, что может приносить результаты в бизнесе, но уплощает человека в жизни. В этом мировоззрении в центре стоит Я-потребитель.

Другая группа воспринимает творчество и жизнь вообще как форму взаимодействия с другими людьми и передачи этого творческого заряда от одного к другому, т.е. как живую сеть. Они видят себя как часть мира, где у действий есть последствия, где они и их поступки - часть цепи, влияющей на мир. Творчество исторически воспринималось как передача внутреннего мира и/или идей человека. При таком восприятии искусственный контент, даже если он очень хорош, лишь отвлекает от главного - творчества других людей и связи с ними, познания другого человека. Это разрушает гармонию. Подлинность в этом случае важна как часть гармоничной жизни, а процесс, путь, внутренние изменения во время пути чаще важнее результата или часть результата. Реален человек или нет, важно потому, что они оценивают, как опыт человека преломился в искусстве. Им важно ощущать истинность переживания, это часть его глубины. В этом мировоззрении в центре стоит Я-создатель.

В случае с ИИ мы сталкиваемся с гуманистической проблемой, которую непонятно, как решать. ИИ это удобно. Бизнес будет внедрять ИИ везде. Однако внимание людей очень ограничено, и заполняя его синтетическими образами и историями (даже полностью неотличимыми и, возможно, чудесными), ты оставляешь реальных людей на обочине. Тебя успешно соблазняют пренебрегать. Люди остаются неуслышанными за счет паразитирования бигтеха на переработанном творчестве предыдущих поколений людей. Например, музыкант не будет услышан, т.к. все завалено генерациями, а молодой художник будет демотивирован бесконечными фарфоровыми лоли. Они лишили какого-то человека возможности передать свои эмоции, части своего мира, наладить связи с другими людьми. Люди будут становиться все более и более несчастными и одинокими в окружении кучи пустых развлечений.

С точки зрения первых в этом проблем нет, ведь все люди - это продавцы, которые должны просто торговать другим, если один товар не заходит, чтобы потом из его потребления ИИ тоже сделали товар. А плохой человекотовар просто выбрасывается. С точки зрения вторых, это ухудшение жизни, потому что у людей остается меньше возможностей самовыражаться из-за замены сборкой, связи обрываются, даже если потребность в контенте как заполнителе времени удовлетворена. В общем, последствия будут хорошо видны с прошествием лет - как люди адаптируются, что будет происходить. Возможно, творчество принудительно приобретет иные формы. Пока вижу большие проблемы для творческого взаимодействия людей между собой, замыкание на своих интересах и общую дегуманизацию.