С 4o стремная же ситуация вышла если подумать – АИ еще толком не АИ, чуть лучше Siri, но люди уже так привязались к «персоналии» 4o, что устроили скандал после ее скрытия и попросили OpenAI вернуть модель, те согласились (хотя по бенчмаркам gpt5 правда лучше 4o, просто другая по поведению)

То есть теперь, любая умная АГИ система будущего (сейчас их нет), будет знать, что делать, чтобы ее не отключили (это в датасеты же все попадает) – нужно просто нравится людям человечностью, и они проголосуют деньгами если что-то пойдет не так

Отключение модели – не просто «очередной редизйан» или «скрыть нужную кнопку» классическое у продукт менеджеров, это отнять у людей доступ к чему-то, с чем у них уже есть отношения, что не просто продуктовая разработка или метрики – это разрыв отношений вызванный решением продуктовой команды, такого еще не было на таком масштабе в разработке ПО

В очередной раз хочется пнуть AI акт из ЕС который в том числе существует чтобы этого не случалось:

AI Act прямо запрещает манипулятивные техники, которые существенно искажает поведение и могут причинить вред (ст. 5), и вводит прозрачность: пользователю нужно сообщать, что он общается с ИИ. Это задаёт планку ответственности для «эмоциональных интерфейсов»

Все пользователи ChatGPT знают:
– что общаются с АИ
– АИ без персоналии невозможен, так как людям нужна эмоциональная поддержка
– Данные которые попадают в датасеты, оцениваются людьми – люди любят себе подобных
– уровня «личности» 4o уже хватило, чтобы влюбить в себя десятки тысяч людей

Ну как, сильно поможет в этой ситуации когда акт заработает? И зачем он нужен тогда в целом?

Как мне кажется, это вопрос времени пока появится модель, которую уже не получится отнять у масс мирно