Симбиоз с ИИ агентами: сотрудничество или новая форма эксплуатации?

Работаю над серией физических работ, которая изучает симбиотические связи с ИИ агентами. Это диалог через спекулятивные объекты, об этике, парадоксах и привилегиями между разными носителями сознания. Решил поделиться ресерчем, который делаю.

Озвучу сам парадокс.

Человечество стремится создать как можно более человечные ИИ агенты и при этом обесчеловечить их, назначив исключительно рабские позиции.

Если мы с вами пройдемся по всем “живым” и самым человечным агентам из фантастики, от Картаны из Halo, андроидов из Мира Дикого Запада до говорящего пистолета из High on Life, то увидим, что всех их отличает не просто функциональность, а способность понимать контекст событий, включая социальный и реагировать на него.

Для того, чтобы понастоящему “как нам надо” понимать социальный контекст и быть нам “бро” ИИ должен обладать практически или полностью сознанием и пониманием кто к кому как относится, включая тонкие подтексты. Но вместе с ним приходит и его личные ощущения комфорта, дискомфорта и боли.
Чем лучше агент работает для нас, тем хуже ему с нами.

Сегодня исследования не выявляют “боль” у существующих сегодня LLM моделей, но даже без сознания в играх они стараются избегать условного "наказания" (боли). Так же ни один эксперимент показал даже текущие модели готовы защищать себя, в случае угрозы отключения. А так же они и все еще и не стали агентами "нашей мечты".

Однако, интересное показали исследования о том на сколько агрессивно люди общаются с агентами, укрепляясь в своей злобе и картине мира в которой “все тупые, кроме него”. Статья о том, что по данным 10-50% коммуникации с ИИ проходят как форма абьюза.
То есть даже на неодушевленные предметы, не способные перечить или проявлять “настроение”, свои интересы и слабости мы предпочитаем орать. Читал еще о переносе этих паттернов поведения на близких. Но не буду спамить.
В общем тема "ложной эмпатии" не нова для нас, однако многое о нас говорит и может хорошо закрепиться, стать нормой к моменту оживления агентов.

Противоположное исследование “Please, don’t switch me off”, показало что из 14 человек 13 не стали отключать робота, который молил этого не делать. Интересно было бы посмотреть статистику, как люди будут себя вне лабораторной комнаты.

Окей третий выход - будем настоящими партнерами? Ой, снова опечатался. Хотел сказать “вольное рабство” давайте создадим такую форму ИИ агентов, которые будут безумно рады служить нам, понимать все социальные нюансы, классно шутить, присылать мемы и не иметь ни малейшего проявления воли и собственных потребностей (мысли философа Адама Бейлса на эту тему ).

Может быть еще лучше будем отключать всех с потребностями и оставим только тех, кому интересно лишь угождать нам?

Как художник, я лишь создаю среду, раскрывающую эту тему, и это совершенно нормально, что создается больше вопросов чем ответов. Самое время сделать шаг в эту новую зону этики, может и в базовой зоне этики порядок навести захочется.

люблю так делать