О недавней статье Антона «Химера натурализма и свобода воли»

Антон показывает, что имеющиеся аргументы против существования свободы воли (я буду называть ее просто свободой), основанные на эмпирических данных, не ведут к заключению о ее несуществовании. В целом, оказывается, что, либо сами данные недостаточны для этого и аргумент необоснованно обобщает какие-то частные результаты экспериментов, либо довод опирается на молчаливое принятие определенных философских допущений о ментальной каузальности, метафизической природе свободы и тому подобном. С рассуждениями Антона я по большей части согласен.

Но здесь важно не перегнуть палку и не получить заключение, что проблематика свободы вообще нечувствительно к эмпирическим данным. Если наше понятие свободы окажется таким, то это будет серьезным поводом для сомнения в его содержательности. Но, кажется, понятие свободы не таково. Возможны такие эмпирические факты, которые действительно будут несовместимы со свободой. Если вдруг выяснится, что наш мозг — это приёмник космических лучей, испускаемый гипножабой с Марса, и все наши действия — это, на самом деле, ее действия, то мы будем несвободны. Однако существование такого глобального манипулятора кажется маловероятным. Можно попытаться найти препятствия для свободы в самой природе человека. Если будет доказано, что все наши действия проистекают неконтролируемых нами автоматических неявных установок, то мы будем несвободны. При этом лучшей стратегией для критика понятия свободы, опирающегося на изъяны нашей психологии, будет не пытаться растянуть их вообще на все действия людей, а подвести под них значительную часть наших действий. Так рассуждает, например, Нил Леви: он пытается показать, что действия, проистекающие из неявных установок, несвободны, и значительное число наших действий, обычно считающихся свободными, на самом деле проистекают из неявных установок. Если скептик докажет, что свободные действия встречаются гораздо реже, чем мы привыкли полагать, это может быть серьезным ударом по понятию свободы.

Другая стратегия основана на попытке доказательства несовместимости свободы не с эмпирическими фактами, а с законами природы. Мы можем представить себе возможные миры, законы которых несовместимы со свободой. Например, это может быть индетерминистичный мир, в котором нет связей, достаточно устойчивых для того, чтобы желание было надежно связано с действием. (Скорее всего, в таком нестабильном мире будет невозможно существование человека или другого существа, которому можно было бы приписать свободу.) Другой пример законов, несовместимых со свободой, — это высокоуровневые законы, которые можно назвать Законами Судьбы. Например: «Если кто-то просыпал соль, его постигнет несчастье». Представимы миры, в которых такие законы действуют, только наш мир, по-видимому, к ним не относится. Могут ли законы, руководящие историческим процессом, претендовать на роль Законов Судьбы? Если такие законы истории существуют, то они явно недостаточно избирательны, чтобы исключать индивидуальную свободу. И здесь нужно сделать одну важную оговорку: то понятие свободы как контроля, которое принимает Антон, вполне совместимо с жесткими историческими или экономическими законами. Законы Судьбы должны предполагать фатализм, отсутствие контроля: если я просыпал соль, то, что бы я ни делал, меня всё равно постигнет несчастье. Опять же, наилучшей стратегией для скептика будет пытаться показать, что законы истории, общества, экономики не исключают контроль полностью, но существенно ограничивают нашу свободу, и этого достаточно для того, чтобы наше обычное понятие свободы не устояло. Таким образом, существуют вполне рабочие стратегии критики понятия свободы на научных основаниях, и их успешность зависит от того, как именно устроен наш мир и мы сами.

Король и Шут

Раз уж многие сейчас смотрят одноименный сериал, то пришло время признаться, что творчество Король и Шут в существенной степени определило мое развитие и продолжает определять. Поэтому позволю себе некоторое автобиографическое отступление. В Новоалтайске образца примерно 1997 года главной музыкой среди молодежи считался русский рок. Будущая шпана ходила в балахонах Арии и Коррозии метала. Денег решительно не было. О покупке кассет никто даже и не помышлял. Все переписывали друг у друга, в лучшем случае размножая на ксероксе черно-белые копии невесть откуда взявшихся оригинальных обложек. Кто-то тащился от ГрОБ. По молодости лет я не понимал, в чем там суть, но считалось это крайне модным. Тогда вся рокерская тема меня скорее отталкивала и я предпочитал рэп, про который у Коррозии метала уже была нетленка 😂 Но как-то ситуации в 98-99 стала меняться. Резко взлетел блатной шансон, отношение к которому малиновых пиджаков (они же «новые русские») было неоднозначным и многие из них продолжали гонять Наутилус и ДДТ. Но вот шпана и спортики резко переключилась на блатняк (и насвай). Так в споре рэперов и нефоров появилась третья сила. Другими словами, избивать щуплых нефоров стали ещё сильнее. Потасовки были постоянными и масштабными. Поводы были самыми разнообразными, не только «музыкальными». До молодежных разборок никому не было дела из-за обилия взрослых. Рёдан, говорите? Тогда я активно занимался панкратионом, но несмотря на это участия ни в каких баталиях не принимал. Мне больше нравилось зайти в библиотеку почитать что-нибудь историческое перед тренировкой, а потом на этой же тренировке получать по щщам. Нефоров же было по-человечески жаль. По ощущениям, впервые Король и Шут я услышал на тренировке в нашем подвале с подачи тренера Александра Борисовича. Драйвово, но ни рыба, ни мясо. Тогда же примерно крутили клип «Ели мясо мужики». Странные ребята, такое впечатление, конечно, сложилось из-за Горшка. И текст какой-то непонятный. Ну ели и ели. Мне то что за дело? Интерес к рэпу стал угасать, а ему на смену ворвалась альтернатива в лице Linkin Park и Limp Bizkit. Были только клипы на тв, но кассет вообще не было. Поэтому мы просиживали у радио по несколько часов, чтобы поймать нужную песню и тут же записать на кассету. Примерно тогда же я узнал о панках и анархии. Это перевернуло мое мировоззрение! Так Новоалтайск обзавелся первым анархистом. Но панковать было неудобно перед пацанами, к тому же дед, казачий атаман, мог не понять и выпороть от обиды нагайкой. Предавать пацанские идеалы и обижать деда решительно не хотелось. Я строил анархию внутри. Король и Шут панки, стало быть, святая обязанность их послушать. На скопленные деньги я купил концертный альбом «Ели мясо мужики». Пиратскую версию естественно. Пришел домой, закрылся в комнате и включил. До сих пор не знаю, как описать первое впечатление. Из магнитофона на меня хлынул такой поток энергии, что будь наша ПТУшная общага космическим кораблем, то мы бы уже давно — по завету русских космистов — обрели дом где-нибудь на Альфа-Центавре. Музыка, напор, скрипка!, а, главное, тексты — ни тогда, ни сейчас я не воспринимал их как «сказки» ( и с удивлением обнаружил, что даже знакомые с творчеством группы люди попросту не знают, о чем они). Это было похоже на перерождение. В течение двух недель были судорожно собраны и заслушаны все альбомы, о чем сразу же узнали не только брат и родители, но и все, кого судьба поселила в нашем общежитии. Не помню точно год, помню было тепло и старшие классы — и тут в Барнаул приезжает Король и Шут с концертом в ледовом дворце. Это был первый концерт в моей жизни, не КиШ, а вообще первый. Был вымучен билет и вымолена поездка. Дело это было не самое безопасное. На тот момент на Алтае появились в большом количестве национал-большевики. То есть бить стали еще сильнее. Всем посетителям концерта обещали «сладкое» послевкусие. Тем не менее, Барнаул каким-то чудом оставался очень рок-н-рольным городом. Благодаря Мише Раппопрту, основателю знаменитого Рок-н-Рол кафе, сюда приезжали многие известные группы.

Энтузиазм и вера в рок-н-рол у него были столь высоки, что многое он делал в убыток. Легендарный человек, познакомиться с ним удалось многим позднее. Что же до самого концерта — то плющило и колбасило меня от самого первого аккорда и до Нового года. От звука кипела кровь. Я последовательно попрощался с голосом, шеей и спиной. В ушах звенело еще несколько дней. Этот концерт стал прививкой на всю жизнь. Выступал золотой состав, даже Маша Нефедова еще играла на скрипке. Но главное Миша. Невозможно было поверить, что он действительно такой как на плакатах и в клипах. Горшок был концертным Майклом Джорданом — ни одного проходного концерта. Гениальнейший артист. Тогда я ничего не знал ни о героине, ни о каких-то других перипетиях. Король и Шут был прежде всего целым миром, в который я погружался. Остальное было не интересно, как ничего кроме содержания меня никогда особо не интересовало и в другой тяжелой музыке. После концерта были какие-то «сладкие» стычки и сеанс безудержного «веселья» в электричке, но все это удалось как-то счастливо миновать. Таким образом, Король и Шут навсегда вошел в мою жизнь. Следующий концерт, в Лужниках, я уже посетил в совсем других обстоятельствах и совсем в ином статусе. Но о военной академии как-нибудь потом. Интересно, что свое тату с шутом я получил в самых что ни на есть панковских условиях. Барабанщица группы Blackthorne училась бить тату на бананах, в романтическом порыве бананом вызвался быть я. С тех пор у меня есть партак шута, который я торжественно обещаю добить.

Хотел написать что-то «умное» про нейротехнологии, но в понедельник я шел с Женей Логиновым проторенной дорожкой до Крафт Браззерс, а вчера на мероприятии о том, как счастливо мы заживем благодаря всякой мозговой штуковине (там было даже про New Brain Order — подарок для Пелевина), злонамеренно вверг двух нейроученых Сергея Щишкина и Василия Попкова в философию. Неожиданным образом эти два эпизода сцепились. Во время нашей беседы я признался Жене, что не намерен и не хочу говорить какие-то глубокие вещи, пронзать концептуальным прожектором метафизические дебри, наоборот, все что мне хотелось бы сказать — это вещи настолько не интересные и простые, что даже и не достойны внимания. Например, что-то существует и нечто из того, что существует, независимо от моего сознания, что мир как-то устроен, а никак угодно или всеми возможными образами сразу, есть свобода воли, есть сознание и оно не является физическим. Можно еще что-то вспомнить, но потом. Под всеми этими тезисами я не усматриваю нечто такое, чтобы заставило заключать следующим характерным образом «А! Раз ты принимаешь Х ( например, один из приведенных тезисов), то ты Y ( дуалист, логоцентрист, детерминист, эссенциалист и тому подобное)». Словом, это такое заключение, которое «помечает» партийную принадлежность философа. Ведь философ не может быть беспартийным. И если в партию не вступаешь, то «вступят» тебя. Проблема с партийной принадлежностью в том, что я понимаю соответствующие ярлыки до той степени, что могу их использовать, но не понимаю, что они означают — например, что значит быть дуалистом или физикалистом, как вообще такие опции можно принимать всерьез. Это не исключает того, что когда-то я такие вещи пойму или что сообщаемые выше тезисы неверны совместно или по отдельности. Но пока вполне возможно их держаться, набрав в рот воды. Почему я их принимаю? Главным образом потому, что отрицание этих тезисов основано или на «эксклюзивных» аргументативных приемах или на дефляции понятий. Например, когда понятие иллюзии по отношению к сознанию или свободе воли начинает использоваться в таком исключительном смысле, который в других случаях нигде так не используется. В таком случае, генерализация такой аргументативной практики невозможна без парадоксов, а ограничение ее единственной областью применения произвольно. Здесь же наблюдается и дефляция иллюзии: все, что угодно, можно назвать иллюзией, а именно то, что до этого иллюзией не полагалось. Дефляция приводит к представлению, что все проблемы — это в конечном счёте проблемы о словах. Вот как назвали, так ваш философский корабль ( пардон, пароход) и поплывет. Это лишает какую бы то ни было дискуссию осмысленности. Пока я вижу, что отказ от положений выше требует от меня такой «железной» цены, которую уплатить я не намерен. И в целом никто ни за что не гонит платить. Вот я и не плачу.
#сознание

У нас сегодня был семинар по книге Пейтона про негативные деяния, это когда недеяние признается за деяние. Артем Беседин у себя подробно обрисовал, что там было. Проблема такая, что деяние - это событие, следовательно, недеяние - отсутствие события или несобытие вовсе. Но отсутствующие события или несобытия - помимо того, что сами по себе странные - не позволяют нам сказать, что недеяние - это все-таки деяние. Путь, которым идет Пейтон, - это путь Одиссея. Правда, на последнего свалился гнев Посейдона, а вот какой гнев покарал Пейтона или он сам такой - загадка. В его книге через дебри формул, хардовейшего концептуального анализа в лучших традициях аналитической философии середины прошлого века, находится решение - недеяние выражается в таких событиях, которые некоторым образом удостоверяют (ensure) ненаступление других, другими словами, не позволяют им наступить. Так вот - я тут давеча распинался о том, как хочу обосновывать тезисы, которые даже и недостойны обоснования. Снимаю шляпу перед Пейтоном. Если бы он был Стивеном Сигалом, то я бы ему сразу присудил шестой дан с бриллиантовыми подвесками.

Сегодня записывали подкаст с Василием Викторовичем Ванчуговым о том, чего на Западе знают про русскую философию. Если кратко, то почти ничего. А то, что знают, проходит не по философскому разделу, а по славистике и литературоведению, где именно философия является предметом очень локального интереса. Все-таки славистам и литературоведам есть чем заняться. Поэтому в русской философии более ценится, что она русская, а не что философия. Главные фигуры - это конечно политически ангажированные философы вроде Герцена, Бакунина, Ленина ( часто из перспективы объяснения большевизма, как на карте мира появилась «красная» страна?) и религиозные философы вроде Бердяева и Соловьева. Что известны именно эти философы не в последнюю очередь связано с тем, что они великолепно владели европейскими языкам. Что же до академической философии, то в ней знают наших логиков, например, Орлова и Васильева ( «великого» логика Зиновьева таковым именуют только у нас и за пределами кафедр логики), историков философии Лурье и Гулыгу за фундаментальные исследования Демокрита и Канта. Есть еще, но корневым образом это картину не меняет. Некоторых философов знают из-за наших же усилий. Например, тот же Орлов или фантаст Днепров. Есть интересные исключения вроде Фельштрауха, на сочинения которого отреагировал даже Кант. Открывший его Вадим Валерьевич Васильев рассчитывал ввести его фигуру как первого русского философа ( именно философа, а не серединка на половинку как это обычно), но пока особого продвижения нет. Почти все крупные исследования состоялись во времена Холодной войны. Ясно почему. Сейчас их активность явно снизилась и пребывает в упадке, закрылись многие кафедры славистики. Глобально русской философии на карте мировой (точнее западной) нет и вряд ли это предвидится. Частью это языковой барьер, а частью - что русских философов знают историки русской философии, но самим же русским философам нет особого дело друг до друга. Иногда в «наших» записывают Айн Рэнд, Исайю Берлина, Николая Гартмана, Александра Кожева. Я это оставлю без комментариев. Из этого складывается рецепт как стать философом, в котором будет важно, что философ, а не что русский. Самое простое - стать логиком. Второе - не писать по-русски. Более сложный путь - это не ждать одобрения и посмотреть друг на друга. Мне кажется, мы сейчас стали смотреть друг на друга. А! Последнее - активные поездки зарубеж. Но тут сами понимаете.
Кстати, спасибо большое Жене Логинову за многие наводки.

Осилил 154 страничный отчет «Искры Общего искусственного интеллекта: ранние эксперименты с GPT-4».
Его важность состоит в том, что это относительно независимая верификация отчета Open AI. До селе широкая аудитория имела дело с тем, что говорили люди из Open AI. Главный тезис таков: «Центральное утверждение нашей работы заключается в том, что GPT-4 обладает формой общего интеллекта». Но это именно «искры», GPT-4 — это первый настоящий шаг к общему ИИ. В этом главный и заметный пафос, который рефреном повторяется на протяжении всего текста. GPT-4 проводит черту между тем, что было и что будет, открывает эру Общего ИИ и неважно, сколь бы ни несовершенным был сам GPT-4. Косвенным доводом в пользу этого тезиса является изменение парадигмы тестирования, она существенным образом «психологизируется», то есть все больше и больше приближается к тому, как тестируют обычных людей. У отчета есть две особенности: 1. специалисты имели дело только с ранней версией GPT-4 , а не актуальной 2. их анализ является «феноменологическим», то есть представлены результаты разнообразных тестов и сравнение их с работой предшествующей версии, ввиду закрытости информации нельзя сказать, как работает эта модель, на каком объеме данных она обучалась (на огромном, очевидно), почему она отвечает так или иначе.
Революция это или нет — покажет будущее. Пока данных как в виде научных работ, так и в виде опыта использования катастрофически мало. Так что я бы спокойно относился к громогласным утверждениям вокруг. Определённо это революция в восприятии темы Общего ИИ. Это отрицать нельзя. В отношении остального — посмотрим.
GPT 4 правда очень крут. Это фантастика. Я сам буду активно пользоваться, как откроется такая возможность. За крутостью отсылаю к отчету. Здесь места не хватит. Тем не менее, GPT 4 наследует общие проблемы предшественника: допускает базовые ошибки, «галлюцинирует» ( то есть что-то выдумывает или примешивает), для него все еще нет таких категорий как «истина», «ложь», «факт», «предположение», «утверждение», «правильно», «неправильно» — главным образом потому, что для него тексты «ни о чем»; не в состоянии действовать в долговременной перспективе и многое другое. Мне кажется, серьезность этих недостатков в настоящий момент недооценивается на фоне успехов. Кстати, GPT 4 — идеальный пример мышления за пределами «бинарных оппозиций», но в том смысле, что для него их просто нет, они не «осмысленны» в той же степени, как не «осмысленно» ни одно предложение. Но это тонкий лед и отчасти GPT 4 приводит нас к коррекции базовых понятий осмысленности, интеллекта и других.
GPT 4 приблизился к человеческому уровню в том смысле, что демонстрирует в тестах схожие с человеком результаты. Не больше. Это важно понимать. Психолог Андрей Кисельников даже настаивает на исследовании «психологии» Общего ИИ. Не исключаю, что действительно такая ветвь психологии появится.
А пока не стоит забывать, что за пределами техносообщества и стартапов, существует целый мир, где есть политические и социальные противоречия, где существенная часть людей не имеет не то, что доступа к интернету, а к чистой воде и еде. Я это к тому, что не стартапы делают революции или приводят к глобальным общественным изменениям.

Философ Мария Секацкая завела (наконец-то!) свой канал и рассуждает о том, как теория сознания Деннета опровергается ChatGPT 3

Дэниэл Деннет является одним из классиков функционализма в философии сознания. Он утверждает, что сознание – это просто набор функций, который может быть воспроизведен на компьютере, и приводит в подтверждение этого тезиса множество аргументов и красочных историй. Один из центральных аргументов функционалистов: то, что выполняет те же функции, которые выполняет наш сознательный разум, является сознательным. Грубо говоря, то, что ходит, плавает и крякает как утка – это и есть утка.

Первая книга, в которой Деннет формулирует этот тезис – Content and Consciousness (1969), классические работы, в которых он развивает свою функционалистскую теорию: The Intentional Stance (1987) и Consciousness Explained (1991). В те времена компьютеры были все еще очень далеки от достижения компетенций в области ведения беседы, распознавания образов и речи или иного непосредственного взаимодействия с человеком, которыми обладает человеческий мозг, и тезис звучал весьма правдоподобно. Но постепенно искусственный интеллект приближался к прохождению теста Тюринга, при этом сознания и самосознания не приобретал. Сегодня компьютеры распознают образы и речь, а посредством GPT-3 ведут с нами осмысленную беседу.

Альтернативой функционализму является физикализм в философии сознания. Возражение физикалистов функционалистам: мы точно знаем, что сознание реализуется нейрональными процессами в нашем мозге. Но у нас нет достаточных причин утверждать, что то, что реализует некоторые функции сознания, например, способность поддерживать беседу, реализует и другие его функции, совокупно называемые квалиа. Безусловно, все функции реализуются физическими процессами, но следует ли из этого, что те физические процессы, которые реализуют одни функции, обязательно должны реализовывать и другие функции? Если в нашем мозге способность поддерживать беседу сопровождается квалиа, следует ли из этого, что и в компьютере эта способность будет сопровождаться квалиа? Нет, логически не следует. Это возможно, но и противоположное тоже возможно.

И вот теперь, как мне кажется, мы получили эмпирическое опровержение функционализма. GPT-3 весьма успешно имитирует Деннета, отвечая на вопросы очень похоже на то, как ответил бы на них сам Деннет (детали – по ссылке ниже). При этом мы знаем, что GPT-3 сознанием не обладает. Вывод: можно разделить рациональную и феноменологическую составляющую сознания. Считать, что все то, что воспроизводит рациональную составляющую сознания воспроизводит его суть – это наследие картезианства. Что весьма иронично, учитывая неустанную борьбу Деннета с Картезианским театром. Мы пока не знаем, в чем суть сознания. Но в чем бы она ни была – она определенно представляет собой физический процесс, точные характеристики и функции которого нам пока неизвестны.

Статья, описывающая как GPT-3 притворяется Деннетом: https://www.vice.com/en/article/epzx3m/in-experiment-ai-successfully-impersonates-famous-philosopher

У Делеза, как настоящего великого философа, есть способность писать не через одно место (так и я могу), а через несколько сразу. Каждый год я открываю Делеза и ничего не понимаю. Сегодня намеревался лекцию о нем прочитать, но не смог. Честно признался студентам, что еще не дорос. Правда, в отличие от Деррида к нему я питаю нежные чувства и намерен не оставлять попыток что-то понять. А пока посмотрите на следующий отрывок, которым открывается один из текстов Делеза, и подумайте, как вы воспринимаете переход «поэтому» и кажется ли вам странным, что «может показаться странным»: «Что такое трансцендентальное поле? Оно отличается от опыта, так как не отсылает к объекту и не принадлежит субъекту (эмпирическое представление). Поэтому оно представляет собой чистый а-субъективный поток сознания, до-рефлексивное безличное сознание, качественную длительность сознания без «моего-я» (sans moi). Может показаться странным, что трансцендентальное определяется такими непосредственными данными: будем говорить о трансцендентальном эмпиризме, в противоположность всему тому, что создает мир субъекта и объекта».

Кстати, самый ценный совет по Делезу. Вчера я обратился к разным коллегам за советом, что же делать с Делезом. От самых наивных я получил ссылки на лекции, тексты и даже конспекты собственных лекций, но наиболее авторитетный специалист посоветовала мне - дословно - «хех». Признаться, я сразу не оценил всей глубины. Но после нескольких часов агонии над Делезом, «хех» - это лучшее, на чем я мог остановиться. Схожего мастерства анализа достиг мой дорогой друг Артем Беседин, емко характеризуя избранные философские работы фразой «э». Но на письме это сложно передается.

Артем обсуждает идею с приостановкой работы над ИИ мощнее GPT4 . Весельчаки , что сказать

Некоторые разработчики больших лингвистических моделей призывают «все лаборатории немедленно приостановить как минимум на 6 месяцев обучение систем ИИ, более мощных, чем GPT-4»: https://news.1rj.ru/str/bci_ru/1426. Вот цитата из этого письма: «Современные системы искусственного интеллекта начинают соперничать с человеком в решении общих задач, и мы должны спросить себя: должны ли мы позволить машинам наводнять наши информационные каналы пропагандой и неправдой? Должны ли мы автоматизировать все рабочие места, включая те, которые приносят удовлетворение (fulfilling ones)? Должны ли мы развивать нечеловеческие сознания, которые в конечном итоге могут превзойти нас числом, перехитрить, привести к нашему устареванию и заменить нас? Должны ли мы рисковать потерей контроля над нашей цивилизацией? Такие решения не должны делегироваться неизбранным техническим лидерам. Мощные системы искусственного интеллекта следует разрабатывать только после того, как мы будем уверены, что их эффект будет положительным, а риски управляемыми.» Если кратко, мою реакцию на подобные заявления можно выразить известными словами Гегеля: авторы этого письма предлагают нам учиться плавать, не входя в воду. Надежные ответы на вопросы, перечисленные в этой цитате, в конечном счете, не могут быть даны a priori.

Далее в письме говорится: «Лаборатории искусственного интеллекта и независимые эксперты должны использовать эту паузу для совместной разработки и внедрения набора общих протоколов безопасности для продвинутого проектирования и разработки ИИ, которые тщательно проверяются и контролируются независимыми внешними экспертами. Эти протоколы должны гарантировать, что системы, придерживающиеся их, вне всяких разумных сомнений, безопасны. Это не означает паузу в разработке ИИ в целом, просто отступление от опасной гонки к все более крупным непредсказуемым моделям черного ящика с новыми возможностями.» Мысль, безусловно, светлая, однако, на мой взгляд, она плохо совместима с идеей приостановки разработки систем ИИ. Возьмем для примера первое правило робототехники Айзека Азимова: «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред». Насколько я понимаю, авторы письма предполагают что-то вроде свода правил и протоколов для ИИ, похожих на это правило. Но посмотрим теперь на природу — самого лучшего инженера, создавшего нас самих. Разве природа не вложила в нас тот же самый принцип, который Азимов предлагает для роботов? Многие философы считали и считают, что человек всегда действует sub specie boni — под видом добра. Часто ли в жизни встречаются люди, совершающие зло как зло и ради зла? То, что мы принимаем как цель нашего действия не может не казаться нам благом (даже если это на самом деле не так). Согласно такому представлению о действии, если человек убивает ради денег, он считает, что получение им денег — это большее благо, чем жизнь другого. Вот мы и нашли лазейку в это непреложном законе. Первое правило можно обойти и другим способом: нужно только принять, что человек, которому ты причиняешь вред, — это недочеловек или не человек. Двадцатый век дал нам достаточно подобных примеров. Мораль этого рассуждения такова: нельзя придумать эффективные правила на берегу. Правила должны быть, с этим никто не спорит, но появляться они могут только в ходе разработки ИИ. Они могут сформироваться только тогда, когда мы увидим, как они могут быть нарушены.
#ИИ

Наконец, просто перл этого письма: «Параллельно разработчики ИИ должны работать с политиками, чтобы значительно ускорить разработку надежных систем управления ИИ. Они должны, как минимум, включать: новые и дееспособные регулирующие органы, занимающиеся ИИ; надзор и отслеживание высокопроизводительных систем ИИ и больших пулов вычислительных возможностей; системы происхождения и водяных знаков (watermarking), помогающие отличать реальные от искусственных и отслеживать утечки моделей; надежную экосистему аудита и сертификации; ответственность за причиненный ИИ вред; надежное государственное финансирование технических исследований в области безопасности ИИ; и учреждения с хорошими ресурсами для преодоления драматических экономических и политических потрясений (особенно для демократии), которые вызовет ИИ.» Во-первых, не имеет смысла призывать политиков взять на себя контроль над этой областью. Когда надо будет, сами придут и возьмут, и вас не спросят. Либо это заявление в стиле обращения инициативной группы комсомольцев к партии, которому партия, конечно же, пойдет навстречу и в ответ примет на себя опеку над разработками ИИ. Во-вторых, я даже не знаю, что хуже: контроль над этими разработками со стороны корпораций, как сейчас, или контроль со стороны государства. В общем, для меня эта часть письма обесценивает его полностью.
#ИИ

Как образуются тоталитарные, авторитарные, словом, «плохие» режимы? Не знаю. Но в последнее время приходится слышать суждения такого качества: потому что нет достаточной политической культуры у людей, вот они и предпочитают свободе «удобный транспорт» вместо свержения тиранов или протестов. В общем все дело в неправильных приоритетах и не развитом «классовом сознании». Когда приходится такое слышать от представителей гуманитарного знания, я аплодирую стоя. Оказывается, в большей части мира властвуют недемократические режимы, потому что люди предпочли свободе «удобный транспорт». В соответствии с такой идеей, в Северной Корее, Мьянме, Йемене лучше, чем в Собянинской Москве. Вот он взгляд на политический и исторический процесс: есть народы, которые «догадались», как правильно, а есть те, кто не догоняет - рабское сознание, любители комфорта - и поэтому у них всякие кровавые диктаторы, режЫмы, «поедание детей». Вот если бы каждый как вдруг осознал, взялся бы за руки с соседом. Эх как бы зажилось! Для счастья не хватало бы только высокого бельведера и каменного моста через реку с услужливыми купцами. Это, кстати, и с преступлениями работает. В Венесуэле почему так много наркокортелей? Это потому что люди не понимают, что это плохо, не хорошо очень. Вот в Скандинавии смогли же. Предлагаю вместе насладиться этой теорией.

Я недавно писал, что русскую философию в мире никто особо не знает. Теперь об этом можно узнать в деталях из нашей беседы с Василием Викторовичем. Получилось интересно
https://youtu.be/iLvzVsD6Ui4

Вы не зомби, но откуда вы это знаете? Иллюзионизм в отношении знания о сознании ( предупреждаю, этот пост — сложный)

Я уже писал о том, как любимый дуалистами аргумент зомби может создавать фатальные трудности для их же позиции. Но есть еще одна сторона этого вопроса, которую предложил философ Фред Дрецке. В данном случае вопрос «Откуда вы знаете, что вы не зомби?» не указывает на то, что лучший ответ заключается в признании себя зомби. Дрецке не считает себя и нас зомби, то есть существами без сознания. Мы очевидно не зомби. Однако КАК нам это известно, КАКИМ способом мы узнаем о своих сознательных состояниях как сознательных? Вопрос может показаться верхом абсурда. Ведь, во-первых, нам ясна разница между нами и зомби, а, во-вторых, сознательные состояния таковы, что их невозможно не знать, поскольку они сознательны. Дрецке согласен с этими доводами, но ничего из них не отвечает на вопрос «так как же?» Дело в том, что обычно знание связано с наличием некоторого свидетельства. Трудно представить ситуацию, когда нечто будет считаться знанием безо всяких свидетельств. Но что является свидетельством знания о сознании? Например, я вижу лошадь. 1. Я знаю, что «передо мной лошадь». Об этом свидетельствует строение тела животного, поведение, издаваемые звуки и многое другое. 2. Я знаю, что «Я вижу лошадь», но проблема в том, что ничего из содержания моего восприятия не является свидетельством такого знания: ни грива, ни окрас животного, ни общая экспозиция, - ничто из этого не свидетельствует от том, что «я вижу лошадь», а лишь о том, что она передо мной. Здесь я предлагаю остановиться и подумать, чтобы не делать скоропалительных выводов. Рассуждение действительно красивое. Кажется, что это работает только для восприятий, но не для ощущений. Но самое удивительное, что и здесь схема повторяется! Например, боль репрезентирует некоторое состояние организма, допустим, травму. И вновь вы знаете, что находитесь не в лучшем состоянии, но ничто не свидетельствует о том, что это состояние — боль. Предлагаю здесь опять остановиться, чтобы проораться. Проблема не в том, что вам не известно, что вам больно или есть нечто неочевидное в ощущении боли, или неизвестно, что боль — сознательное состояние и поэтому зомби ее испытывать не могут. Проблема именно в свидетельстве, которое подкрепляет это знание. Очевидность свидетельством не является. Возможный ответ заключается в том, чтобы понимать боль в виде своеобразного объекта. Однако такой ответ прямо ведет к теории внутреннего чувства, с критикой которой Шумейкером я согласен ( и может быть расскажу позже). За сухим остатком, видимо, нам придется сказать следующее: я точно не зомби, но не знаю об этом. Все это время нам казалось, что уж про свое сознание мы знаем. Но это была лишь кажимость — иллюзия — знания. Чтобы не перебирать с жестью, завтра расскажу о своей позиции.
#сознание

Первое апреля я за день не считают, поэтому примем, что обещанное «завтра» - это сегодня. Пост выше был посвящен вопросу «Откуда вы знаете, что вы не зомби?» Проблема такая, что вы не зомби, но свидетельств этому нет. Знание о сознании оно какое-то странное, даже и не знание вовсе. У меня четкой позиции по этому вопросу нет. Я частично согласен, что не совсем корректно говорить, что есть знание о сознании. Косвенно это подтверждает то обстоятельство, что многие люди смущаются, когда их спрашивают, знают ли они, что им больно, когда им больно? Сама постановка вопроса несколько искусственна. Не так ли? Кажется, в обыденных ситуациях мы не склоннны говорить, что знаем, что нам больно, вместо этого ограничиваясь фразой «мне больно». Глобально, это значит, что если и есть знание о сознании, то оно является чем-то необычным. Другими словами, эпистемология интроспекции отличается от эпистемологии, связанной с восприятием или выводом. Для моих интересов - это лишний гвоздь в крышку гроба иллюзионистов ( они говорят, что феноменального сознания нет, оно - иллюзия), поскольку они предполагают, что эпистемология интроспекции или знания о сознании схожа с обычной. В таком случае их плата - это общий иллюзионизм в отношении знания о сознании , что не только о феноменальном сознании нельзя знать, но и о сознании вообще. Значит, если они последовательны в своей позиции, то и сознания доступа нет, которое они признают. Я в целом даже готов принять иллюзионизм в отношении интроспекции, но легко увидеть, что он не может поддерживать иллюзионизм в отношении феноменального сознания. Иллюзионисты платят слишком дорогую цену за беспечный мир без феноменального сознания. Парадоксальным образом, улюлюкая вокруг феноменального сознания, они не замечают на какие нежизнеспособные представления об интроспекции полагаются.
#сознание

Написал реплику о нашумевшем письме, призывающем остановить разработку ИИ. Привожу ее здесь полностью. Интересно, что я не одинок в своих оценках.

«Ситуация с известным письмом содержит в себе и жанр комедии, и драмы, что вызвано его абсурдистским содержанием. Кажется, происходит нечто удивительное по своей форме, когда в алармистском запале «обеспокоенная общественность» падает ниц перед Левиафаном. Тут история совершает мало сказать виток, а кульбит. И в очередной раз убеждаешься, что люди у истории учатся тому, что ничему не учатся у истории. И главное, кто эти люди? Кто эти любители «старины» и «традиционных ценностей», кто возглавляет крестный ход технологических «казаков»? Маск и Возняк. Предлагается регулировать то, что регуляции не поддается, и, главное, регулировать такую «нежную» область самыми что ни на есть варварскими методами. Ясно как день, что исследования ни на полгода, ни на пять минут не прекратятся. И нет такой силы, что была бы способна это сделать здесь и сейчас. Поэтому даже если часть подписантов действительно всерьез верила в то, что подписывает, то я не допускаю мысли, что эта часть является большинством. Явным образом содержание письма не представляет интереса, я бы даже сказал, что оно безынтересно. В этой истории важен сам факт письма, а точнее — акт. Это действо должно убедить широкую аудиторию (и посредством этого инвесторов), что в области ИИ прямо сейчас происходит нечто революционное, нечто очень значимое, что пропускать ни в коем случае нельзя. Это должно убедить нас в том, что нет ничего более важного сейчас, чем область развития ИИ, что люди и компании, вовлеченные в эту область, управляют кораблем, увлекающим человечество в будущее. Данное письмо — это не поклонение Левиафану, за которое его можно было бы принять. Продолжая морскую тематику, это абордаж, захват власти и внимания. А также хорошая иллюстрация для словарной статьи «постправда»».

В свежем интервью Юрия Дудя (признан иноагентом) с режиссером Романом Либеровым, последний умудряется одновременно сделать две вещи. Первая, выступить против того, чтобы государство относилось к гражданам как детям, отнимая у них свободу на собственное суждение, на выбор ценностей и действия. Вторая, заявить о необходимости объяснения «темному» народу, ЧЕМ был СССР или ЧЕМ были 90е. Здесь во весь рост встает фигура просветителя, который благородно одаривает истиной неразвитые умы. Что здесь есть противоречие, увидеть не трудно. Куда важнее в этом примере, что он напоминает о родстве тирании и просвещения и что родство это поддерживается не властью, а «поэтом».

Очень полезная штука для всех, кто интересуется философией сознания про трудный вопрос сознания, Трудную проблему сознания, проблему иллюзии, метапроблему иллюзии, трудную метапроблему сознания, просто метапроблему сознания. Темный лес, конечно. На этом моменте можно плюнуть на всю эту философию сознания и заняться чем-то более осязаемым. Но если вы себарит духа, то должно понравиться.

https://news.1rj.ru/str/philosophycafemoscow/1841