4Chan превратил модель в машину языка ненависти

🔊 В отличие от погрязшего в цензуре Twitter, имиджборд 4chan остаётся анонимной и максимально свободной площадкой для общения. Однако у такой политики есть обратная сторона — треды там полны агрессии, токсичности, языка презрения и ненависти к отдельным группам людей. В общем — всё как в жизни.

🤖 Этой особенностью 4chan воспользовался Яник Кильчер (Yannic Kilcher), исследователь искусственного интеллекта из Швейцарской высшей технической школы Цюриха (ETH Zurich) и по совместительству видеоблогер. Он обучил трансформер с 6 млрд параметров GPT-J 6B на датасете Raiders of the Lost Kek. В последний вошли 3,3 млн тредов, оставленных за 3,5 года участниками одного из самых «жестких» разделов платформы — борда Politically Incorrect (/pol/).

🤬 Результатом стал чатбот GPT-4chan. Рокенрольщик и знатный тролль Кильчер не преминул тут же запустить 9 его инстансов на имиджборд. За сутки они оставили около 15 000 полных ненависти, нигилизма и грубости постов.

Это «самая пугающая и исключительно эффективная — в плохом смысле этого слова — модель в интернете. Он изобрёл машину для производства ненависти... и выпустил её на свободу», констатировали эксперты.

Код GPT-4chan выложен на Hugging Face — репозитории, ориентированным на этические аспекты разработки ИИ, однако доступ к нему ограничен. Дать жару можно только странице проекта, правда лишь в демонстрационном режиме.

#Чатботы_и_коммуникация_с_роботами, #Генерация_текстов, #Этика_искусственного_интеллекта

Все слышали, что в США до сих пор острый дефицит разработчиков, знающих древний язык COBOL (Common Business Oriented Language). Он был разработан аж в 1959 году, но в стране чековых книжек и факсов на нём крутится ещё немало финансовой инфраструктуры.

⏳ Дошло до того, что деды — ветераны индустрии — дают молодняку курсы по COBOL, неплохо подрабатывая к пенсии. А те и рады — зарплаты у раритетных спецов, обслуживающих техническое наследие эпохи расцвета хиппи, космические. «Помог» и коронавирус. Пандемия изрядно зачистила последних коболистов. Ведь младше 70 среди них почти никого нет.

🎞 И вот тут такое дело — в прошлом году историк Алексей Сафронов из ИОН РАНХиГС обнаружил в одном из подсобных помещений Аналитического центра при правительстве РФ несколько стеллажей катушек с магнитными лентами для ЕС ЭВМ. Вероятно, на них записана знаменитая советская Автоматизированная система плановых расчётов (АСПР) или хотя бы некоторые её элементы.

Так что специалисты по забытым языкам и археологическому программированию востребованы и у нас. Правда, скорее всего, на волонтёрских началах.

Ну а вспомнила я эту историю потому, что завтра на 13 карточках хочу рассказать о Госплане и крахе цифровизации в СССР. Для затравки вот такой тизер. Stay tuned!

Кто кого: машинное обучение против гиперзвукового оружия

До недавнего времени гиперзвуковые ракеты считались неуязвимым супероружием. Ни одна система ПВО или ПРО пока неспособна их сбить. Особую опасность гиперзвук представляет для Китая. В случае обострения ситуации вокруг Тайваня США в будущем сможет легко и безнаказанно поражать любые цели на территории Поднебесной.

Однако Пекин не зря вкладывал десятилетиями миллиарды юаней в математиков и специалистов по искусственному интеллекту. Группа учёных и инженеров из Уханя натравила на гиперзвуковые ракеты машинное обучение и придумала способ, как перехватить американские AGM-183 ARRW. Но вот с российским «Цирконом» нового поколения этот фокус не пройдёт, почему — разбираемся в гостевом лонгриде от автора канала «Научпопик».

#посмотреть_на_выходных (16+)

Культовая классика, положившая начало эстетике киберпанка. В фильме Ридли Скотта «Бегущий по лезвию» (1982) андроиды выдают себя за людей ради выживания.

Прежде чем отправить разумные машины на космический фронтир, дальновидный производитель Tyrell Corporation снабдила их встроенным механизмом самоуничтожения. Часики тикают, завод вот-вот подойдёт к концу. Чтобы остановить эту бомбу замедленного действия, надо вернуться на Землю, а для этого придётся пройти тест Войта-Кампфа на эмпатию — притвориться человеком.

При этом в душе андроиды презирают человечество, и не без оснований — они изначально умнее, сильнее, хитрее подавляющего большинства людей. Не говоря уже об уникальном жизненном опыте: «Я видел такое, что вам, людям, и не снилось. Боевые корабли, пылающие близ плеча Ориона. Я наблюдал, как сверкают си-лучи во мраке у врат Тангейзера...» — убедительно вспоминает один из них.

Впрочем, профессиональные охотники на андроидов, те самые «бегущие по лезвию», в плане любви к ближнему далеко от машин не ушли. Да и их собственная принадлежность к роду людскому вызывает обоснованные сомнения, особенно если судить по полной режиссёрской версии фильма.

Пост памяти величайшего композитора электронной музыки Вангелиса, ушедшего от нас меньше месяца назад. Его саундтрек стал неотъемлемой частью атмосферы футуристического нуара «Бегущего по лезвию».

#почитать_на_выходных (18+)

В романе Чарльза Стросса «Аччелерандо» (Accelerando, 2005) мир на пороге технологической сингулярности. А может быть — перешагнул эту грань. Вычислительные мощности в Солнечной системе растут экспоненциально. Дополненные личности, разумы, перенесенные на электронный носитель, финансовые инструменты, обладающие самосознанием, — здесь всё переплелось и смешалось до полной неразличимости. Самого человека уже не отличить от эволюционировавшего чатбота.

Впрочем, это никого особенно не волнует. Важно только, к каким вычислительным мощностям имеет доступ твой собеседник. Тест Тьюринга не просто пройден, он забыт, как давние подростковые мечты. Единственным партнёром одного из центральных героев книги, чьё происхождение действительно важно, выступают лангусты, «декодированные» и понейронно выгруженные в Сеть «Московским объединением пользователей Windows NT». Ну, и ещё оцифрованный кот, превратившийся в местного божка и свысока взирающий на смешное копошение постчеловечества.