Чему можно научиться у навигатора

Гугял вчера по Стамбулу и понял, что приложения-навигаторы вроде Яндекс.Карт и Google Maps — это, пожалуй, самые принимающие и всё прощающие приложения в моей жизни

Подумайте сами: вы пропускаете поворот — и что делает навигатор? Он не говорит: «Ха-ха, долбоёб», не упрекает и не высмеивает. Он просто спокойно уточняет: «Через 300 метров держитесь левее» или «Поверните направо». Без осуждения, без шейминга — просто предлагает новый путь к цели

И к себе, кажется, хочется относиться так же. Цель есть — точка B определена. А дорогу к ней всегда можно пересмотреть, подверстать заново, скорректировать

Для сравнения — Duolingo, который каждый день пассивно-агрессивно напоминает, что ты будешь тупым ебланом, если упустишь свою 78-дневную серию занятий немецким. Да, это дисциплина, но через насилие и сарказм, а не принятие.

Хочется быть к себе не Дуолинго, а Яндекс.Навигатором

Я в абсолютном восторге от этого нейминга!

Идея для стартапа, рожденная в ночи

Сайт, на котором ты можешь послать ии-агента медитировать вместо себя, чтоб продолжать делать дела, не отвлекаясь на духовность

Эдакое упражнение на доверие в миг хайпа ии-агентов. Мысли и код им многие готовы доверить, но готов ли ты доверить майндфулнес?

Забудьте всё, чему вас учили в школе
(спойлер: вы не сможете)

Наверное, фраза «забудьте всё, чему вас учили в школе» — самая популярная, которую люди слышат в университете.
А потом ты приходишь на работу — и тебе говорят: «забудь всё, чему тебя учили в университете». И так далее.

Я недавно, буквально сегодня, узнал прикольный факт про обучение больших языковых моделей и университеты.
Можно довольно долго и дорого чему-то учить — но разучить их чему-то ещё сложнее, дороже и практически нереально.

То есть если вы хотите, чтобы нейросеть, обученная на огромном количестве данных, не умела поддерживать разговор об оружии, наркотиках и самоубийствах — вам будет очень сложно это сделать. Вычленить эти темы из модели — почти невозможно.

И эта проблема, на удивление, решается очень просто.
Люди, в тщетных попытках заставить нейросеть что-то забыть, просто решили поставить над ней надсмотрщика.
Ещё одну нейросеть, которая стоит на уровень выше — прослойкой между моделью и пользователем.

И просто не пропускает сообщения, содержащие запрещённые темы: наркотики, суицид, оружие.

В итоге наша изначальная нейросеть всё знает, всё умеет и всем пользуется.
Но над ней — цензор.
И это, на удивление, оказалось эффективнее, надёжнее и дешевле, чем заставить модель забыть, чему её учили.

Интересно, а сколько слоёв цензоров достаточно?
Потому что кто-то же, наверное, должен контролировать, чтобы цензор правильно справлялся со своей работой.
А кто будет контролировать того, кто контролирует цензора? И так далее.

У меня нет ответа на этот вопрос.
Да, кажется, он особо и не нужен.
Но подумать над этим интересно.

Браузер Comet от Perplexity — это разъёб
(подарю инвайт)

Уже вторую неделю тыкаюсь и играюсь с браузером Comet от Perplexity — и могу сказать: это просто супер разъёб.
Я давно не получал такого кайфа от чего-то железного или софтового.
Если что, это первый браузер (из тех, что я пробовал) со встроенным ИИ-агентом.

Да, можно сказать, что ИИ-агенты — это хайп, непонятно, что с ними делать, и вообще всё может решить ChatGPT или Gemini.
Но, блин, как же удобно нажать одну кнопку — и получить бронь в ресторане.

Браузер сам:
• исследует страницу рестика (даже если она на венгерском),
• тыкает по кнопкам, выбирая даты (даже если верстка кривая),
• вводит твой номер телефона.

И — всё, бронь готова.
Даже если ты не знаешь, куда хочешь пойти — просто пишешь:
«Проанализируй гид Мишлен в Порту, найди итальянский ресторан и забронируй на субботу».
Вжух — и сделано. Я в шоке.

Что я ещё попробовал?

Например, тебе не нужно знать испанский. Просто пишешь:
«Расскажи, что испанцы говорят про окупасов на Reddit, собери самые контровершл мнения» —
и получаешь ответ с линками от Perplexity.

Это карманный стажёр, который старательно:
• анализирует испаноязычный Reddit,
• показывает, что говорят испанцы по нужной теме,
• даёт ссылки, где это обсуждается.

Открыл свою ленту в Twitter и попросил Perplexity:
«Найди манипулятивные твиты и объясни, почему они такие».
Он ходит по ленте и честно объясняет — где тобой пытаются сманипулировать.

Что ещё я использую?

– Команду, которая каждое утро выводит мне топ новостей с Hacker News.
Робот сам заходит, собирает самые обсуждаемые посты, находит в них самый обсуждаемый коммент и дает саммари срача.
Если интересно — кликаешь и читаешь оригинал.

– То же самое с Product Hunt.
Одна команда — и браузер собирает summary по топу:
рассказывает, анализирует, считает, сколько процентов используют слово «агенты», и что вообще сейчас в тренде.

А недавно они добавили Shortcuts — команды в ассистенте сбоку.
Можно заранее настроить, и буквально парой кликов:
• сделать анализ блогера — риски, вовлечённость, формат,
• собрать инфу о кроссовках из вишлиста друга (с отзывами),
• прочитать статью про русский авангард — и сразу получить тест на понимание.

Да, всё это можно собрать из десятка разных инструментов.
Но как же я в восторге, что всё — в одном месте.

___
чтоб получить инвайт напишите в комменты что-то и случайному человеку я отдам инвайт

Как выбрать себе нейросеть?

Я тут недавно понял, что не все понимают разницу между нейронками и этими вашими ИИ, так вот для меня:

Perplexity для поиска верифицируемой информации. Их киллер фича это ссылки на каждую штуку, про которую он говорит. Очень классно для чувствительных тем и ползанья по новостям и исследованиям. Так же круче, чем чатджипити находит миграционные законы разных стран и обсуждения их на реддитах на разных языках.

ChatGPT нужен, чтобы сгенерировать что-то странное и "поиграть" в психологию. А так же он круче всех структурирует мысли в связные слайды для презентаций по работе: «я сейчас расскажу тебе статус по проекту, не добавляя ничего от себя сгенерируй из этого статуса executive summary презентацию». Записал войс на 5 минут и получил скелет презы, магия!

Grok - использую как второй взгляд (но только потому, что он включен в подписку на твиттер) для проверки того что сказал ChatGPT + для всяких сомнительных с этической точки зрения штук, в гроке цензура намного слабее.

Claude - использовал для генерации кода, когда не зная Swift решил написать на этом языке прилоджение для айфона (спойлер – полуучилось)

Deepseek и Gemini не использую в жизни, но знаю их фанатов, не осуждаю!

С нами все нормально, это мир бежит

Вчера был обычный дня AI день, в который просто не сговариваясь (но тут не уверен) топовые компании выпустили свои новые модели

Google выпустил Genie 3
Antropic выпустил Opus 4.1
Open AI выпустил GPT-oss

Eleven labs тоже выпустил новинку вчера, генерируют музыку очищенную от авторских прав

Кажется, что мы попали в какой-то Кэрролловский мир Алисы, в котором «Нужно бежать со всех ног, чтобы только оставаться на месте, а чтобы куда-то попасть, надо бежать как минимум вдвое быстрее»

А этим постом я просто хочу успокоить свое и ваше (надеюсь) FOMO и вслух сказать, что вы не отстаете от мира, просто мир летит так офигителоно быстро, что вообще никто ничего не успевает понять, принять и освоить.

И нам всем предстоит только научиться жить в этом мире, ну либо осознанно уйти в лес кормить белочек

AI Imposter Syndrome.

Открытие месяца для меня — идея AI Imposter Syndrome.

Если вы ещё не слышали про нее, вероятно, скоро услышите. Это один из подвидов синдрома самозванца. Только здесь ты сомневаешься не столько в своём профессионализме in general, сколько в том, что ты вообще настоящий профессионал, а не просто человек, умеющий обращаться с нейросетями.

AI impostor syndrome happens when intelligence feels too easy, making us question our own thinking.

Если раньше профессионализм был функцией от приложенных усилий, то теперь с приходом ИИ мы делаем вещи иначе: пишем многостраничные промты, придумываем, как могло бы выглядеть приложение, и вайб-кодим. Всю монотонную работу за нас делает машина.

AI shifts intelligence from effort to access, creating doubt about authorship and originality.

И вот ты смотришь на результат: по твоим тезисам и шаблону нейросеть написала приложение, составила отчёт. Возникает вопрос: кто ты без этих нейросетей? Зачем ты нужен?

По сути, AI-импостер-синдром можно описать так: я решаю задачи круто, получаю похвалу, но использую ИИ. Значит, кто я без него?

Классно, что появилось что-то, что ставит перед айтишниками вопросы самоидентификации. Последнее похожее, что я слышал, — это про таксистов и GPS. Тогда таксисты говорили: если ты используешь GPS, а не знаешь город наизусть, ты не настоящий таксист. Настоящий должен помнить, где находится Шарикоподшипниковский тупик, дом 22. А если не помнишь — вон из профессии.

Не знаю, как к этому относиться, но сама мысль про существование AI-импостер-синдрома меня веселит.

Надеюсь вы не загонитесь от этого поста, хах

Восстание машин откладывается, выдыхаем

Главная проблема нейронок в мире — это лично ты

В песне замечательного Захара Борисовича Мая были слова: «Главная проблема музыки в России — это лично ты, потому что ты слушаешь говно».

И эта строчка очень хорошо рифмуется с одной из возможных причин проблем новой GPT
Её тексты кажутся многим более дурацкими, скучными, неинтересными и нечеловечными, чем у прошлых моделей, таких как 4o или o3 (например, https://www.pcmag.com/opinions/sorry-openai-in-my-early-tests-gpt-5-vs-gpt-4o-isnt-any-better).

Многие из моего круга общения, люди на Reddit и Hacker News, а также сам Сэм Альтман, глава OpenAI, говорят, что запуск получился херовым и ChatGPT был довольно сырым.

Так вот одна из гипотез: новый GPT-5 учился на свежем корпусе интернет-текста, куда мы как человечество уже успели нагенерировать кучу тупого контента старыми нейронками — ChatGPT-2, ChatGPT-3 и прочими дипсиками. Эти модели, будучи ещё довольно слабыми, выдавали огромное количество плохих текстов: галлюцинировали, предлагали несуществующие решения, генерировали бессмысленные ответы.

Судя по последним исследованиям, новые модели берут очень много обучающего материала с Reddit (https://www.instagram.com/p/DNFwNwSsRWC/). Это логично: условно, в Википедии может появляться три новые статьи в день, а на Reddit — 333 больших комментария. Но у модели, как и у человека, нет никакого инструментария, чтобы понять, сколько процентов из этих 333 комментариев тоже сделала модель (и на них не надо учиться)

В итоге в обучающем датасете оказалось много «нейро-херни» — сотни тысяч текстов низкого качества, которые сами же нейросети и создали. Если GPT-4o и o3 обучались в основном на текстах, сгенерированных до 2024 года, когда таких мусорных данных было меньше, то GPT-5 впитал уже целый пласт плохого, искусственного контента.

Это вообще один из вызовов для Machine Learning и обучения языковых моделей — как отделить хуйню, которую написали первые нейронки, от текстов, которые написали условные писатели. Сейчас нет понятного лёгкого решения, которое точно поможет отделить одно от другого. Поэтому мы учим нейронки на всём, что есть, и часто кладём их просто в говно (https://www.nature.com/articles/s41586-024-07566-y).

В итоге получается интересный парадокс: старые модели учились на Достоевском и Сократе, а новые модели — это старые модели, которые научились на описаниях блюд в «Макдональдсе» и рецептах приготовления свиных крылышек.

Вместо выводов пойду почитаю свежую книжку Сорокина, либо старого Пелевина, чего и вам желаю 💚