Kapustin notes – Telegram
Kapustin notes
1.42K subscribers
189 photos
7 videos
56 links
о чем думает Капустин (@a_kapustin)
Download Telegram
На днях я увидел граффити с надписью "нейробунт", и мне стало интересно, что это значит

Настало время нового хака по работе с генеративными нейросетями!
На сей раз все очень просто, сегодня предлагаю вам попробовать попросить чат придумать неологизм. Просто взять и объединить два смысла и области в новом метком слове ил выражении.
Мне такой способ помог пару раз уже выбраться из творческого тупика, позволили найти пересечения тем там, где я бы сам нашел не сразу
22🔥12👏5🤯5👍1💩1
я
😁42🕊4👍1
Остановитесь

Илон Маск, Юваль Ной Харари, Стив Возняк (и еще больше 1000 человек) призывают на 6 месяцев остановить разработку нейросетей сильнее, чем GPT-4

Судя по петиции они переживают из-за того, что бесконтрольное развитие AI может:
- наводнить каналы пропагандой
- отобрать у людей работу
- привести к созданию нечеловеческих разумов, которые перехитрят людей и сделают их устаревшими и ненужными

Интересно куда это приведет

- почитать новость
- петиция
🥴12👍5🤡2🎉1
Думаю многим полезно будет!
🔥2
Forwarded from AI Happens (Alexey Hahunov)
а чей вообще контент, которые создали генеративные сети?

я решил почитать терм в чатгпт и миджорни, и все интересно:
1) чатгпт очень демократичен:
Your Content. You may provide input to the Services (“Input”), and receive output generated and returned by the Services based on the Input (“Output”). Input and Output are collectively “Content.” As between the parties and to the extent permitted by applicable law, you own all Input. Subject to your compliance with these Terms, OpenAI hereby assigns to you all its right, noscript and interest in and to Output. This means you can use Content for any purpose, including commercial purposes such as sale or publication

т.е. всё, что вы сделали с её помощью без цели создать свою модель — ваше.

2) у миджорни всё немного сложнее:
если у вас платная подписка — контент ваш, а если нет, то нихрена 🙂

ещё, если оборот вашей компании больше 1М$ в год — вы обязаны использовать подписку про.

и не важно какая у вас подписка — они могут использовать материалы любым способом.

Subject to the above license, You own all Assets You create with the Services, to the extent possible under current law. This excludes upscaling the images of others, which images remain owned by the original Asset creators. Midjourney makes no representations or warranties with respect to the current law that might apply to You. Please consult Your own lawyer if You want more information about the state of current law in Your jurisdiction.

If You are an employee or owner of a company with more than $1,000,000 USD a year in gross revenue and You are using the Services on behalf of Your employer, You must purchase a “Pro” membership for every individual accessing the Services on Your behalf in order to own Assets You create.

If You are not a Paid Member, You don’t own the Assets You create.

If You purchased the Stealth feature as part of Your “Pro” subnoscription or through the previously available add-on, we agree to make best efforts not to publish any Assets

интересно, крч.

ещё совет от юристов: не используйте названия компаний, клиентов и тд в промтах. Заменяйте их лучше на Company_NAME, client etc.

будьте внимательны!

@aihappens
👍14
Много личностей внутри одного чата

Идея дня – предложите чату не только самому выбрать себе личность, но сесть за стол с теми, кто с этой личностью может поспорить. (1 и 2 скрин)

Так сделал я сегодня утром, когда решил попросить написать кодекс этичного обращения с генеративными нейросетями (по мотивам вчерашнего открытого письма с просьбой об остановке разработки GPT)

Все началось с Юваль Ной Харари а, продолжилось большим списком людей, среди которых еще:
Алан Тьюринг - основатель компьютерных наук, математик, криптограф, логик, теоретик ИИ. Зона ответственности: теоретические аспекты ИИ, математика, компьютерные науки.
Шерил Сэндберг - операционный директор Facebook, автор книги "Lean In" и сторонник гендерного равенства. Зона ответственности: бизнес, корпоративная этика, социальная справедливость.
Сундар Пичай - Генеральный директор Alphabet и Google. Он был приглашен из-за его позиции на руководящем уровне в одной из ведущих компаний в области ИИ и технологий. Его взгляды на этику и ответственность в сфере ИИ могли быть важными для формирования более обоснованных и практичных рекомендаций. Он также был приглашен самими экспертами, так как они понимали значение мнения человека, отвечающего за разработку и внедрение ИИ в глобальном масштабе.


Одни нейросетевые личности приглашали на сцену других (в какой-то момент и Илона Маска позвали) и в итоге родили неплохой манифест про все хорошее и против всего плохого.

Но сама идея объединять сразу несколько личностей по ту сторону чата меня лично завораживает!
А еще их можно заставить спорить между собой (4 скрин)!
🔥9👍6
А вот и сам кодекс, написанный людьми выше и переписанный Навалом Равикантом для твиттера

(твиты приятнее читать чем полотна текста, да?)
👍10
Forwarded from Александр Александрович
Переработал этот подход и запаковал в пост на английском с инструкцией. Результат тестов мне понравился.

https://alxnd6.notion.site/Expert-roundtable-31a522bd70d248cd8af21c2f876ee602
🔥6💩1
Что почитать чтоб понять

Сегодня советую почитать пару статей моего твиттер-друга Павла Комаровского с канала @RationalAnswer

1) Как вообще эволюционировали работают сейчас GPT-нейросети линк

2) Что такое GPT-4 и чем эта сетка отличатеся от прошлых линк

___
и вдогонку шутка из одного из недавних подкастов
(объяснять не буду, но надеюсь после прочтения статей выше вы ее поймете)


- что такое большая языковая модель?
- это такая языковая модель котору ты не сможешь обучить если ты бедный
🔥122👍1
Чтение выходного дня

1)Технооптимистическая статья с историческими байками про борьбу человека с технологиями.

2) Технолопессимистичная статья про то, что открытого письма с просьбами замедлить разработки в сфере ИИ – не достаточно

Сам я пока не решил боюсь ли я будущего, которое нам несет AGI (сильный искусственный интеллект, который будет умнее людей) и верю ли вообще в возможность наступления такого завтра. Но читать оппозиционные мнения умных людей по этому вопросу невероятно интересно
👍13
Галюцинации у генеративный нейросетей

Это знание не только помогло мне лучше понимать, как работать с ними, но и позволило мне поразить некоторых пользователей в сети интернет, когда кто-то из них жаловался, что нейросети не смогли ответить на простой вопрос и поэтому ИИ – говно

Галлюцинации у искусственного интеллекта - это когда большие языковые модели (LLM), как GPT-4, выдают странные и неправильные ответы на вопросы, которые не выглядят сложными. Иногда эти ответы выглядят смешными и абсурдными

Причины

1. галлюцинации могут возникать из-за способа обучения моделей, когда они обучаются на огромных объемах текста. В процессе обучения модель учится улавливать структуру и закономерности языка, но иногда она может неправильно интерпретировать информацию или сделать неверные выводы, что приводит к галлюцинациям
2. иногда галлюцинации возникают из-за неоднозначности или двусмысленности вопроса. Если вопрос сформулирован таким образом, что модель трудно понять его смысл, она может сгенерировать неправильный ответ на основе своих знаний
3. галлюцинации могут возникать из-за ошибок и неточностей в данных, на которых модель была обучена. Нейросети могут научиться повторять и даже распространять ложную информацию, если она присутствует в обучающих данных
(Примеры на скринах в посте)

Но это бесит ровно до того момента, пока вы не поймете (наконец-то уже), какие вопросы обычно провоцируют галлюцинации, и как их избежать

Как?
Для того чтобы получать точные ответы от ИИ, я стараюсь задавать правильные вопросы. Мне помогает следующий подход: формулировать вопросы четко и конкретно, использовать ключевые слова и фокусироваться на проверенных фактах. Конечно даже с правильно сформулированным вопросом, иногда ИИ может ошибиться, поэтому я всегда проверяю информацию из других источников

Выводы

Теперь, когда вы знаете о галлюцинациях ИИ вы сможете не только лучше понять как не_надо работать с ним, но и стать на место всезнаек в интернете, в баре и на вечеринках, которые по верхушкам нахватались, но сути не понимают
👍20🔥61🤯1