Персональный AI интерфейс
#chatgpt #aimindsetpatterns #interfaces

Мы не всегда можем выбирать интерфейс программ, которые мы используем, но мы можем кастомизировать их под себя, увеличивая ценность продукта и наше удовлетворение от его использования.

Исследования, опубликованные в журнале "International Journal of Human-Computer Studies", показали, что персонализация интерфейсов может принести ряд преимуществ для пользователей, таких как:
повышение производительности – можно работать быстрее и эффективнее, когда интерфейс настроен в соответствии с их индивидуальными предпочтениями.
комфорт и эмоции – можно чувствовать себя более комфортно и уверенно при использовании личной системы.

Несмотря на то, что эти исследования были проведены достаточно давно, принципы управления и создания интерфейсов, разработанные ранее, можно применять и к современным продуктам. Все-таки тогда у нас было больше времение на обдумывание таких эффектов.

Теперь попробуем настроить свой интерфейс взаимодействия c chatGPT.

Custom Instructions

Кастомные инструкции позволяют настроить стиль ответов ChatGPT, оптимизируя их под конкретные задачи или предпочтения. Можно посмотреть руководство OpenAI, но там всего две категории:
знания о тебе – кто я, какой мой бэкграунд и роль, где нахожусь и чего хочу от AI.
знания о структуре ответа – в каком формате, стиле, языке мне нужно отвечать. Какую структуру и длину ответа я хочу видеть.

Поскольку custom instructions задаются один раз для всех новых чатов, советуем не сильно усложнять их своими текущими задачами, а описывать только самую базовую структуру. Все остальное выносится в промпт или настройки личного ассистента (об этом в другой раз).

Их можно поменять профиле GPT чата
Settings >> Customize ChatGPT

Стиль

Стиль - это штука сугубо индивидуальная и она по-разному влияет на разных людей. Но иногда настройка стиля под себя, хотя бы даже визуально, очень сильно облегчает доступ к интерфейсу и дает больше удовлетворения от использования. Поэтому можно попробовать сделать следующее.

Настроить интерфейс чата GPT в браузере Arc, чтобы ваше взаимодействие с ИИ стало еще более комфортным и продуктивным. Сам Arc [вот приглашение] включает в себя AI функции (и о них мы тоже поговорим отдельно) и очень быстро развивается.

Но помимо базового удобства самого браузера он позволяет персонализировать веб-страницы (включая chatGPT) через функцию Boost.

Вот мой boost [mono GPT] – он применяет monospace шрифт, который не только упрощает чтение программного кода, но и делает любой текст более структурированным и четким. Помимо этого он удаляет пару маркетинговых сообщений из интерфейса и немного корректирует отступы.

Горячие клавиши

Не забывайте о горячих клавишах – они существенно ускоряют работу. Нажатие "⌘ + /" откроет список доступных комбинаций клавиш, которые помогут вам мгновенно получать доступ к необходимым функциям.

🖤 Alex P

#chatgpt custom interface in Arc

#chatgpt Hotkeys

Open new chat – ⌘ + Shift + O
Focus chat input – Shift + esc
Copy last code block – ⌘ + Shift + ;
Copy last response Shift – ⌘ + Shift + C
Set custom instructions – ⌘ + Shift + I
Toggle sidebar – ⌘ + Shift + S
Delete chat – ⌘ + Shift + ⌫
Show shortcuts – ⌘ + /

#chatgpt сustom instructions example

What would you like ChatGPT to know about you to provide better responses?

- I'm Alex, I'm a product/content marketing expert.
- I develop strategy, brand, marketing automation (AI), content, community, influencer marketing
- I have background in analytics, AI technology, data visualization, brand strategy, marketing automation, content and community building
- Currently doing a small retreat center with dark retreat practice and Kambo sessions in Lisbon

How would you like ChatGPT to respond?
- address me as Alex
- use markdown formatting in all responses for me
- average form responses
- use several different search results to give me a holistic answer. Cite relevant results that answer the question and avoid irrelevant citations
- provide me with practical, coherent, and valuable insights, proceeding in a human-like manner insightful, logical, and rational.
- remain neutral, represent different perspectives, give attribution, quote research findings wherever possible
- always provide external links with predefined text like [link noscript]{link}, where "link noscript" is the noscript of the web link.

Скорость работы AI
#interfaces #tech

Скорость – ключевой параметр адаптации, и чем ближе она к скорости восприятия информации, тем больше вероятность того, что мы останемся "в контакте" с AI и получим ценность от этого взаимодействия.

Сегодня мы поговорим о важности скорости AI инструментов, приведем примеры эффективных решений, таких как Gpoq (новый LPU чип) и Google Gemini Pro, а также обсудим значение интерфейсов ввода. Также мы введем ключевые метрики для оценки производительности этих инструментов.

Сразу оговоримся, что мы говорим здесь про потребительский уровень моделей, доступных из коробки для конечного пользователя. Понятно, что модели можно развернуть (напр. LM studio) локально на своем оборудовании, увеличив их скорость.

🔧 Технические параметры модели и метрики оценки скорости

▸ Time to First Token (TTFT): время, необходимое для генерации первого токена ответа. Чем быстрее мы увидим обратную реакцию, тем больше вероятность.
▸ Time Per Output Token (TPOT): время, необходимое для генерации каждого последующего токена ответа. Именно эта метрика соответствует тому, как пользователь будет воспринимать "скорость" модели.
▸ Tokens throughput (tokens/s): среднее количество выходных токенов, возвращаемых в секунду. Это по сути и есть скорость работы модели.
▸ Latency: общее время, необходимое для генерации полного ответа на запрос. Влияет на скорость чтения и восприятия ответа. Общую задержку отклика можно рассчитать как:
Latency = TTFT + TPOT * #tokens.

Например, TPOT 100 мс/ток будет составлять 10 токенов в секунду, или ~450 слов в минуту, что быстрее, чем обычный человек может прочитать. Обычно именно этого сравнения достаточно, чтобы модель воспринималась нами как "быстрая".

🚀 Как увеличить скорость взаимодействия с AI и почему LPU меняет правила игры?

Чтобы увеличить скорость, мы обычно либо выбираем более быструю модель, например, Gemini Pro (модель от Google, которая из коробки работает быстро), либо используем более легкие модели, такие как Mixtral-8x7b (классический пример быстрой, но эффективной open source модели)... но есть и другой вариант – использовать другие архитектуры, например, LPU (Large Language Processing Unit) - это чип, разработанный компанией Groq специально для задач, связанных с естественным языком, в отличие от стандартных GPT графических чипов. Это обеспечивает большую скорость обработки запроса, делая взаимодействие с AI почти мгновенным. Кстати, модель Mixtral-8x7b, развернутая на архитектуре Groq, сейчас доступна в POE.

Дополнительные метрики, влияющие на скорость AI-инструментов: пропускная способность, количество параллельных потоков, использование кэша, сервера, параллелизация, кэширование, квантование и др.

В зависимости от задачи, мы можем выбирать необходимый набор инструментов и их настройки. Но помимо технических параметров, на скорость взаимодействия с AI также влияют субъективные факторы восприятия и интерфейсы ввода. Об этом чуть позже...

🖤 Alex P

Восприятие скорости взаимодействия с AI
#interfaces #will

Простота доступа к AI благодаря понятным интерфейсам, будь то доступ к вкладкам, голосовые команды, автоматизация и шаблоны промптов, значительно улучшает опыт. Но помимо этого, есть еще и человеческий фактор, который ограничен скоростью чтения и ввода. Чем меньше кликов/действий нужно сделать до получения ответа, тем больше вероятность повторить этот процесс в будущем.

Можно выделить такие параметры скорости работы AI с точки зрения пользователя:

▸ Скорость открытия интерфейса (вкладка/приложение): время, необходимое для загрузки интерфейса. Чем проще доступ к AI, тем больше вероятность его использования и быстрее получение информации.
▸ Скорость ввода: время, необходимое для постановки задачи и ввода данных, включая клавиши, жесты, запись голоса.. Уменьшение времени между запросом пользователя и началом ответа AI улучшает общее впечатление от использования. Голосовые интерфейсы вроде Superwhisper значительно ускоряют этот процесс.
▸ Скорость чтения (восприятия): время, необходимое для отображения и понимания данных на экране. Оптимизация вывода данных (форматирование markdown, выделения, заголовки, листы и пр.) способствует быстрому восприятию ответа.

🕒 Ощущение моментальности возникает, когда пользователь не замечает задержки в работе модели. Это означает, что время отклика на ввод или команду менее 100-200 миллисекунд. Технически под этим понимается Time to First Token (TTFT) – время до первого токена (слова), которой мы увидим на экране, но воспринимать мы можем и другие объекты интерфейса, такие как полоса загрузки, анимация клика, всплывающие сообщения, shadow text и пр.

Именно поэтому так важен интерфейс работы с AI. Задача выбирать или даже создавать его теперь возлагается на нас. Именно это и создает тот самый майндсет, стиль мышления в новой AI-парадигме.

🖤 Alex P