The mission of OpenAI is to ensure AGI benefits all of humanity, which means both building safe and beneficial AGI and helping create broadly distributed benefits — так начинается свежий блогпост OpenAI под названием «OpenAI и Elon Musk»

Это — публичный ответ на иск последнего в адрес компании. OpenAI намерены убедить суд отклонить иск (если вы не в курсе, о чём речь — начало тут).

1️⃣В OpenAI давно (в 2017) поняли, что создание AGI потребует куда большего количества ресурсов, чем предполагалось изначально

Компания потратила много времени, пытаясь представить вероятный путь к AGI. В начале 2017 года они пришли к выводу, что создание AGI потребует огромных вычислительных ресурсов. Начались прикидки, сколько вычислительных ресурсов может потребоваться для AGI. В тот момент пришло осознание, что для успеха нашей миссии понадобится гораздо больше капитала — миллиарды долларов в год, что было гораздо больше, чем любой из тогдашних инвесторов, особенно Elon, мог бы собрать как некоммерческая организация.

2️⃣OpenAI и Elon признали, что для привлечения этих ресурсов потребуется создание коммерческой организации

Когда началось обсуждение коммерческой структуры, Elon хотел, чтобы OpenAI объединились с Tesla, или он хотел получить полный контроль. После обсуждений Elon покинул OpenAI, заявив, что у Google/DeepMind должен появиться достойный конкурент [а не вот это].

Оба предложения Elon противоречат духу миссии компании. После отказа Elon сказал, что пойдет делать конкурента с Tesla, но будет помогать OpenAI. В декабре 2018-го он написал письмо, в котором указал, что считает нужным привлечение нескольких миллиардов долларов в год. [моё примечание: странно, что он это писал и предлагал, а теперь подаёт в суд, что мол они действительно поднимают деньги!]

3️⃣OpenAI продвигается к своей миссии через создание широкодоступных и полезных инструментов

Компания предоставляет доступ к самому мощному на сегодняшний день ИИ, включая бесплатную версию, которой ежедневно пользуются сотни миллионов людей. Например, Албания использует инструменты OpenAI, чтобы ускорить свое вступление в ЕС (по оценкам — на целых 5 лет. Тут и далее — без ссылок на источники). Digital Green помогает увеличить доходы фермеров в Кении и Индии, снижая стоимость услуг по распространению сельскохозяйственных знаний в 100 раз за счет использования технологии. Lifespan, крупнейший поставщик медицинских услуг в Род-Айленде, использует GPT-4, чтобы упростить формулировки в формах согласия на хирургическое вмешательство (с уровня чтения в колледже до уровня 6-го класса — так, что даже бабушка поймёт). Исландия использует GPT-4 для сохранения исландского языка.

Elon понимал (а многие подписчики у нас тут — нет), что миссия не подразумевает открытие кода AGI или всех связанных с этим наработок. Musk ответил «Yup» на письмо Ilya Sutskever от 2016-го года следующего содержания: «По мере того, как мы приближаемся к созданию ИИ, имеет смысл стать менее открытыми. Открытость OpenAI означает, что каждый должен иметь возможность извлечь выгоду из плодов AGI после его создания, но совершенно нормально не делиться наукой...». Само утверждение не спорное для меня, может быть спорным для вас, но Elon на него согласился, так что критика в иске выглядит странной.

(fun fact: нашёлся Ilya Sutskever, он значится одним из авторов этого блогпоста)

Примечание 1: ко всем пунктам приложены тексты писем, там всё однозначно.
Примечание 2: по мне так эти письма очень глубоко закапывают иск, и он не должен дойти до суда.

Вышел в доступ инструмент для управления поведением цифровых агентов.

🧠 Первый, SAGA (Skill to Action Generation), который настраивает поведение.

Агенты сначала сообщают контекстуальные метаданные SAGA о себе и своем мире посредством сопутствующей симуляции: кто они; что они знают; какие у них «навыки»; и каковы их цели. Затем, когда агент решает, что делать дальше, SAGA генерирует набор «действий», которые лучше всего служат целям агента в данный момент. Эти варианты действий затем оцениваются и возвращаются в симуляцию, чтобы дать указания агенту. Этот процесс повторяется каждый раз, когда агент решает свое следующее действие, и может быть масштабирован для одновременной работы нескольких агентов.

🧠 И второй, MAGE (Multi-Agent Gym Environment), представляет среду, песочницу для взаимодействия агентов. По сути, это окружение, в котором агенты существуют, выполненное в стиле городка Дикого Запада (хех, совпадения с Westworld случайны).

Для вас на выбор 15 агентов со своей историей, что называется метавоспоминания. Далее вы можете моделировать события, на которые агенты будут реагировать исходя из набора своих навыков и подобия "воли".

Подозреваю, что прямо сейчас профессия нарративщика обрастает новыми навыками: теперь не просто нужно написать историю, но и в достаточной степени натренировать и настроить модули ИИ поведения для агентов, его характер, прописать метавоспоминания и цели.

Я бы с удовольствием сделал бы подкаст с людьми, которые глубоко окунулись в моделирование поведения игрового ИИ с помощью подобных инструментов. Пишите!