Вот я тут рассказываю про методы искусственного интеллекта, про решаемые задачи и траектории его развития...
А собственно, с чего все началось??? Как люди пришли к идее и уже частичной реализации себе подобных?

На самом деле, все началось еще с Аристотеля, который впервые задумался о формализации человеческого мышления. Его идеи обрели ценность только спустя многие столетия и были интегрированы в автоматизированные устройства.
В конце 1950-х годов люди сфокусировались на создании алгоритмов, способных принимать решения в различных играх и головоломках (шашки, шахматы). В следующем десятилетии появились задачи на умение "мыслить" не в искусственно созданных условиях, а в реальных. Были разработаны первые роботы, а также всеми любимый язык* Lisp😍 Тогда же появились первые генетические алгоритмы, понятия нечеткой логики и нечетких множеств (Лотфи Заде).
Спустя некоторое время появляется другой всеми любимый язык Prolog😏 Формулируется задача о представлении знаний и общении с машиной на естественном языке. На текущее время, существует два основных направления развития ИИ:
- восприятия человеческой деятельности, анализ и попытка повторить результат;
- изучение психологических, анатомических, химических механизмов деятельности человека и их воспроизведение.

* под всеми любимыми понимается студенты ИжГТУ

#about_ml

🎉 У меня радостные новости!!! 🎉

с 24 по 28 апреля пройдет образовательный форум в МФТИ по искусственному интеллекту, математике и физике. "Образовательный форум в МФТИ — это встречи с учеными на лекциях и общение с ними «без галстуков», хакатоны по искусственному интеллекту и физике, экскурсии в лаборатории знаменитых институтов и центров передовых знаний и компетенций. Участников форума ждет разнообразие исследовательской тематики: от биофизики до физики нейтрино, от алгебры логики до методов трехмерного компьютерного зрения."

Участники данного мероприятия отбирались по их мотивационным письмам. Так вот.
Мою заявку одобрили!!!🥳🥳🥳

Так что в конце апреля еду покорять Москву🥸

Приложу свое мотивационное письмо для тех, кому интересно почитать)

#dvizh

Есть два основных подхода построения систем искусственного интеллекта: информационный и нейробионический.

Информационный подход (также его называют нисходящим или "сверху-вниз") основывается на объяснении полученных результатов и принятых решениях Такие экспертные системы подразумевают собой отсутствие каких-либо знаний и навыков логического вывода, но при этом они умеют имитировать психическое поведение человека: речь, эмоции, творчество и рассуждения. На сегодняшний день этот метод считается наиболее проработанным, хотя его результаты все так же далеки от результатов работы человеческого мышления.

Нейробионический подход (по аналогии восходящий или "снизу-вверх") занимается воспроизведением биологических структур мозга и его механизмов. Сюда же входит создание соответствующих систем: нейрокомпьютеров и биокомпьютеров. Этот подход чаще всего продвигают писатели и режиссеры: машина начинает чувствовать и ощущать себя. Однако сразу же назревает вопрос: в какой момент можно определить машину как осознанную? Есть много предположительных решений. Например, всем знаменитый тест британского математика Алана Тьюринга, суть которого заключается в диалоге машины и человека, в ходе которого человек не поймет, что общается с искусственным интеллектом (есть шутка про доп. баллы за то, что система заставит думать человека, что он сам является машиной😳).

В любом случае, создание действительно разумного интеллекта еще далеко, так что можно не волноваться, что он отнимет у нас работу😅

#about_ml

Полтора часа ушло на то, чтобы разобраться какой подход за что отвечает🫠
Почему-то во многих русскоязычных источниках противоречат эти два понятия, хотя пишут +- одно и то же. К тому же, нашла информацию, что сторонники первого подхода считают, что возможно создать полностью самостоятельный и мыслящий ии, а сторонники второго подхода - нет.
Лично мне непонятно почему так🤷‍♀️
Вроде казалось бы, создание машины, полностью повторяющее строение человеческого мозга, должно вести за собой и повторение его процессов, то бишь повторение мышления человека.
Так и не поняла, почему нейробионический подход считает иначе.

#about_ml

Так, что-то я совсем выпала из реальности с этой учебой…

Из новостей:
1. Финал «Я - профи» по математике уже завтра. Я совсем не подготовилась к нему, поэтому залечу туда чисто ради интереса. Очень смущает дистанционный формат довольно серьезного мероприятия - жесткие требования для участников: наличие микрофона и камеры, направленной на тебя, твои руки и твой стол; хорошая скорость инета и куча всего другого. Первый раз с таким сталкиваюсь, поэтому немного не по себе😬
2. Начала читать книжку «Наука о данных», которую скидывала в одном из постов. Очень сильно зацепило, потому что написано лёгким и простым языком, даже с юмором))) Затрагиваются обширные темы максимально поверхностно, но очень эффективно, чего достаточно на первоначальном этапе изучения data science.
3. Готовлюсь к поездке на день открытых дверей в МФТИ. Планирую осмотреться в студ. городке, т.к. раньше никогда не была в Долгопрудном. Ну и естественно, максимум узнать про магу, экзы, научруков и общаги. (Хотя скорее всего, я больше узнаю на форуме)
4. Начинаю со следующей недели усиленно заниматься дипломом. К сожалению, по стечению обстоятельств моя крутая идея с распознанием превратилась в обычную визуальную обертку 😢 Ладно, если честно, всегда считаю, что никто и ничто не причастны к событиям, кроме меня самой ахахахах. Так что будем стараться выкручиваться из ситуации и вывозить на ‘’междустрочных’’ темах.

Как всегда, не теряю духа и мотивации, смотрю только вперёд😎 Как сказал мой учитель физики: «Беги в направлении своей мечты. Если не можешь бежать, то иди. Если не можешь идти, тогда ползи. Ну а если и ползти не можешь, тогда лежи в ее направлении!»

#dvizh

Ну вот, начало форума МФТИ по искусственному интеллекту уже завтра😊
Сижу, жду самолет. Немного волнуюсь…
Но ничего страшного, ведь уже сегодня меня ждет знакомство с интересными людьми, а завтра куча увлекательных лекций☺️
Буду стараться писать конспекты в этот паблик. Наверное, многим будет интересно, что это вообще за тусовка?)

#dvizh

Прошел первый день форума✨
У меня взорвался мозг от количества новой информации🤯 К слову, новым было абсолютно все)))

Начну с самого начала. Как я поняла, главным спонсором является medtech Moscow (за рекламу мне не платят). В этой компании есть стажировка. И как они пообещали, у них больше денег на зп, чем в яндексе. Еще одна крутая плюшка, это то, что они могут предоставить проживание иногородним.
Компания занимается кучей стартапов в области медицины, основные из них:
1. По по разработке протезов.
2. Моделирование взаимодействия препаратов фармацевтики.
3. Реабилитационная технология временной нейровизуальной стимуляции.
4. Генетика. Секвенирование и другие умные слова.
5. Компьютерное зрение по оценке анализов. У них есть размеченные данные анализов 13,5 млн человек!!!
6. Медицинское оборудование. Мониторинг глюкозы.

О лекциях напишу чуть позже, как появится свободное время :)

#dvizh

Итак, первая лекция была от директора Физтех-школы прикладной математики и информатики (ФПМИ) Андрея Михайловича Райгородского по сложным сетям и графам 🔀

Простым языком сложные сети имеют очень много вершин, и при этом у них постоянно меняются ребра. Ярким примером служат социальные сети, которыми мы все так активно пользуемся))
Поясняю:
• Человек в соц. сети создает аккаунт - так появляется вершинка графа;
• Затем, человек отправляет запросы в друзья другим людям. Некоторые из них принимают заявку и образуется связь между двумя вершинками, то бишь ребро;
• Затем кому-то из них (или обоим ахах) может захотеться разорвать эту связь и они удаляют человека из друзей => ребро исчезает;
• Итак постоянно повторяются пункты с 1 по 3 не останавливаясь 24/7. Поэтому, существует огромное количество акаунтов и их ребра постоянно пропадают и исчезают.

На лекции было много много математики, которую я сама-то толком не поняла 🫤 По словам Райгородского, меня «КОКНУЛИ» еще в начале лекции😂
Ну ладно, лекцию обещали выложить в общий доступ, так что будем нагонять…
Тем более, графы - ваще кайфовая тема (я считаю).

#about_ml

Как мне кажется, на текущий момент самая интересная часть форума - хакатон (от него у меня больше всего эмоций 🥹). Коротко расскажу об этом мероприятии.
Мы группировались в команды по 1-4 человека и выбирали одну из 3-х предложенных задачек: позиционирование на территории кампуса МФТИ; распознавание магнитограмм; повышение разрешения аэродинамических полей. Наша команда четырех супер-девочек решила выбрать первую задачу😎

Суть задачи в чем. Есть робот, который прокатился зимой и весной в разное время суток по территории института и «зафиксировал» свои треки. В каждый такой трек (было всего 3) входят изображения с передней и задней камеры (моменты снимков с двух камер соответствуют друг другу), семантические данные с лидара, какие-то бортовые данные и текстовое описание каждой картинки. Интересно, что это описание формировалось путем прогона всех картинок через miniGPT-4. В итоге, положение робота определялось таким образом: берутся все картинки из первого трека, сравниваются со всеми картинками из второго трека и находятся пары наиболее схожих картинок. Ответ формируется из всех сочетаний трех треков (С из 3 по 2: всего 6 сочетаний). Также, организаторы предложили нам базовое решение, которое нужно было улучшать любыми способами😂
К сожалению, мы не додумались тюнить исходную модельку, поэтому мы работали только с ее выходными данными. Идея была в токенизации текста картинок и составлении таблицы сходств двух картинок. После чего, проверяем сходства из модельки с нашим решением и с вероятностью 0.8 в пользу модельки выбираем правильный ответ (только при условии, что ответы модельки и наши отличаются).
Опять же, у нас ушло много времени на запуск базового решения из-за технических особенностей сред. Поэтому, мы не успели реализовать до конца нашу идею и остались просто участниками, а не призерами😢
Но! Я не расстраиваюсь. Я получила огромный опыт в участии в подобных мероприятиях и дико горю желанием заниматься подобными вещами дальше!!! Думаю, в следующем году тоже поеду сюда с конкретной целью побеждать в хакатоне😁

#dvizh

Немного подробнее с нашим решением можно ознакомиться в нашей презентации для защиты 👇

Кстати, вот так выглядит этот робот)

Ну вот, форум закончился 😢
Я бесконечно рада, что посетила это мероприятие и планирую дальше искать и кататься по подобным штукам. Получила для себя множество знаний, навыков, знакомств и океаны эмоций✨

#dvizh

Меня до сих пор не отпускают впечатления от форума😭
Особенно от лекций)) Большинство из них было, конечно, про RL - обучение с подкреплением. Но об этом расскажу позже.

Сейчас мне хочется поделиться темой, которая произвела на меня наиболее сильное впечатление - импульсные нейронные сети (ИНС). Их структура копирует принципы функционирования биологических нейронов. Это означает, что информация внутри них передается только за счет сигналов нейронов, называемых спайками. Функционирование разных нейронов никак явно между собой не синхронизировано. Если информация имеет числовой характер, то ее можно закодировать популяционно-частотным кодированием (повышение частоты порождения спайков определенной группой нейронов) и позиционным кодированием (задается порядок получения спайков на выходах сети). Если же информация имеет характер символов, то используется так же позиционное кодирование и пространственно-временное (информация задается не только определенной последовательностью импульсов во времени, но они еще и должны исходить от определенной группы нейронов).
Обучение ИНС происходит так же, как и у традиционных сетей - с помощью изменения синоптических весов. Однако из-за дискретности сети не получается применять градиентные методы обучения (метод распространения обратной ошибки). Хотя говорят, что существуют проекции традиционных методов обучения)
Основной подход в обучении - выявление корреляции в потоках импульсов. Первый этап: обучение без учителя - поиск корреляций во входном сигнале. Второй этап: обучение с учителем - поиск корреляций между входным импульсом и импульсом, кодирующим целевую переменную. Третий этап: обучение с подкреплением - поиск корреляций между входным сигналом, выходным сигналом и оценочным сигналом (возможно – с временной задержкой).

Автор лекции Михаил Киселев АО «лаборатория Касперского».

#about_ml

Кстати, хочу уточнить у Вас, товарищи, всем ли понятны термины обучения с подкреплением, учителем и без? Или все же стоит подробнее разобрать эту тему и расставить все точки над i?

Кстати, совсем забыла сказать

Неделю назад закончился первый этап отбора в ШАД. Я решила 4 задачи из 12, чего не хватило для прохода во второй этап😔

Ладно, на самом то деле я не сильно расстроилась, потому что знаю, что уделила недостаточно времени и внимания данному мероприятию🤷‍♀️

Вообще, сейчас мне больше всего хочется поступить в магистратуру центра когнитивного моделирования.

Не знаю, как закончить этот пост…
Сижу решаю ЛинАл)

#info

Так, ну что
По результатам опроса видно, что половина из проголосовавших имеет представление о методах обучения нейронок.
Однако существенная часть плохо знакома с этой темой, либо вообще не знают что это за заверь такой🐸

Начнем потихоньку разбираться.
Что такое вообще это ваше обучение нейронной сети??? Это такой процесс работы программы, в ходе которого подбираются наиболее оптимальные значения весов сети для решения поставленной задачи.

Самое простое, на мой взгляд, это обучение с учителем. Для его реализации нам нужен какой-то набор данных, на которых у нас будет обучаться модель. Причем, все данные должны быть полностью размечены! Например, если мы хотим научить модель различать на фотографиях кошек и собак, нам нужны:
◦ фотографии с животными (можно без животных);
◦ соответствующие файлы с описанием названий распознаваемых объектов (кошка, собака) и их координатами расположения (не помню точно какие конкретно координаты. Полагаю, в случае выделения объекта в прямоугольник нужны координаты левого верхнего угла и правого нижнего)
Такой набор данных называется обучающей выборкой или датасетом. В разных источниках пишут о разном минимально необходимом количестве данных на один объект (лейбл). По крайней мере, на моем опыте обучения yolo v4 на 78 объектов было достаточно порядка 500 настоящих фотографий и ~2к синтетически сгенерированных изображений. Обычно рекомендуют брать 80% данных из обучающей выборки в качестве тренировочных данных (скармливаем модельке и фотографии, и их описание. Прямо тыкаем «тут изображена кошка, а здесь собака») и 20% тестовых данных (что-то вроде «контрольной по пройденному материалу»😌).
После предварительной подготовки датасета можно приступать к обучению модели. Самый популярный способ обучения - метод обратного распространения ошибки. Коротко о главном:
1. Объявляем первоначально рандомные значения весов нейронной сети;
2. Прогоняем данные через все слои и смотрим, что мы получили на выходе;
3. Зная «правильный ответ», можем посчитать на сколько ошиблась обучающаяся моделька. Вычисляем ошибку по определенной метрике;
4. Корректируем значения весов (чувствуете «обратное распространение»?);
5. Обучаем так на всех тренировочных данных;
6. Проводим «контрольную работу» для оценки эффективности модельки;
7. Пишем информацию об обучении на данной эпохе в логи🙃;
8. Повторяем п. 1 установленное кол-во эпох.
9. profit.
Важный момент! Моделька может переобучиться на подготовленном датасете. Она начнет выдавать «идеальные» ответы с вероятностью ~0.99999 для данных из обучающей выборки. Однако! На других данных ее ответы будут ужасными😖

Ниже прикреплю свою первую статью🥰 посвященную как раз обучению с учителем. Там более подробно описаны процессы подготовки обучающей выборки и запуска обучения модельки tensorflow.

#about_ml

Боже, только середина недели, а уже столько событий произошло🤯

Самое важное: я успешно прошла собеседование в магистратуру Центра когнитивного моделирования!!!!!!!!😭😭😭

Конечно, оно не освобождает от сдачи экзамена. Однако, я попала в приоритетный список на зачисление😎

Штош, бешено ботаем матешу, чтобы не оплошать😅

#info

Подготовка к диплому бурно продвигается, защита уже совсем скоро) Думаю, напишу о нем подробно, когда уже выступлю, т.к. вношу правки почти каждый день😅
А пока, давайте продолжим тему обучения нейронок.

Сегодня поговорим об обучении без учителя 🥸
Собирать большие размеченные данные зачастую нелегко. Это требует много ресурсов и времени. Поэтому придумали еще один способ обучать модели: без использования правильных ответов в конкретных ситуациях. Скорее, вообще без каких-либо ответов.
На вход алгоритму обучения поступает множество различных (не размеченных) данных, и его цель заключается в поиске закономерностей между ними. Отсюда вытекают следующие задачи, в которых используются данный метод:
◦ Классификация (или кластеризация): наиболее распространенная задача этого вида обучения. Алгоритм находит общие признаки входных данных, подбирает похожие и группирует их вместе. Примитивный пример - разделить фотографии, на которых изображены кошки и собаки (не путать с обучением с учителем, конкретно с object detection, где нейронки выделяют границы объектов на фотографии. Здесь алгоритм просто присваивает определенный класс изображению, не определяя границы самого объекта).
◦ Поиск ассоциаций: на основе какой-то группы объектов проводятся ассоциации с другими объектами. Задача часто используется в анализе покупок клиентов продуктовых магазинов. К примеру, если вы часто покупаете колбасы и готовый маринованный шашлык, то скорее всего приложение данного магазина предложит Вам стейки с вашей личной скидкой :) Была забавная история, когда молодая девушка покупала продукты и приложение магазина предложило ей товары для беременных со скидкой. На что отец девушки сильно рассердился и пожаловался компании за ложную информацию. Однако, в скоре действительно оказалось, что девушка была беременна. Отец принес свои извинения компании.
◦ Обнаружение аномалий: так же эта задача классифицируется как поиск выбросов в выборке данных. В качестве примера можно привести банковскую сферу - поиск мошеннических операций. Если считать, что все операции по картам происходят в радиусе одной страны, то операция, проведенная в Москве и Доминикане за один час могут быть подозрительными.

У библиотеки машинного обучения на питоне scikit-learn есть модули обучения без учителя. Сама я с ними не игралась. Тем не менее, мне кажется это очень интересно потестировать такой метод на своих данных и попробовать даже реализовать какую-нибудь полезную штуку.

#about_ml