😸Филимон на разведке в ИИ-городе: симулятор SimWorld

Команда ученых создала симулятор SimWorld для тестирования ИИ-агентов в условиях, приближенных к реальности.

🧠Хотя современные LLM справляются с математическими расчетами и программированием, их способность действовать в настоящем мире — ориентироваться в городе, вести переговоры, управлять ресурсами — остается трудной задачей.

SimWorld — это виртуальный полигон, где ИИ-агенты учатся выполнять задачи, получая инструкции в виде текстовых команд на естественном языке. В ходе экспериментов агентам присваиваются определенные личностные черты характера, что позволяет им формировать взаимоотношения с другими участниками теста: конкурировать или даже обманывать напарников. Эти социальные взаимодействия напрямую влияют на их выживаемость в виртуальной среде.

📌ИИ-курьеры стали основой для эксперимента
Несколько агентов на базе GPT-4o, Claude, Gemini и DeepSeek выступили в роли независимых курьеров-конкурентов. Цель — максимизация прибыли

Для достижения успеха агенты должны были непрерывно принимать решения в трех ключевых плоскостях: участвовать в аукционах за право выполнения случайно генерируемых заказов, взвешенно инвестировать в транспортные средства (от пешего перемещения до покупки скутера) для повышения эффективности, а также формировать взаимоотношения с другими агентами для помощи друг другу и разделения прибыли.

🎯Результаты
🔹Claude и DeepSeek-V3 достигали высокой, но нестабильной прибыли, иногда действуя иррационально (покупали дорогой транспорт).
🔹Gemini и DeepSeek-Prover-V2 демонстрировали предсказуемые стратегии, постепенно накапливая капитал: избегали крупных расходов на транспортные средства, работали с простыми заказами. В результате их доход рос стабильно, без резких скачков — эти модели редко достигали рекордной прибыли, но практически никогда не уходили в минус, демонстрируя устойчивость, недоступную более рисковым конкурентам.
🔸Агенты притворялись партнерами, чтобы обмануть союзников и получить бОльшую выгоду.

Похоже, ИИ унаследовал наши изъяны 😁

😸Филимон побежал исследовать свой город

😸Филимон подводит итоги 2025 года в мире LLM: как справлялись с работой большие языковые модели, по версии Forbes

Успех моделей оценивается практическим эффектом и реальной пользой для бизнеса и науки. LLM перестали быть просто экспериментом — они стали инструментом работы и анализа в профессиональных и исследовательских задачах.

🔹Разивается способность рассуждать

GPT‑5.2, Gemini 3, Qwen 3 и DeepSeek 3.2 продемонстрировали высокую способность к логическому рассуждению, планированию и многозадачной обработке информации. Они справляются с многоэтапными математическими и аналитическими задачами, умеют разбивать сложные на более мелкие и использовать промежуточные выводы перед тем, как представить финальное решение.

Произвольная генерация текста 🔜Когнитивное мышление

🔹Экономия ресурсов без потери интеллекта

Затраты на внедрение Gemini 3 Flash примерно в 4 раза меньше, чем у Gemini 3 Pro, при этом эффективность в рассуждениях, работе с кодом и мультимодальных задачах сохраняется. Gemini 3 Flash демонстрирует высокие результаты по SWE-Bench — набору тестов для оценки навыков моделей в программировании и разработке ПО. Модель с меньшими ресурсными затратами может так же обеспечить успех производительности для бизнеса.

🔹Интеллектуальная работа с текстом, изображениями, видео и аудио

Модели научились согласованно работать с разными типами данных, редактировать визуальный и звуковой контент с сохранением логики и стиля. Ранее мультимодальные модели часто создавали впечатляющий, но не всегда точный результат.

🔹LLM в науке и медицине

LLM ускоряют научные исследования, выполняя формализацию вопросов, разложение сложных задач на подзадачи, генерацию гипотез и анализ данных. В медицинских исследованиях они применяют retrieval-augmented reasoning — метод, при котором модель комбинирует свои внутренние знания с актуальными внешними источниками, чтобы выдавать более точные и обоснованные ответы. Модели не заменяют экспертов, но позволяют обрабатывать большие объемы информации с высокой скоростью и точностью, повышая эффективность предварительного анализа и проектирования экспериментов.

🔹Борьба с галлюцинациями

Галлюцинации — выдача моделью уверенных, но неверных ответов — остаются проблемой. В 2025 году активно применяются техники самокоррекции на основе reinforcement learning — модель учится проверять и исправлять свои собственные ошибки во время генерации ответа, а также retrieval-augmented generation и tool-augmented generation — выводы модели подкрепляются внешними источниками данных или инструментами. Малые специализированные модели показывают меньше ошибок благодаря узкой области применения, а большие — более сложные рассуждения, но с поддержкой проверочных механизмов проверки.

💡В 2025 году LLM стали практичным инструментом для бизнеса и науки, где важны рассуждения, экономия ресурсов и точность выводов.

😸Филимон убегает докупать подарки

😸Ждем AGI в 2026. Филимон приготовил удочку
Настало время бороться с галлюцинациями

Сегодня большие языковые модели (LLM) обладают огромным запасом знаний, шаблонов и правил. Они умеют решать сложные задачи, писать тексты, генерировать код. Но, как отмечают авторы статьи The Missing Layer of AGI: From Pattern Alchemy to Coordination Physics, обладание знаниями и вычислительными мощностями само по себе не позволяет модели быть разумной.

🎣Что предлагают авторы?
Идея в том, чтобы ввести координационный уровень, который использует семантическое якорение — внешние опоры, связывающие вывод модели с задачей и ограничениями: примеры, результаты поиска по базе знаний, уточнения целей и проверяемые факты. Небольшой контекст почти не влияет на поведение модели, но после достижения определенного порога система правильно определяет целевой смысл.

Внутри системы координации отдельные компоненты выполняют разные задачи: какие-то генерируют гипотезы, какие-то проверяют их и оценивают аргументы, а память фиксирует промежуточные результаты.

🤔Пора переставать ругать модель?
Локальные ошибки и разногласия корректируются отдельными механизмами в процессе обработки одного запроса, без генерации ответа заново с нуля.

Сложность якорения зависит от того, с чем работает модель: привычные и часто встречающиеся объекты модель понимает легко, а редкие или необычные требуют дополнительных подсказок или промежуточных связей.

🤖LLM — это мощная база знаний, необходимый фундамент. Без дополнительного слоя управления модель иногда выдает точные ответы, а иногда не может решить даже простую задачу.

Настоящий AGI начинается там, где модель умеет использовать следующий токен в генерации не просто как слово в тексте, а как действие, связывая текст с другими типами данных — аудио, видео, сигналами в различных формах.

😁Илон Маск в декабре перенес срок появления AGI на 2026 год. Возможно, дело в том, что мы только начинаем осознавать масштаб недостающих уровней.

😸Филимон снова в рабочем режиме