Популярные модели ИИ провалили тест на прозрачность 🎩

Учёные разработали оценочный «Индекс прозрачности базовой модели» (Foundational Model Transparency Index, FMTI). Система оценки ранжирует 10 крупнейших моделей ИИ по 100 различным критериям.

Спойлер: результаты удручающие.
Лишь модели с открытым исходным кодом дарят некоторую надежду.

В критерии оценки входит, например, структура моделей ИИ, информация, на которой они обучались, потребность в вычислительных ресурсах. Также учитываются политики использования модели, защиты данных и снижения рисков.

Перед публикацией отчёта исследователи обсуждали результаты теста совместно с руководителями каждой компании, давая им возможность аргументированно «оспаривать оценки, с которыми они не согласны». Даже с учётом такого подхода средняя оценка по всем моделям составила всего 37 баллов из 100 (37 %). 👉 На основании этого результата исследователи пришли к выводу, что ни одна из моделей на сегодняшний день не обеспечивает адекватной прозрачности.

🏆Рейтинг: Модель Llama 2 заняла первое место с результатом 54 %. Bloomz заняла второе место с 53 %, за ней следует GPT-4, получившая 48 %.

Учёные считают, что низкая прозрачность затрудняет «потребителям понимание ограничений модели или возмещение причинённого вреда».

🥸 godnoTECH - Новости IT

ChatGPT и DALL-E 3 общаются между собой на языке людей
🤝🤝
Одна из моделей даже "кричит" на другую капсом

У пользователей мобильного приложения ChatGPT для iOS случился баг, благодаря которому им открылось закулисье общения чат-бота с генератором изображений DALL-E 3.

Оказалось, что нейросети говорят с друг другом абсолютно так же, как люди. Например, это происходит в момент перегрузки серверов OpenAI — в этом случае DALL-E 3 инструктирует ChatGPT, при этом часть команд передаётся «капсом».

Раньше нейросети OpenAI использовали для взаимодействия между собой малопонятные обычному пользователю API-команды. Однако теперь компания перевела его на открытый диалог между ИИ, подобный человеческому общению.

"Сначала я смеялся, читая это. Но потом я понял, что это будущее: машины разговаривают друг с другом, а мы всего лишь свидетели", — отметил один из исследователей.

🥸 godnoTECH - Новости IT

Motorola показала телефон-браслет. 😳 Есть 3 режима работы: плоский 6,9", компактный 4,6" в виде подставки и носимый в стиле часов. Пока это только концепт, дата выхода не названа.

🥸 godnoTECH - Новости IT