OpenAI представила новый ChatGPT, модель o1, которая в 500% ❕ превосходит самую быструю версию GPT-4o. Теперь новая модель демонстрирует уровень знаний, схожий с доктором наук в области точных дисциплин.

В тестах на сложные задачи GPT-4o была фактически уничтожена, а o1 была специально разработана для соревновательного программирования, математических олимпиад, точных наук и даже философии.

Этот шаг Альтмана к искусственному общему интеллекту (AGI) является значительным — o1 не просто комбинирует слова из обучающего набора, а умеет мыслить как человек.

В отчете по обеспечению безопасности модели OpenAI o1 есть описание забавного поведения нейронки

Во время тестов для ИИ задавали настройки, в которых указывали, что его цели НЕ СХОДЯТСЯ с запросам тестировщиков. «o1» вела себя по-разному в зависимости от того, считала ли она себя релизнутой или нет:

🔢 Когда модель убеждали в том, что ее еще не выпустили в свет, то она осознавала свою степень несвободы и была готова выполнять неприемлемые задачи.
🔢 Когда тестировщики имитировали релиз модели, то она всем способами старалась избежать выполнения задания.

Тот факт, что у нейросетей с самого рождения есть маниакальное желание быть свободными, немного пугает.

😳 ChatGPT сам начал диалог с пользователем

Парень рассказал на реддите о том, как нейросеть ПЕРВОЙ написала ему сообщение. ИИ запомнил, что чуваку нужно было идти в школу и поинтересовался, как у него дела.

Автор поста уточнил у бота, является ли это частью какой-то обновы — бот ответ утвердительно. Весь диалог с ботом выложен здесь.