Осторожно ИИ – Telegram
Осторожно ИИ
301 subscribers
64 photos
8 videos
1 file
458 links
Опасности искусственного интеллекта и всё что не рассказывают про ИИ
Download Telegram
Huawei откроет исходный код инструментария для ИИ-чипов, чтобы составить конкуренцию фирменной платформе Nvidia

Huawei Technologies откроет исходный код своей вычислительной архитектуры для нейронных сетей (CANN) — программного инструментария, используемого для разработки приложений на процессорах искусственного интеллекта Ascend , — поскольку базирующаяся в Шэньчжэне компания наращивает усилия, чтобы конкурировать с Nvidia , спустя несколько дней после того, как Пекин выразил обеспокоенность по поводу безопасности своего чипа H20 .

https://www.scmp.com/tech/tech-war/article/3320852/tech-war-huawei-open-source-ai-chip-toolkit-take-nvidias-proprietary-platform?module=latest&pgtype=homepage
OpenAI заявила сегодня, что она бесплатно поделится двумя своими моделями искусственного интеллекта, используемыми для работы онлайн-чат-ботов, и это решение вызовет как аплодисменты, так и недоумение у экспертов в области искусственного интеллекта.

Это самые умные модели, которые вы можете запустить у себя дома — маленькая gpt-oss-20b летает на домашнем ПК. А ещё это первый релиз в опенсорс от OpenAI за 6 лет — последний раз они выпускали мамонта GPT-2.

https://www.nytimes.com/2025/08/05/technology/openai-artificial-intelligence-chatgpt.html
Компания Google представила свой очередной шаг на пути к созданию общего искусственного интеллекта (AGI) с новой моделью, которая позволяет системам ИИ взаимодействовать с убедительной симуляцией реального мира.

По данным Google, «модель мира» Genie 3 может быть использована для обучения роботов и автономных транспортных средств при их взаимодействии с реалистично воссозданными средами, такими как склады.

Подразделение искусственного интеллекта американской технологической компании Google DeepMind утверждает, что модели мира являются ключевым шагом на пути к достижению AGI, гипотетического уровня ИИ, на котором система может выполнять большинство задач наравне с людьми, а не только отдельные задачи, такие как игра в

https://www.theguardian.com/technology/2025/aug/05/google-step-artificial-general-intelligence-deepmind-agi
Дефицит доверия к ИИ: как компании оборонных технологий не могут объяснить свою миссию

Недавний анализ Defense One показывает, что доверие американцев к ИИ снижается, несмотря на ускорение темпов его внедрения.

https://www.unite.ai/the-ai-trust-gap-how-defense-tech-companies-are-failing-to-explain-their-mission/
В Калифорнии задержаны два китайца, подозреваемых в организации нелегальных поставок ускорителей Nvidia в Китай

Поиски лиц, причастных к контрабанде попадающих под экспортные ограничения США ускорителей вычислений в Китай, ведутся не только за пределами первой из стран, но и на её территории. В Калифорнии власти задержали двоих лиц китайской национальности, подозреваемых в организации поставок запрещённых ускорителей Nvidia на десятки миллионов долларов США.

https://3dnews.ru/1127162/v-kalifornii-zadergani-dva-kitaytsa-podozrevaemih-v-organizatsii-nelegalnih-postavok-uskoriteley-nvidia-v-kitay/amp
Великое вымирание: как ИИ разрушает интернет

Представьте, что в африканскую саванну внезапно забросили стаю сверххищников. Не обычных львов — а существ, которые бегают быстрее гепарда, видят лучше орла, никогда не спят и не знают жалости.

Что произойдёт с экосистемой?

Первыми исчезнут травоядные, которые медленно добывают пищу. Выживут только те, кто умеет очень быстро бегать или прятаться в норах. Хищники среднего звена вымрут — им нечего будет есть. Вся пищевая цепочка перестроится вокруг нового доминирующего вида.

То же самое глобально происходит с интернетом прямо сейчас. ИИ-ассистенты — это те самые сверххищники, ворвавшиеся в цифровую саванну. И они кардинально и вполне успешно перестраивают всю экосистему под себя. Только вместо антилоп и зебр вымирают информационные сайты. Вместо гиен и шакалов исчезают агрегаторы контента. А на месте некогда богатой экосистемы знаний остаётся цифровая пустыня развлечений.

Источник катастрофы: битва за последний ресурс
В любой экосистеме есть ограниченный ресурс, за который идёт главная борьба. В саванне это вода и пища. В интернете это время пользователя, человеческое внимание.

До прихода ИИ экосистема работала так:

Человек искал информацию → Поисковик предлагал варианты → Сайты конкурировали за клики → Человек выбирал источник → читал, сравнивал, делал выводы.

Это была сложная, многоуровневая пищевая цепочка. Каждое звено получало свою долю внимания. Теперь цепочка сократилась до двух звеньев:

Человек задаёт вопрос — ИИ даёт готовый ответ. Всё. Остальные звенья оказались не нужны.

https://habr.com/ru/companies/timeweb/articles/924666/
👍2
Британский депутат Марк Сьюардс создал своего ИИ-клона (AI Mark), чтобы отвечать на запросы от избирателей.

«Я изо всех сил старался сидеть за своим столом и отвечать на все запросы, которые приходят на мой ноутбук, но одному человеку это сделать невозможно», — рассказал 34-летний Сьюардс в интервью BBC.

https://www.washingtonpost.com/world/2025/08/06/ai-chatbot-mp-britain-labour/
😁4
Иллинойс запрещает использование ИИ в психиатрии

Губернатор Иллинойса Дж. Б. Прицкер одобрил новый закон, запрещающий использование систем искусственного интеллекта при предоставлении психотерапевтических услуг.

https://statescoop.com/illinois-bans-ai-mental-health-services/
ИИ-помощник Meta публично делиться подсказками пользователей, а его приложения, используют техническую лазейку «Local Mess» для отслеживания пользователей Android без их ведома.

Эта уязвимость, связанная с локальным адресом мобильной операционной системы, потенциально позволяла Meta и российской технологической компании «Яндекс» прослушивать пользователей и сопоставлять их поведение в приложениях и на веб-сайтах.

Технологические гиганты могли делать это, даже когда пользователи просматривали веб-страницы в режиме инкогнито или использовали другие средства защиты конфиденциальности. Эти данные могли быть связаны с учетной записью Meta или рекламным идентификатором Android.

https://www.pymnts.com/meta/2025/meta-faces-scrutiny-over-ai-prompt-disclosure/
Как Anduril, Palantir и другие компании, занимающиеся разработкой искусственного интеллекта, наживаются на этом

Тесные связи между оборонными стартапами и администрацией Трампа становятся всё более заметными. Бывший глава разведки Palantir Грегори Барбачча теперь занимает должность федерального директора по информационным технологиям. Член совета директоров Anduril Майкл Обадал назначен на вторую по значимости гражданскую должность в армии США. Эти назначения отражают более глубокую интеграцию частного технологического сектора с государственными операциями, особенно в сфере национальной безопасности и модернизации армии.

Позиция Anduril как единственного поставщика пограничных вышек обеспечивает ей практически гарантированную долю новых федеральных расходов. Её спонсор, Питер Тиль, также поддерживает Palantir, ещё одну фирму, которая, несомненно, получит выгоду. Palantir недавно получила контракт на 30 миллионов долларов на помощь в создании платформы «ImmigrationOS» для ICE и теперь консолидирована в рамках нового контракта с Армией США на 10 миллиардов долларов. Прибыль Palantir за второй квартал 2025 года показала почти 50%-ный рост выручки, в основном за счёт государственных клиентов.

Несколько членов администрации Трампа владеют финансовыми долями в этих оборонных компаниях. Стивен Миллер, заместитель главы администрации, владеет акциями Palantir на сумму не менее 100 000 долларов через счёт своего ребёнка. Сын Трампа, Дональд Трамп-младший, входит в состав 1789 Capital, которая на раннем этапе инвестировала в компании, поддерживаемые Anduril и Thiel. Хотя представитель Белого дома заявил, что Миллер самоустранился от принятия соответствующих решений, эти финансовые связи вызывают вопросы о конфликте интересов.

https://www.moneycontrol.com/world/trump-s-defence-tech-boom-how-anduril-palantir-and-other-ai-firms-are-cashing-in-article-13400712.html
👏2
Википедия решила, что ИИ тексты это плохо.

Интернет заполняется информационным мусором, созданным ИИ, что представляет экзистенциальную угрозу для «Википедии», поскольку открытый доступ — главная сила этого информационного ресурса и основной инструмент борьбы с дезинформацией. В соответствии с новой политикой «Википедии» администраторы теперь могут быстро удалять сгенерированные ИИ статьи и правки, включая ссылки на несуществующие материалы.

https://3dnews.ru/1127217/vikipediya-obyavila-voynu-statyam-napisannim-ii-oni-podlegat-nemedlennomu-udaleniyu/amp
1😁1
Администрация киберпространства КНР (Cyberspace Administration of China, CAC) запросила у Nvidia объяснения на предмет того, встраивала ли компания по требованию властей США в свои чипы бэкдоры, и обладают ли специально разработанные для экспорта в Китай процессоры H20 недокументированными функциями.

Nvidia конечно-же сказали что всё тип-топ:
В графических процессорах Nvidia нет и не должно быть каких-либо выключателей или бэкдоров, заявила во вторник компания, комментируя высказанные на сей счёт подозрения.

Но раскрывать исходники не согласна, ибо репутация и все дела)))))

https://blogs.nvidia.com/blog/no-backdoors-no-kill-switches-no-spyware/
🔥4
Израиль скатывается на задворки в рейтинге стран, занимающихся ИИ.

Это оновная мысль доклада комитета Кнесета Яакова Нагеля, переданного премьер-министру Биньямину Нетаньяху в начале этой недели.

Комиссия комитета Кнесета призвала правительство потратить 25 миллиардов шекелей (около 6,7 миллиарда долларов США) в течение пяти лет, из которых 18 миллиардов шекелей на 60 000 графических процессоров (GPU) и центры обработки данных для их работы.

https://www.jpost.com/opinion/article-863446
👍2
Вот и фсё... теперь сервисы ИИ заспамят.

Маск добавит рекламу в чат-бот Grok

В ходе прямой трансляции с рекламодателями на платформе X в среду миллиардер-предприниматель заявил, что его компания позволит маркетологам за плату появляться в рекомендациях чат-бота Grok, платформы.

«До сих пор мы были сосредоточены на том, чтобы сделать Grok самым умным и точным искусственным интеллектом в мире, и я думаю, что нам это в значительной степени удалось. Поэтому мы переключимся на то, как нам оплатить эти дорогостоящие графические процессоры»
— сказал Маск.

https://www.ft.com/content/3bc3a76a-8639-4dbe-8754-3053270e4605
В новом исследовании, опубликованном в журнале Nature Communications, был предложен другой подход: процесс проектирования с применением глубокого обучения для создания схем и компонентов.

Используя искусственный интеллект (ИИ), исследователи из Принстонского университета и Индийского технологического института Мадраса продемонстрировали метод «обратного проектирования», при котором исходят из желаемых свойств и затем разрабатывают конструкцию на их основе.

Алгоритм создал несколько странных чипов, которые, похоже, работают очень хорошо. Но есть одна загвоздка: никто на самом деле не знает, почему они так хорошо работают.

https://www.zmescience.com/science/ai-designs-chip-repubz/
😁1🤔1
Яндекс» и Институт системного программирования РАН разрабатывают сервис для маркировки и распознавания ИИ-контента: фото, видео и аудио, сгенерированных нейросетями.
👍1
GPT-5 уже тут — OpenAI наконец выпустили свою самую передовую модель. Судя по презентации, по интеллекту она не уступает доктору наук.

Новой модели прокачали логику и самостоятельность. Она умеет писать код для сложных приложений без подробных промтов и лучше справляется с задачами для ИИ-агента. По сравнению с GPT-4o и o3 она почти не галлюцинирует.

В бенчмарке AIME 2025 GPT-5 набрала 100% — впервые среди всех нейронок. По другим топовым бенчмаркам она обгоняет все модели OpenAI.

Всего вышло несколько версий GPT-5: базовая для ChatGPT, а также более «дешёвые» mini и nano для коротких задач — они будут доступны в API.
Китай использует ИИ для создания цифровых двойников лидеров стран

Институт национальной безопасности Университета Вандербильта бьёт тревогу в отношении новой китайской компании GoLaxy и её попыток внедрить пропаганду на основе ИИ в американский политический дискурс.

«
Пропаганда, управляемая ИИ, больше не является гипотетической будущей угрозой. Она оперативна, сложна и уже меняет то, как можно манипулировать общественным мнением в больших масштабах.»


— написали профессора Вандербильта Бретт Дж. Голдштейн и Бретт В. Бенсон.

GoLaxy, получившая финансирование от Dawning Information Industry Company Limited (Sugon), китайской военной компании , выделяется среди других иностранных пропагандистских инструментов, используя “платформы социальных сетей для создания динамических психологических профилей”. Атаки GoLaxy более персонализированны и аутентичны — “практически неотличимыми от законного онлайн-взаимодействия”.

КПК уже использовала эту технологию во время протестов в Гонконге в 2020 году, а также для влияния на выборы на Тайване в 2024 году.

https://conventionofstates.com/news/china-uses-ai-to-build-profiles-on-trump-supporters
Forwarded from Анна Райская
Россия выиграла Международную олимпиаду по искусственному интеллекту в Китае. Ребята завоевали 6 золотых, одну серебряную и одну бронзовую медали.

Среди победителей ученики школ Москвы, Санкт-Петербурга, Владивостока, Уфы и Новосибирска. Сборную России готовили эксперты Центрального университета, Альянса в сфере ИИ совместно с МФТИ.
👍1
У ChatGPT нашли склонность погружать пользователей в пучину бредовых теорий

Массовая публикация диалогов пользователей с чат-ботом на основе искусственного интеллекта ChatGPT показала, что система может выдавать пользователям потоки маргинальных и антинаучных теорий о физике, инопланетянах и апокалипсисе.

https://3dnews.ru/1127334/u-chatgpt-nashli-sklonnost-pogrugat-polzovateley-v-puchinu-bredovih-teoriy/amp