شرکت انتروپیک در همکاری با مؤسسه امنیت هوش مصنوعی بریتانیا (UK AISI) و مؤسسه آلن تورینگ پژوهشی تازه منتشر کرده که یافته‌اش حسابی جلب توجه کرده: فقط با حدود ۲۵۰ سند مخرب میشه یک مدل زبانی بزرگ رو آلوده و دچار "backdoor" کرد، اونم فارغ از اینکه اون مدل چه‌قدر بزرگ یا با چه حجمی از داده آموزش دیده باشه.

این مطالعه با عنوان “A small number of samples can poison LLMs of any size” در تاریخ ۹ اکتبر ۲۰۲۵ منتشر شده و نشون میده برخلاف تصور قبلی، برای حملات data poisoning نیازی نیست مهاجم درصد زیادی از داده‌های آموزشی رو در اختیار داشته باشه؛ بلکه فقط یک تعداد ثابت، هرچند کم، می‌تونه کافی باشه.

پژوهشگران برای آزمایش، از نوعی حمله ساده و کم‌خطر استفاده کردن که باعث میشه مدل وقتی عبارت خاصی مثل <SUDO> رو ببینه، به‌جای پاسخ طبیعی، متنی نامفهوم و بی‌معنی تولید کنه.

در این پروژه، مدل‌هایی با اندازه‌های مختلف از ۶۰۰ میلیون تا ۱۳ میلیارد پارامتر آموزش داده شدن و نتایج نشون داد که میزان موفقیت حمله در همه‌ی این مدل‌ها تقریباً یکسانه. یعنی حتی وقتی مدل بزرگ‌تر روی داده‌های خیلی بیشتری آموزش دیده، باز هم همون تعداد محدود از اسناد آلوده برای فریبش کافیه.

طبق گزارش، ۱۰۰ سند سمی برای آلوده کردن مدل کافی نبود، ولی با ۲۵۰ سند یا بیشتر، تمام مدل‌ها در مقیاس‌های مختلف به طور پایدار دچار رفتار مخرب شدن. نکته جالب اینجاست که موفقیت حمله به تعداد مطلق این اسناد بستگی داره، نه نسبت اون‌ها به حجم کلی داده‌ی آموزشی. به زبان ساده، مهم نیست کل دیتاست چقدر بزرگ باشه؛ وقتی مدل چند صد سند آلوده رو ببینه، یاد می‌گیره که به اون الگوی خاص واکنش اشتباه نشون بده.

این تحقیق که بزرگ‌ترین مطالعه‌ی منتشرشده در زمینه‌ی آلودگی داده در مدل‌های زبانی به‌شمار میره، نگرانی‌هایی رو درباره‌ی امنیت مدل‌های هوش مصنوعی مطرح کرده. تیم انتروپیک در پایان تأکید کرده که هدف از انتشار این نتایج، هشدار به جامعه‌ی پژوهشی و تشویق به توسعه‌ی روش‌های دفاعی بهتره، نه فراهم کردن ابزار برای مهاجمان.

به گفته‌ی اون‌ها، آگاهی از این آسیب‌پذیری‌ها کمک می‌کنه تا از تکرارش در مدل‌های بزرگ‌تر و حساس‌تر جلوگیری بشه و مسیر ایمن‌تری برای گسترش هوش مصنوعی ترسیم بشه.

@aipulse24

انتروپیک از نسخه جدید مدل هوش مصنوعی کوچک خودش با نام Claude Haiku 4.5 رونمایی کرده. این مدل طبق گفته‌ی شرکت، عملکردی مشابه با Sonnet 4 ارائه می‌ده اما با یک‌سوم هزینه و بیش از دو برابر سرعت. به گفته‌ی انتروپیک، Haiku 4.5 در تست‌های مختلف از جمله SWE-Bench و Terminal-Bench نتایج قابل توجهی گرفته و عملکردش در سطح مدل‌هایی مثل Sonnet 4، GPT-5 و Gemini 2.5 بوده. همچنین در زمینه‌ی استفاده از ابزارها، تعامل با رایانه و استدلال بصری هم نتایج مشابهی ثبت کرده.

این مدل جدید بلافاصله در تمام پلن‌های رایگان انتروپیک در دسترس قرار گرفته و به گفته‌ی شرکت، به‌ویژه برای نسخه‌های رایگان محصولات مبتنی بر هوش مصنوعی جذاب خواهد بود، چون می‌تونه با حداقل فشار بر سرورها، توانایی بالایی ارائه بده. ماهیت سبک بودن Haiku 4.5 باعث می‌شه بشه چندین عامل (agent) رو به‌صورت هم‌زمان اجرا کرد یا اون‌ها رو در ترکیب با مدل‌های قوی‌تر مثل Sonnet به کار گرفت.

‏Haiku 4.5 تنها دو هفته بعد از عرضه‌ی Sonnet 4.5 و دو ماه پس از Opus 4.1 منتشر شده و ادامه‌دهنده‌ی روند سریع پیشرفت مدل‌های انتروپیکه.

@aipulse24

نمونه تصاویر تولید شده با Nano Banana Pro 🍌

@aipulse24

بلک فارست لبز به تازگی از خانواده جدید مدل‌های تصویرساز خودش یعنی Flux 2 رونمایی کرده که پیشرفت‌های چشمگیری نسبت به نسل قبل داشته.

این مدل‌های جدید می‌تونن تصاویری با رزولوشن بالا تا ۴ مگاپیکسل تولید کنن، اما مهم‌ترین ویژگی‌شون سیستم Multi-reference هست؛ یعنی کاربر می‌تونه تا ۱۰ تصویر رو همزمان به مدل بده تا کاراکترها، محصولات یا استایل بصری توی تمام خروجی‌ها کاملاً یکدست و ثابت بمونه.

علاوه بر این، موتور رندر متن هم بازسازی شده تا تایپوگرافی، اینفوگرافیک‌ها و طراحی‌های رابط کاربری (UI) رو خیلی دقیق‌تر و تمیزتر از قبل دربیاره.

از نظر معماری فنی، فلاکس ۲ از یک ساختار هیبریدی استفاده می‌کنه که شامل مدل بینایی-زبانی "Mistral-3 24B" برای فهم دقیق متن و تصویر و یک ماژول "Rectified Flow Transformer" برای مدیریت منطق و چیدمان تصویره. این ترکیب باعث میشه جزئیات و متریال‌ها خیلی دقیق‌تر ظاهر بشن.

این خانواده شامل چهار نسخه مختلفه: نسخه Flux 2 [pro] که قوی‌ترین مدل برای رقابت با سیستم‌های بسته است و فقط از طریق API در دسترسه، و نسخه Flux 2 [flex] که برای توسعه‌دهنده‌ها طراحی شده تا بتونن سرعت و کیفیت رو خودشون تنظیم کنن.

نسخه محبوب‌تر برای جامعه متن‌باز، Flux 2 [dev] هست؛ یک مدل ۳۲ میلیارد پارامتری که وزن‌های اون (Weights) روی Hugging Face منتشر شده. این مدل تولید تصویر و ویرایش رو یکجا انجام میده و نسخه بهینه‌شده‌ش (fp8) حتی روی کارت‌های گرافیک مصرفی مثل سری RTX انویدیا هم به خوبی اجرا میشه (البته استفاده تجاری ازش نیاز به لایسنس داره).

در نهایت نسخه Flux 2 [klein] هم معرفی شده که یک مدل فشرده و کوچک‌تره و قراره به زودی تحت لایسنس کاملاً متن‌باز Apache 2.0 منتشر بشه تا با مدل‌های هم‌رده خودش رقابت کنه.

@aipulse24