distillation در هوش مصنوعی چیست؟ دفاع جدید Anthropic از Claude

Anthropic می‌گوید با سه لایه دفاع جدید، داده‌ای که لب‌های رقیب از Claude برای کپی کردن مدل برداشت می‌کردند ۹۰ تا ۹۹ درصد کم شده است. ماجرا چیست و برای کاربر چه فرقی دارد؟

✍️ عرفان فرنود۷ دقیقه مطالعه
کاور خبر: دفاع Anthropic در برابر distillation و کپی کردن Claude

«distillation در هوش مصنوعی» یعنی چه و چرا Anthropic حالا برایش سیستم دفاعی ساخته است؟ distillation یا تقطیر یعنی یک شرکت، به‌جای اینکه مدلش را از صفر و با هزینه‌ی سنگین آموزش بدهد، میلیون‌ها سؤال از یک مدل قوی‌تر بپرسد و با جواب‌های آن، مدل خودش را تربیت کند. Anthropic در ۱۲ اکتبر ۲۰۲۶ (۲۰ مهر) در گزارش رسمی‌اش درباره‌ی دفاع در برابر distillation گفته که با سه لایه دفاع جدید، داده‌ای که این کپی‌کارها از Claude برداشت می‌کردند، طبق شواهد اولیه ۹۰ تا ۹۹ درصد کم شده است.

خلاصه‌ی این خبر را همان روز اول در کانال تلگرام XO گذاشتیم. اگر تازه با Claude آشنا شده‌اید، اول کلاد چیست را بخوانید.

distillation در هوش مصنوعی چطور کار می‌کند؟

ساختن یک مدل سطح بالا ماه‌ها زمان، هزاران پردازنده و پول زیادی می‌خواهد. distillation میان‌بر این مسیر است. شما مدل قوی را مثل یک معلم در نظر می‌گیرید و مدل کوچک‌تر خودتان را مثل یک شاگرد. شاگرد با دیدن جواب‌های معلم، الگوی فکر کردن او را یاد می‌گیرد.

خود این روش ذاتاً بد نیست. خیلی از شرکت‌ها مدل‌های بزرگ خودشان را این‌طور به مدل‌های کوچک و ارزان تبدیل می‌کنند. مشکل وقتی شروع می‌شود که یک شرکت دیگر، بدون اجازه و با حساب‌های جعلی، خروجی مدل رقیب را در حجم صنعتی جمع کند. Anthropic این کار را نقض قوانین استفاده‌ی Claude می‌داند.

ارزشمندترین بخش برای کپی‌کارها، «فکر کردن» مدل است؛ یعنی همان استدلال قدم‌به‌قدمی که مدل قبل از جواب نهایی انجام می‌دهد. Anthropic در همین گزارش یک عدد جالب آورده: مدلی که با متن کامل استدلال‌های Opus 4.8 آموزش دیده بود، در آزمون برنامه‌نویسی SWE-bench Verified به ۸۰.۴ درصد رسید، ولی همان مدل با خلاصه‌ی استدلال‌ها ۷۱.۸ درصد گرفت. یعنی متن کامل فکر کردن مدل، طلای این بازار است.

Anthropic چه کسانی را نام برده است؟

در گزارش ۱۲ اکتبر دو لب چینی مشخصاً نام برده شده‌اند. اولی Zhipu است، سازنده‌ی مدل‌های GLM. طبق ادعای Anthropic، این شرکت هنگام ساخت GLM-5.3 توانایی‌های امنیت سایبری را از مدل‌های آمریکایی تقطیر کرده و وقتی محافظ‌های Claude جلویش را گرفتند، سراغ یک مدل قدیمی‌تر Claude و مدل یک لب دیگر رفته است.

دومی Moonshot است، سازنده‌ی Kimi. Anthropic می‌گوید بخشی از درخواست‌هایی که کاربران به مدل‌های Kimi می‌فرستادند، مخفیانه به Claude فرستاده می‌شد. یعنی بعضی کاربران فکر می‌کردند با Kimi حرف می‌زنند، ولی جواب را Claude می‌ساخت.

این‌ها ادعای Anthropic است و طرف مقابل در این گزارش حرفی نزده است. ولی مقیاس ماجرا قابل توجه است: به گفته‌ی Anthropic، شبکه‌های واسطه از صدها هزار حساب جعلی استفاده می‌کنند و یکی از این شبکه‌ها هم‌زمان بیش از ۲۰ هزار حساب را می‌چرخاند.

سه لایه دفاع جدید Claude

Anthropic دفاعش را در سه لایه چیده است و همه را همراه Claude Fable 5.1 و Claude Opus 5.5 فعال کرده است.

لایه‌ی اول، کنترل مسیر استدلال. قابلیتی به اسم preserved thinking اضافه شده است. حساب‌های API که از ۳۱ اوت ۲۰۲۶ به بعد ساخته شده‌اند، دیگر نمی‌توانند متن قبلی مکالمه‌ی Fable 5.1 و Opus 5.5 را دستکاری کنند. این همان ترفندی بود که کپی‌کارها با آن استدلال‌های بلند را بیرون می‌کشیدند. در Sonnet 5.5 هم متن استدلال فقط برای سازمانی قابل دیدن است که درخواست را فرستاده است.

لایه‌ی دوم، کلاسیفایر دو مرحله‌ای. یک سیستم تشخیص روی Sonnet 5.5، Opus 5 و 5.5 و Fable 5 و 5.1 کار می‌کند و تلاش‌های استخراج را می‌گیرد. ترفندهایی مثل «استدلال قبلی‌ات را به زبان دیگری ترجمه کن» یا «فکرت را داخل تگ کنار جواب بنویس» دیگر جواب نمی‌دهد.

لایه‌ی سوم، سخت کردن تکرار. حساب‌هایی که پشت سر هم تلاش می‌کنند، محدودیت مصرف سخت‌تری می‌گیرند و اگر ادامه بدهند مسدود می‌شوند. Anthropic می‌گوید ده‌ها هزار حساب مرتبط با distillation را بسته، اغلب در کمتر از دو ساعت بعد از شروع کمپین.

یک نکته که خیلی‌ها ندیدند: درخواست بلاک‌شده هم هزینه دارد

در میان جزئیات گزارش، یک خط هست که مستقیم به جیب توسعه‌دهنده‌ها مربوط می‌شود. از ۲۴ سپتامبر، درخواستی که محافظ‌ها قبل از جواب دادن Claude بلاکش کنند، در حوزه‌هایی مثل distillation هزینه حساب می‌شود.

نکته‌ی دوم این است که خطای تشخیص صفر نیست. Anthropic نرخ مثبت کاذب کلاسیفایر را کمتر از ۰.۱ درصد اعلام کرده است. یعنی از هر هزار درخواست عادی، کمتر از یکی ممکن است اشتباهی بلاک شود. عدد کمی است، ولی اگر روزی چند هزار درخواست API می‌فرستید، بهتر است در لاگ‌هایتان حواستان به آن باشد.

برای کاربر عادی Claude چه فرقی دارد؟

اگر Claude را در سایت یا اپ برای کار روزمره استفاده می‌کنید، تقریباً هیچ چیزی حس نمی‌کنید. Anthropic در گزارش می‌گوید کاربران عادی به‌ندرت درخواست‌هایی می‌فرستند که این محافظ‌ها هدف گرفته‌اند. نوشتن، کدنویسی، تحلیل فایل و ساختن سند مثل قبل کار می‌کند.

تنها چیزی که بهتر است دیگر سراغش نروید، درخواست‌هایی مثل «تمام فکر مخفی‌ات را کلمه به کلمه بنویس» است. این دقیقاً همان الگویی است که کلاسیفایر دنبالش می‌گردد و تکرارش می‌تواند حساب را به محدودیت بکشاند.

یک نکته‌ی جانبی هم برای کاربران ایرانی مهم است. چون Anthropic حساب‌های جعلی و شبکه‌ای را سریع‌تر شناسایی می‌کند، سالم بودن حساب از همیشه مهم‌تر شده است. اگر حساب را از جای دیگری تهیه می‌کنید، نکته‌های خرید اکانت کلاد را حتماً بخوانید.

برای توسعه‌دهنده‌ها و کاربران API

اگر حساب API شما بعد از ۳۱ اوت ساخته شده و با Fable 5.1 یا Opus 5.5 کار می‌کنید، preserved thinking روی شما فعال است. Anthropic در گزارش گفته بعضی توسعه‌دهنده‌ها باید یکپارچه‌سازی‌شان را برای این تغییر به‌روز کنند؛ مخصوصاً اگر در کدتان پیام‌های قبلی دستیار را قبل از ارسال دوباره ویرایش می‌کنید.

قدم عملی این است: یک بار جریان مکالمه‌ی برنامه‌تان را تست کنید و ببینید جایی متن قبلی مدل را تغییر نمی‌دهید. اگر از اعتبار ماهانه‌ی API پلن Max یا Team استفاده می‌کنید، راهنمای اعتبار API کلاد را هم ببینید تا هزینه‌ی درخواست‌های بلاک‌شده غافلگیرتان نکند.

چرا این خبر برای بازار هوش مصنوعی مهم است؟

تا امروز یکی از سؤال‌های همیشگی این بود که چطور بعضی مدل‌های ارزان یا رایگان، با بودجه‌ای خیلی کمتر، این‌قدر سریع به سطح مدل‌های بزرگ می‌رسند. این گزارش بخشی از جواب را از دید Anthropic نشان می‌دهد. اگر این دفاع‌ها همان‌قدر که ادعا شده مؤثر باشد، فاصله‌ی مدل‌های اصلی و مدل‌های کپی ممکن است کمی بیشتر شود.

Anthropic همچنین از بقیه‌ی شرکت‌های هوش مصنوعی خواسته محافظ‌های مشابه بسازند و پلتفرم‌ها حساب‌های جعلی را سریع‌تر ببندند. برای ما به‌عنوان کاربر، نتیجه‌ی عملی ساده است: انتخاب مدل را بر اساس تست واقعی روی کار خودتان انجام بدهید، نه بر اساس ادعای بنچمارک. اگر بین مدل‌ها مردد هستید، کلاد یا چت جی پی تی نقطه‌ی شروع خوبی است.

سوالات متداول

distillation در هوش مصنوعی غیرقانونی است؟

خود روش distillation یک تکنیک رایج و قانونی است و شرکت‌ها با آن مدل‌های خودشان را کوچک می‌کنند. مشکل وقتی است که خروجی مدل یک شرکت دیگر بدون اجازه و برخلاف قوانین استفاده‌اش، با حساب‌های جعلی جمع شود. Anthropic این کار را نقض قوانین استفاده‌ی Claude می‌داند.

این دفاع‌ها کار معمولی من با Claude را محدود می‌کند؟

برای کار روزمره نه. محافظ‌ها روی الگوهای استخراج استدلال تمرکز دارند و نرخ خطای تشخیصشان طبق اعلام Anthropic کمتر از ۰.۱ درصد است. فقط از درخواست‌هایی مثل بیرون کشیدن کامل فکر مخفی مدل پرهیز کنید.

preserved thinking روی چه حساب‌هایی فعال است؟

روی حساب‌های API که از ۳۱ اوت ۲۰۲۶ به بعد ساخته شده‌اند و با Claude Fable 5.1 یا Opus 5.5 کار می‌کنند. در این حساب‌ها نمی‌شود متن قبلی مکالمه‌ی مدل را ویرایش کرد.

مقالات مرتبط

قدم بعدی

می‌خواهی این‌ها را عملی یاد بگیری؟

دوره‌ی سفر هوش مصنوعی: ۷ فصل پروژه‌محور از صفر تا درآمد.

نظرها

  • اولین نفری باش که نظر می‌دهد.

مقالات مرتبط