Slopsquatting می‌تواند زنجیره تأمین نرم‌افزار را از درون آلوده کند

تا چند وقت پیش، وقتی از «توهم هوش مصنوعی» حرف می‌زدیم، بیشتر یاد جواب‌های اشتباه، منابع ساختگی یا توضیح‌های مطمئن اما غلط می‌افتادیم. اما حالا این توهم می‌تواند از صفحه چت بیرون بپرد و وارد کد واقعی شود. Slopsquatting دقیقاً از همین نقطه شروع می‌شود: مدل زبانی هنگام کدنویسی، نام یک پکیج نرم‌افزاری را پیشنهاد می‌دهد که اصلاً وجود ندارد، اما آن‌قدر طبیعی و فنی به نظر می‌رسد که توسعه‌دهنده به آن شک نمی‌کند.

Slopsquatting ترکیبی از «AI slop» و «Typosquatting» است. در Typosquatting، مهاجم نسخه غلط‌نویسی‌شده یا شبیه به نام یک دامنه یا پکیج معروف را ثبت می‌کند تا از اشتباه تایپی کاربران یا توسعه‌دهندگان سوءاستفاده کند. اما در Slopsquatting ماجرا ظریف‌تر و خطرناک‌تر است: AI خودش یک نام خیالی اما باورپذیر برای یک پکیج می‌سازد. مهاجم اگر بفهمد مدل‌ها چه نام‌هایی را زیاد توهم می‌کنند، همان نام‌ها را در مخزن‌های عمومی ثبت می‌کند و داخلشان بدافزار می‌گذارد. بعد، توسعه‌دهنده‌ای که به دستیار کدنویسی خود اعتماد کرده، ممکن است آن پکیج را وارد پروژه واقعی کند.

فرق مهم این حمله با Typosquatting سنتی این است که سیستم‌های حفاظتی معمولاً دنبال غلط‌های شبیه به نام‌های معروف می‌گردند. مثلاً اگر کسی بخواهد نسخه‌ای شبیه «cross-env» با غلط املایی ثبت کند، رجیستری‌ها ممکن است هشدار بدهند. اما اگر مدل نامی مثل «cross-env-extended» یا عبارتی ظاهراً منطقی اما غیرواقعی پیشنهاد کند، دیگر الزاماً شبیه یک غلط تایپی ساده نیست. اینجا حمله از اشتباه انسان شروع نمی‌شود؛ از اعتماد انسان به تخیل ماشین شروع می‌شود.

زمینه هم برای این تهدید آماده است. یک تیم پژوهشی ۳۱,۲۶۷ آسیب‌پذیری مربوط به ۱۴,۶۷۵ پکیج را در ۱۰ زبان برنامه‌نویسی بررسی کرد و دید آسیب‌پذیری‌های گزارش‌شده با نرخ سالانه ۹۸ درصد رشد می‌کنند؛ درحالی‌که تعداد پکیج‌های متن‌باز سالانه حدود ۲۵ درصد افزایش دارد. بدتر اینکه میانگین طول عمر آسیب‌پذیری‌ها هم ۸۵ درصد بیشتر شده است. یعنی نه‌تنها مشکل‌ها بیشتر می‌شوند، بلکه دیرتر هم از بین می‌روند. در چنین محیطی، یک پکیج آلوده می‌تواند ماه‌ها یا حتی سال‌ها در کدهای تولیدی باقی بماند.

خود مدل‌ها هم به این مشکل دامن می‌زنند. یک مطالعه نرخ توهم را بسته به مدل و روش پرامپت بین ۵۰ درصد تا ۸۲ درصد گزارش کرده و حتی GPT-4o، بهترین مدل بررسی‌شده، با روش‌های کاهش مبتنی بر پرامپت هم پایین‌تر از ۲۳ درصد نرفته است. در پژوهشی دیگر، محققان ۳۰ آزمون روی ۳۰ سیستم مختلف انجام دادند و از ۵۷۶,۰۰۰ نمونه کد و ۲.۲۳ میلیون پکیج تولیدشده، ۱۹.۷ درصد را توهمی یافتند. GPT-4 Turbo نرخ توهم ۳.۵۹ درصدی داشت، درحالی‌که DeepSeek 1B، بهترین مدل متن‌باز بررسی‌شده، به ۱۳.۶۳ درصد رسید. جمع‌بندی پژوهش این بود که مدل‌های اختصاصی حدود ۴ برابر کمتر از مدل‌های متن‌باز پکیج خیالی تولید می‌کنند؛ هرچند این به معنی امنیت همیشگی مدل‌های اختصاصی نیست.

رشد «وایب کدینگ» و کدنویسی با کمک AI این خطر را بزرگ‌تر می‌کند. وقتی ۷۲ درصد کسانی که ابزارهای کدنویسی AI را امتحان کرده‌اند روزانه از آن استفاده می‌کنند، سطح حمله هم بزرگ‌تر می‌شود. راه‌حل، کنار گذاشتن AI نیست؛ مثل این است که چون GPS گاهی اشتباه می‌کند، نقشه را دور بیندازیم. مسئله این است که باید خروجی آن را راستی‌آزمایی کرد: نام پکیج‌ها باید پیش از ورود به پروژه در مخزن‌های رسمی بررسی شوند، چک‌های خودکار برای اعتبارسنجی وابستگی‌ها اجرا شود، نصب‌های غیرعادی مانیتور شود و تیم‌های امنیتی تهدیدهای شناخته‌شده Slopsquatting را دنبال کنند. در کدنویسی با AI، اعتماد بدون بررسی، همان جایی است که حمله شروع می‌شود.