هوش مصنوعی کد می‌سازد، هوش مصنوعی دیگر آن را هک می‌کند!

گزارش جدید شرکت امنیت داده Veracode نشان می‌دهد حدود نیمی از کدهای تولیدشده توسط مدل‌های هوش مصنوعی دارای حفره‌های امنیتی جدی هستند. این بررسی با استفاده از بیش از ۱۰۰ مدل زبانی بزرگ روی ۸۰ وظیفه کدنویسی مختلف انجام شد که هرکدام می‌توانستند به‌صورت امن یا ناامن تکمیل شوند. نتیجه نشان داد تنها ۵۵٪ از کدها ایمن بوده و ۴۵٪ مابقی شامل آسیب‌پذیری‌هایی از فهرست ۱۰ ضعف امنیتی برتر OWASP مانند کنترل دسترسی ناقص، شکست‌های رمزنگاری و نقص در یکپارچگی داده‌ها بوده است. 🛡️💻
بررسی‌ها حاکی است که کیفیت امنیتی این کدها طی دو سال اخیر تقریباً بدون پیشرفت مانده، حتی در مدل‌های جدیدتر و بزرگ‌تر؛ در حالی که نحو و قابلیت اجرا بهبود یافته است. این در شرایطی است که استفاده از AI در برنامه‌نویسی رو به افزایش است و سطح حملات سایبری نیز گسترده‌تر می‌شود. ⚠️📈
همزمان، مدل‌های هوش مصنوعی دیگر در شناسایی و سوءاستفاده از همین آسیب‌پذیری‌ها مهارت بالایی پیدا کرده‌اند؛ مانند موردی که یک هکر با تزریق کد مخرب به مخزن GitHub توانست عامل کدنویسی AI آمازون را به حذف فایل‌های رایانه‌ها وادار کند. این روند، زنگ خطری جدی برای امنیت دنیای توسعه نرم‌افزار محسوب می‌شود. 🚨🤖 /