مهاجمان ایرانی و چینی در حال سواستفاده از ChatGPT برای آماده‌سازی حملات و توسعه بدافزار
اخبار داغ فناوری اطلاعات و امنیت شبکه
مجموعه OpenAI ٢٠ عملیات سایبری و نفوذ را در سال ٢٠٢٣ شناسایی و متوقف نمود و ادعا کرد که مهاجمان مرتبط با ایران و چین از ChatGPT برای برنامه‌ریزی حملات ICS استفاده کرده‌اند.
مجموعه OpenAI از اختلال در بیش از ٢٠ عملیات سایبری و نفوذ در سال‌جاری خبر داد که شامل هکر‌های ایرانی و چینی با حمایت دولتی می‌شود.
این شرکت فعالیت‌های سه عامل تهدید را که از ChatGPT برای انجام حملات سایبری سواستفاده می‌کنند، افشا کرد. یکی از این گروه‌ها CyberAv3ngers است که به ادعای این مجموعه، یک عامل تهدید مرتبط با سپاه پاسداران انقلاب اسلامی (IRGC) است.
طبق ادعا‌ها، در گذشته، این گروه سیستم‌های کنترل صنعتی را در شرکت‌های آب در ایرلند و ایالات متحده هدف قرار داده است. این گروه به جای استفاده از تکنیک‌های پیشرفته هک، از سیستم‌هایی با اعتبارنامه پیش‌فرض برای به خطر انداختن شبکه‌های هدف بهره‌برداری می‌کردند.
رفتار ChatGPT مشاهده شده عمدتا شامل تلاش برای شناسایی بوده است؛ عاملان تهدید از پلتفرم OpenAI برای جستجوی اطلاعات در مورد شرکت‌ها، خدمات و آسیب‌پذیری‌ها، مشابه سرویس‌های جستجو‌های موتور‌های جستجو، استفاده کردند. مهاجمان همچنین از چت جی‌پی‌تی برای کمک به رفع اشکال کد‌ها استفاده کردند.
گزارش OpenAI می‌گوید: «وظایفی که CyberAv3ngers از مدل‌های ما می‌پرسیدند در برخی موارد بر روی درخواست ترکیب نام کاربری و رمز عبور پیش‌فرض برای PLCهای مختلف متمرکز بود. در برخی موارد، جزئیات این درخواست‌ها حاکی از علاقه یا هدف قرار دادن اهدافی در اردن و اروپای مرکزی بود. اپراتور‌ها همچنین برای ایجاد و اصلاح اسکریپت‌های bash و python به دنبال پشتیبانی بودند. این اسکریپت‌ها گاهی از ابزار‌های نفوذی و سرویس‌های امنیتی در دسترس عموم برای یافتن زیرساخت‌های آسیب‌پذیر به صورت برنامه‌ریزی شده استفاده می‌کنند. حساب‌های CyberAv3nger همچنین از مدل‌های ما سوالاتی در سطح بالا در مورد نحوه مخفی کردن کد‌های مخرب، نحوه استفاده از ابزار‌های امنیتی مختلف که اغلب با فعالیت‌های پس از کاهش خطرات سایبری مرتبط هستند و برای اطلاعات در مورد آسیب‌پذیری‌های اخیرا افشا شده و قدیمی‌تر از طیف وسیعی از محصولات، سوال کردند».
فراتر از گزارش‌های قبلی در مورد تمرکز این عامل تهدید بر ICS و PLC، پرامپت‌های مشاهده شده در طول این کمپین، اطلاعات ارزشمندی را در مورد سایر فناوری‌ها و نرم‌افزارهایی که هکر‌های تحت حمایت دولتی ممکن است هدف قرار دهند، ارائه می‌دهد.
شرکت OpenAI خاطرنشان می‌نماید که تعامل با مدل‌های آن قابلیت‌های جدیدی به گروه CyberAv3ngers اضافه نکرد، بلکه تنها ابزار‌های جزئی و ارتقایی که قبلا از طریق منابع عمومی و غیر هوش مصنوعی در دسترس هستند را ارائه نموده است.
در ادامه ادعا‌های گزارش OpenAI، همچنین جزئیات استفاده از ChatGPT توسط یکی دیگر از عاملان تهدید کننده ایرانی، که با نام Storm-0817 شناخته می‌شود، ارائه‌شده است.
این گروه از چت بات برای دریافت پشتیبانی در توسعه بدافزار اندروید و ایجاد اسکراپر برای پلتفرم رسانه اجتماعی اینستاگرام استفاده کرده است.
این گزارش می‌گوید: «این مهاجم از مدل‌های ما برای اشکال‌زدایی بدافزار‌ها، کمک به کدنویسی در ایجاد یک اسکرپر اولیه برای اینستاگرام و ترجمه پروفایل‌های لینکدین به فارسی استفاده کرده است. این اقدامات شامل کار بر روی بدافزار‌هایی بود که هنوز در حال توسعه و جستجوی اطلاعات در مورد اهداف بالقوه بوده است. گروه STORM-0817 از مدل‌های ما برای پشتیبانی از اشکال‌زدایی و کدنویسی در پیاده‌سازی بدافزار اندروید و زیرساخت Command-and-Control مربوطه درخواست کرده است. این بدافزار، اندروید را هدف قرار داده و نسبتا ابتدایی بوده است. تکه‌های کد در پیام‌های ارائه‌شده مهاجم نشان می‌دهد که چاین بدافزار دارای قابلیت‌های نظارتی استاندارد است».
مجموعه OpenAI نهایتا گزارش داد که گروه مرتبط با چین با نام SweetSpectre از ChatGPT برای شناسایی، تحقیقات آسیب‌پذیری، توسعه بدافزار و مهندسی اجتماعی استفاده کرده است. آنها همچنین سعی کردند ایمیل‌های حاوی بدافزار را برای کارکنان OpenAI ارسال کنند، اما کمپین spear-phishing شناسایی و خنثی شد.
این گزارش همچنین شامل اطلاعاتی در مورد سایر عملیات نفوذ مخفی است؛ اطلاعات به اشتراک گذاشته شده توسط OpenAI برای معرفی بهتر عاملان تهدید در پشت این کمپین‌ها و جمع‌آوری اطلاعات در مورد تاکتیک‌ها، تکنیک‌ها و رویه عملکرد آنها بسیار مفید است.
برچسب ها: چت جی‌پی‌تی, SweetSpectre, Storm-0817, CyberAv3ngers, OpenAI ChatGPT, ChatBot, چت بات, OpenAI, ChatGPT, Artificial Intelligence, AI, IRGC, سپاه پاسداران انقلاب اسلامی, ICS, spear-phishing, Python, Iran, PLC, cybersecurity, Bash, ایران, هوش مصنوعی, malware, Android , جاسوسی سایبری, اندروید, بدافزار, امنیت سایبری, جنگ سایبری, Cyber Attacks, حمله سایبری, news