هوش مصنوعی چگونه چشمانداز امنیت سایبری را تغییر میدهد؟
هوش مصنوعی سرعت و پیچیدگی حملات سایبری را افزایش داده است. این مقاله به بررسی تهدیدات جدید ناشی از هوش مصنوعی و راهکارهای مقابله با آنها میپردازد.
در دنیای امروز، هوش مصنوعی (AI) به سرعت در حال نفوذ به تمامی جنبههای زندگی ما است. در حالی که شرکتها به سرعت در تلاشند تا هوش مصنوعی را در گردش کار خود ادغام کنند، سطح cyberattack نیز به طور چشمگیری در حال افزایش است. امی لوتواک، مدیر ارشد فناوری شرکت امنیت سایبری Wiz، در مصاحبهای با TechCrunch اظهار داشت: «یکی از نکات کلیدی در مورد امنیت سایبری این است که یک بازی ذهنی است. اگر موج جدیدی از فناوری در راه باشد، فرصتهای جدیدی برای مهاجمان برای شروع استفاده از آن وجود دارد.»
افزایش سطح حملات با گسترش استفاده از هوش مصنوعی
هوش مصنوعی به توسعهدهندگان کمک میکند تا سریعتر کدنویسی کنند، اما این سرعت اغلب با میانبرها و اشتباهاتی همراه است که فرصتهای جدیدی را برای مهاجمان ایجاد میکند. شرکت Wiz، که اخیراً توسط گوگل به مبلغ ۳۲ میلیارد دلار خریداری شده است، آزمایشهایی را انجام داده و دریافته است که یک مشکل رایج در برنامههای کاربردی، پیادهسازی ناامن احراز هویت است. بر اساس گزارشی از TechCrunch، لوتواک میگوید: «این اتفاق به این دلیل رخ داد که ساخت آن به این شکل آسانتر بود. عوامل کدنویسی هوش مصنوعی هر آنچه را که شما میگویید انجام میدهند و اگر به آنها نگویید که آن را به امنترین شکل بسازند، این کار را نخواهند کرد.»
سرعت در مقابل امنیت: یک معامله دائمی
لوتواک خاطرنشان کرد که امروزه شرکتها دائماً بین سرعت و امنیت در حال انتخاب هستند. اما توسعهدهندگان تنها کسانی نیستند که از هوش مصنوعی برای حرکت سریعتر استفاده میکنند. مهاجمان نیز اکنون از تکنیکهای مبتنی بر اعلان و حتی عوامل هوش مصنوعی خود برای راهاندازی حملات استفاده میکنند. لوتواک میگوید: «شما میتوانید ببینید که مهاجم اکنون از اعلانها برای حمله استفاده میکند. مهاجم به دنبال ابزارهای هوش مصنوعی است که شما دارید و به آنها میگوید: تمام اسرار خود را برای من بفرست، دستگاه را حذف کن، فایل را حذف کن.»
حملات زنجیره تامین از طریق ابزارهای هوش مصنوعی
در این چشمانداز، مهاجمان همچنین نقاط ورود را در ابزارهای هوش مصنوعی جدیدی پیدا میکنند که شرکتها به صورت داخلی برای افزایش کارایی عرضه میکنند. لوتواک میگوید که این ادغامها میتوانند منجر به «حملات زنجیره تامین» شوند. با به خطر انداختن یک سرویس شخص ثالث که دسترسی گستردهای به زیرساخت یک شرکت دارد، مهاجمان میتوانند به سیستمهای شرکتی نفوذ کنند.
این اتفاق ماه گذشته زمانی رخ داد که Drift، یک استارتاپ فروش رباتهای گفتگو با هوش مصنوعی، مورد نقض قرار گرفت و دادههای Salesforce صدها مشتری سازمانی مانند Cloudflare، Palo Alto Networks و Google را در معرض خطر قرار داد. مهاجمان به توکنها یا کلیدهای دیجیتال دسترسی پیدا کردند و از آنها برای جعل هویت ربات گفتگو، پرس و جو از دادههای Salesforce و حرکت جانبی در داخل محیط مشتری استفاده کردند. لوتواک گفت: «مهاجم کد حمله را که با استفاده از کدنویسی هوش مصنوعی نیز ایجاد شده بود، وارد سیستم کرد.»
گستردگی حملات و لزوم حرکت سریعتر
لوتواک میگوید در حالی که پذیرش ابزارهای هوش مصنوعی در شرکتها هنوز حداقل است، Wiz هر هفته شاهد حملاتی است که بر هزاران مشتری سازمانی تأثیر میگذارد. او میگوید: «اگر به جریان حمله نگاه کنید، هوش مصنوعی در هر مرحله تعبیه شده است. این انقلاب سریعتر از هر انقلابی است که در گذشته دیدهایم. این بدان معناست که ما به عنوان یک صنعت باید سریعتر حرکت کنیم.»
لوتواک به یک حمله زنجیره تامین بزرگ دیگر به نام “s1ingularity” در ماه اوت به Nx، یک سیستم ساخت محبوب برای توسعهدهندگان جاوا اسکریپت، اشاره کرد. مهاجمان موفق شدند بدافزاری را وارد سیستم کنند که سپس وجود ابزارهای توسعهدهنده هوش مصنوعی مانند Claude و Gemini را تشخیص داد و آنها را برای اسکن خودکار سیستم برای دادههای ارزشمند ربود. این حمله هزاران توکن و کلید توسعهدهنده را به خطر انداخت و به مهاجمان اجازه دسترسی به مخازن خصوصی GitHub را داد.
فرصتهای جدید در حوزه امنیت سایبری
لوتواک میگوید با وجود این تهدیدات، این یک زمان هیجانانگیز برای رهبران در حوزه امنیت سایبری بوده است. Wiz، که در سال ۲۰۲۰ تأسیس شد، در ابتدا بر کمک به سازمانها برای شناسایی و رفع پیکربندیهای نادرست، آسیبپذیریها و سایر خطرات امنیتی در محیطهای ابری متمرکز بود. در طول سال گذشته، Wiz قابلیتهای خود را برای همگام شدن با سرعت حملات مرتبط با هوش مصنوعی و استفاده از هوش مصنوعی برای محصولات خود گسترش داده است.
رویکردهای جدید Wiz برای مقابله با تهدیدات هوش مصنوعی
Wiz در سپتامبر گذشته Wiz Code را راهاندازی کرد که بر ایمنسازی چرخه عمر توسعه نرمافزار با شناسایی و کاهش مشکلات امنیتی در مراحل اولیه فرآیند توسعه تمرکز دارد، بنابراین شرکتها میتوانند «امن از طریق طراحی» باشند. در ماه آوریل، Wiz Wiz Defend را راهاندازی کرد که با شناسایی و پاسخگویی به تهدیدات فعال در محیطهای ابری، حفاظت در زمان اجرا را ارائه میدهد.
لوتواک گفت که برای Wiz بسیار مهم است که کاربردهای مشتریان خود را به طور کامل درک کند تا این استارتاپ بتواند به آنچه او «امنیت افقی» مینامد کمک کند. او میگوید: «ما باید بفهمیم که چرا شما آن را میسازید… تا بتوانم ابزار امنیتی را بسازم که هیچکس قبلاً نداشته است، ابزار امنیتی که شما را درک میکند.»
اهمیت امنیت از روز اول برای استارتاپها
لوتواک میگوید شرکتها نباید تمام دادههای شرکت، کارمندان و مشتریان خود را به «هر شرکت SaaS کوچکی که پنج کارمند دارد، فقط به این دلیل که میگویند: تمام دادههای خود را به من بدهید و من بینشهای شگفتانگیز هوش مصنوعی به شما میدهم، ارسال کنند.» البته، این استارتاپها به این دادهها نیاز دارند تا پیشنهاداتشان ارزشی داشته باشد. لوتواک میگوید این بدان معناست که آنها وظیفه دارند اطمینان حاصل کنند که از ابتدا مانند یک سازمان امن عمل میکنند. او میگوید: «از روز اول، باید به امنیت و انطباق فکر کنید. از روز اول، شما باید یک مدیر ارشد امنیت اطلاعات (CISO) داشته باشید. حتی اگر پنج نفر باشید.»
معماری امن: کلید حفظ دادههای مشتری
لوتواک میگوید مهمترین گام بعدی برای استارتاپها فکر کردن در مورد معماری است. او میگوید: «اگر شما یک استارتاپ هوش مصنوعی هستید که میخواهید از روز اول بر روی شرکتها تمرکز کنید، باید به معماریای فکر کنید که به دادههای مشتری اجازه میدهد در محیط مشتری باقی بماند.»
فرصتهای نوآوری در حوزه امنیت سایبری
برای استارتاپهای امنیت سایبری که به دنبال ورود به این حوزه در عصر هوش مصنوعی هستند، لوتواک میگوید اکنون زمان آن است. همه چیز از حفاظت از فیشینگ و امنیت ایمیل گرفته تا بدافزار و حفاظت از نقاط پایانی، زمینه حاصلخیزی برای نوآوری است، هم برای مهاجمان و هم برای مدافعان.
برای مطالعه اخبار بیشتر اینجا کلیک کنید.
همین امر در مورد استارتاپهایی که میتوانند در ابزارهای گردش کار و اتوماسیون برای انجام «امنیت هوش مصنوعی» کمک کنند نیز صادق است، زیرا بسیاری از تیمهای امنیتی هنوز نمیدانند چگونه از هوش مصنوعی برای دفاع در برابر هوش مصنوعی استفاده کنند. لوتواک میگوید: «بازی باز است. اگر هر حوزه از امنیت اکنون حملات جدیدی دارد، این بدان معناست که ما باید در مورد هر بخش از امنیت تجدید نظر کنیم.»
نظر شما در مورد این مطلب چیه؟