وحید خدابخشی: آینده بانکداری و هوش مصنوعی در گرو اعتماد

وحید خدابخشی، مدیر امنیت اطلاعات شاپرک، در سخنانی که حول محور آینده حوزه هوش مصنوعی در عصر بانکداری نوین ارائه شد، به تفصیل درباره چالش‌ها و فرصت‌های پیش‌روی سیستم بانکی و پرداخت کشور در مواجهه با این فناوری نوین صحبت کرد. او با اشاره به اهمیت روزافزون هوش مصنوعی، بر لزوم توجه به ابعاد پنهان و کمتر دیده‌شده آن، به ویژه در حوزه امنیت و اعتماد، تأکید ویژه‌ای داشت.

موج بی‌بازگشت هوش مصنوعی در بانکداری

خدابخشی اذعان داشت که حرکت به سمت استفاده از هوش مصنوعی و مدل‌های یادگیری ماشین در شبکه بانکی و پرداخت، مسیری اجتناب‌ناپذیر است و آینده این صنعت نیز از همین طریق خواهد گذشت. او توضیح داد که کاربرد هوش مصنوعی دیگر محدود به یک ویژگی یا یک گزینه نیست، بلکه به عنوان یک زیرساخت حیاتی در نظر گرفته می‌شود. این زیرساخت هم می‌تواند به عنوان پایه و اساس عملیات بانکی عمل کند و هم به عنوان سرویس‌های افزونه و تکمیلی مورد بهره‌برداری قرار گیرد. به گفته وی، این موج فناوری، بانکداری مدرن را به سمت استفاده روزافزون از قابلیت‌های هوش مصنوعی سوق می‌دهد و هیچ راه بازگشتی از این مسیر متصور نیست.

سوی تاریک پنهان: امنیت و اعتماد

با وجود اهمیت و پتانسیل‌های بی‌شمار هوش مصنوعی، وحید خدابخشی بخش پنهان و شاید “سوی تاریک” این موضوع را بحث امنیت خود سامانه‌های هوش مصنوعی دانست. او ابراز نگرانی کرد که در این مسیر، موضوع امنیت و اعتماد در استفاده از زیرساخت‌های هوش مصنوعی، کمتر مورد توجه قرار گرفته و مغفول مانده است. از آنجا که هوش مصنوعی اکنون به مثابه یک زیرساخت عمل می‌کند، ضروری است که همانند سایر زیرساخت‌های مهم، به فکر تأمین امنیت آن باشیم. این دیدگاه، لزوم یک رویکرد جامع و فراگیر به امنیت سایبری را در عصر هوش مصنوعی برجسته می‌سازد.

فراتر از ابزار: قابلیت تبیین و اعتماد

مدیر امنیت اطلاعات شاپرک هشدار داد که اتکای بیش از حد و استفاده صرف از هوش مصنوعی در قالب ابزارها، می‌تواند ما را از فضای فلسفی و عمیق‌تر موضوع دور کند. این فضای فلسفی شامل بحث قابلیت اعتماد (Reliability) و تبیین‌پذیری (Explainability) هوش مصنوعی است. او تأکید کرد که هدف از به کارگیری هوش مصنوعی این نیست که به جای انسان فکر کند.

در عوض، هوش مصنوعی قرار است به عنوان یک ابزار و دستیار عمل کند تا مسیر پژوهش‌ها و فرآیندها را تسهیل و تسریع نماید. بنابراین، زمانی که قرار است تا این حد به هوش مصنوعی اعتماد شود و کارها به آن سپرده شود، ایجاد اعتماد به این سیستم‌ها بسیار راهگشا خواهد بود و مسیر ایمن‌سازی برای رسیدن به این اعتماد، از اهمیت بالایی برخوردار است.

چالش‌های پژوهشی و راهکارهای نوین

در ادامه، خدابخشی به برخی از حوزه‌های پژوهشی بین‌المللی و به روز اشاره کرد که مستقیماً به چالش‌های امنیتی هوش مصنوعی می‌پردازند. از جمله این موارد، “یادگیری ماشین خصمانه” (Adversarial Machine Learning) و “مسمومیت داده‌ها” (Data Poisoning) هستند. این حوزه‌ها بر این موضوع متمرکز هستند که چگونه می‌توان داده‌های قابل اتکا، قابل استفاده و صحیح را برای آموزش مدل‌های یادگیری ماشین فراهم آورد.

او همچنین به حوزه‌های جدید هوش مصنوعی مانند “هوش مصنوعی مولد” (Generative AI) اشاره کرد که این‌ها نیز نیازمند یک پایه و اساس امن هستند که باید ابتدا تأمین شود. این مسائل، نشان‌دهنده پیچیدگی‌های فنی و امنیتی است که با گسترش کاربرد هوش مصنوعی، بیش از پیش خود را نمایان می‌سازند.

تجربه شاپرک در به کارگیری هوش مصنوعی

مدیر امنیت اطلاعات شاپرک با تأیید استفاده گسترده از هوش مصنوعی در این نهاد، توضیح داد که شاپرک نیز همانند بسیاری از سازمان‌ها، از این ابزار بهره‌برداری می‌کند. او خاطرنشان کرد که حتی نهادهای تنظیم‌گر نیز باید در این مسیر حرکت کنند. در حوزه تنظیم‌گری، شاپرک با حجم انبوهی از اطلاعات و پراکنش‌های داده‌ای مواجه است. در بخش امنیت، جایی که خدابخشی مشغول به فعالیت است، به طور گسترده از مدل‌های مختلف هوش مصنوعی، از جمله روش‌های خوشه‌بندی (Clustering)، یادگیری با نظارت (Supervised) و بدون نظارت (Unsupervised)، برای شناسایی الگوهای ترافیکی مشکوک و تشخیص حملات پیشرفته و پایدار (APT) استفاده می‌شود.

برای مشاهده ویدئوهای بیشتر اینجاکلیک کنید.

هدف از این اقدامات، ایجاد تمایز بین رفتارهای عادی و غیرعادی در شبکه است. علاوه بر این، در واحدی تحت عنوان “رصد هوشمند”، شاپرک حجم عظیمی از اطلاعات مربوط به رفتار مشتری و پذیرنده را با روش‌های یادگیری ماشین پردازش و آماده‌سازی می‌کند. این اطلاعات سپس برای مرحله تصمیم‌سازی در حوزه زیرساخت اقتصادی و مالی کشور مورد استفاده قرار می‌گیرد.

در نهایت، وحید خدابخشی جمع‌بندی صحبت‌های خود را به این شکل ارائه کرد که اگر آینده بانکداری ما از مسیر هوش مصنوعی می‌گذرد، به طور قطع آینده خود هوش مصنوعی نیز از مسیر اعتماد عبور خواهد کرد. این جمله، به وضوح بر نقش محوری اعتماد در پذیرش و توسعه پایدار هوش مصنوعی در تمامی ابعاد، به ویژه در صنعت حساس بانکداری، تأکید می‌کند.