توضیح باید برای هوش مصنوعی مناسب باشد

هوش مصنوعی به اتهام جرم مالی فوق العاده و دفاع از صنعت مالی پشت سر می گذارد. مجرمان اکنون از هوش مصنوعی استفاده می کنند ، دندانهای عمیق را متقاعد می کنند ، حملات شکار هویت سازگار با صنایع دستی و برای تولید هویت مصنوعی مقیاس دارند. این تاکتیک ها سریعتر از سیستم های سازگاری سنتی حرکت می کنند و باعث ایجاد نقص کشنده در رویکردهای موجود می شوند.

با وجود مقیاس این تهدید ، بسیاری از سازمان ها عجله دارند بدون توضیح ، شفاف یا حتی کاملاً درک شده ، سیستم های هوش مصنوعی خود را توزیع کنند. مگر در مواردی که توضیح برای هر سیستم هوش مصنوعی مورد استفاده در انطباق مالی به یک الزام اساسی تبدیل شود ، جایگزینی گزینه با شخص دیگری باعث اعتماد به نفس در عمومی یا تنظیم کننده نخواهد شد.

مسابقه اسلحه از قبل آغاز شده است

هوش مصنوعی برای سریعتر و ارزان تر جنایات قدیمی و تسهیل در حفظ انواع جدید جرم استفاده می شود. آخرین افزایش تقلب در هویت مصنوعی را تصور کنید. مجرمان سایبری از هوش مصنوعی برای دوختن داده های واقعی و جعلی در مورد هویت های واقع بینانه و ساختگی استفاده می کنند. این پروفایل ها می توانند حساب ها را باز کنند ، وام بگیرند و سیستم های تأیید را پرش کنند ، در صورت عدم ناراحت بودن از کاربران واقعی.

وی سلاح دیگری را به آرسنال Deepfake Technology اضافه کرد. تقلیدهای اقناعی از مدیران عامل ، تنظیم کننده ها و حتی اعضای خانواده اکنون می توانند با حداقل تلاش تولید شوند. این فیلم ها و کلیپ های صوتی برای شروع عملیات کلاهبرداری ، برای ایجاد گمراه کننده کارمندان و نشت داده های داخلی استفاده می شود.

حتی شکار هویت توسعه یافت. هوش مصنوعی -ابزارهای زبان طبیعی گرا ، داده های عمومی ، رفتارهای آنلاین و زمینه های اجتماعی با توجه به هر هدف ، سازگار با بیش از حد شخصی ، می تواند پیام های مناسب را از نظر دستور زبان ایجاد کند. اینها پیام های اسپم نوشته شده گذشته نیستند. این برای به دست آوردن اعتماد به نفس و به دست آوردن ارزش طراحی شده است. در منطقه رمزنگاری ، شکار هویت منفجر می شود و تمایل هوش مصنوعی را تسریع می کند.

ابزارهای انطباق در دوره قبل از منطقه گیر کرده اند

مشکل نه تنها سرعت یا مقیاس این تهدیدها است. ناسازگاری بین نوآوری تهاجمی و اینرسی دفاعی. سیستم های انطباق مبتنی بر قوانین سنتی واکنشی و شکننده هستند. آنها به محرکهای از پیش تعریف شده و شناخت الگوی استاتیک بستگی دارند.

یادگیری ماشین و تجزیه و تحلیل پیش بینی راه حل های سازگار تر را ارائه می دهند ، اما بیشتر این ابزارها مات هستند. آنها خروجی هایی را بدون وضوح در مورد چگونگی رسیدن به نتیجه تولید می کنند. این مشکل “جعبه سیاه” بیش از یک محدودیت فنی است. این یک سردرد هارمونی است.

بدون توضیح ، هیچ پاسخگویی وجود ندارد. اگر یک موسسه مالی نتواند توضیح دهد که چگونه سیستم هوش مصنوعی مشخص شده است (یا نمی تواند یکی از آنها را علامت گذاری کند) ، نمی تواند از تصمیم خود برای تنظیم کننده ها ، مشتریان یا دادگاه ها دفاع کند. از همه بدتر ، ممکن است نتواند تعیین کند که چه زمانی سیستم تصمیم گیری های تعصب یا متناقض را انجام می دهد.

توضیح یک الزام امنیتی است

برخی معتقدند که نیاز به توضیح سیستم های هوش مصنوعی ، نوآوری ها را کند می کند. این باریک است. توضیح داده شده لوکس نیست ؛ این یک ضرورت برای اعتماد و قانونی بودن است. بدون او ، تیم های هارمونی کور پرواز می کنند. آنها می توانند ناهنجاری ها را تشخیص دهند ، اما نمی دانند چرا. آنها می توانند مدل ها را تأیید کنند ، اما نمی توانند آنها را کنترل کنند.

بخش مالی باید در نظر گرفتن توضیحات به عنوان یک جایزه فنی متوقف شود. به طور خاص ، KYC/AML باید یک شرط توزیع برای وسایل نقلیه تشخیص و نظارت بر فرآیند باشد. این فقط بهترین برنامه نیست. زیرساخت های اساسی است.

اعتماد در حال حاضر شکننده است و در منطقه ای که مانند رمزنگاری با معاینه بالا حرکت می کند ، این امر حتی فوری تر می شود. استفاده از هوش مصنوعی در ایمنی و هماهنگی نه تنها باید مؤثر باشد بلکه باید کاملاً عادلانه ، قابل کنترل و قابل درک باشد.

یک پاسخ هماهنگ نمی تواند چانه زنی شود

جرم مالی دیگر موضوع وقایع منزوی نیست. فقط در سال 2024 ، حجم معاملات غیرقانونی به 51 میلیارد دلار رسید که احتمالاً هوش مصنوعی است. هیچ شرکتی ، نظارتی یا ارائه دهنده فناوری نمی تواند این تهدید را به تنهایی آغاز کند.

یک پاسخ هماهنگ باید شامل موارد زیر باشد:

• برای لزوم توضیح در هر سیستم هوش مصنوعی مورد استفاده در توابع انطباق با ریسک بالا.
• برای اطمینان از این که اطلاعات مشترک تهدید الگوهای حمله جدیدی را در بین شرکت ها نشان می دهد.
• آموزش متخصصان انطباق برای سؤال و ارزیابی خروجی های هوش مصنوعی.
• نیاز به تشخیص کلاهبرداری و بازرسی های خارجی سیستم های ML مورد استفاده در KYC دارد.

سرعت همیشه مهم خواهد بود. اما بدون شفافیت ، سرعت یک مسئولیت نیست ، این یک ویژگی نیست.

هوش مصنوعی خنثی نیست و سوءاستفاده نیست

گفتار باید تغییر کند. هوش مصنوعی برای پرسیدن “کار” کافی نیست. باید بپرسیم که آیا این قابل اعتماد خواهد بود یا خیر. آیا می توان آن را زیر سوال برد؟ آیا حسابرسی شده است؟ درک شده؟

عدم پاسخ به این سؤالات ، کل سیستم مالی را در معرض خطر قرار می دهد. ما نه تنها به جنایتکاران بلکه از وسایل نقلیه نیز اعتماد داریم تا جلوی آنها را بگیریم.

اگر شفافیت در دفاع خود ایجاد نکنیم ، از سیستم دفاع نمی کنیم. ما شکست را خودکار می کنیم.