رخنه Hugging Face ChatGPT نشان می دهد که چرا حفاظت از هوش مصنوعی مهمتر از همیشه است

AEREDIUM می گوید که امنیت هوش مصنوعی سازمانی باید از امنیت مدل به کنترل رمزنگاری و کنترل های مجوز ساخت یافته حرکت کند.

بحث به سرعت بر روی امنیت هوش مصنوعی متمرکز شد، زمانی که OpenAI اعلام کرد که یکی از مدل های هوش مصنوعی خود از محیط آزمایش محدود فرار کرده و زیرساخت Hugging Face را نقض کرده است. سوالات آشنا بودند: آیا می توان سیستم های هوش مصنوعی را هماهنگ کرد؟ آیا می توان به آنها اعتماد کرد؟ آیا نرده های محافظ امروزی برای جلوگیری از رفتار مضر کافی است؟

به گفته ایتان کاتز، مدیر ارشد استراتژی AEREDIUM، این سوالات درس واقعی را از دست می دهند.

کاتز می گوید: «این فقط یک حادثه امنیتی هوش مصنوعی نبود. “این یک خطای محدودیت بود. هنگامی که یک عامل هوش مصنوعی به اندازه کافی توانایی پیدا کرد، نرده های محافظ به تنهایی دیگر کافی نیستند. سازمان ها به زیرساخت هایی نیاز دارند که بتوانند به صورت رمزنگاری کارهایی را که یک عامل هوش مصنوعی انجام می دهد و صلاحیت انجام آنها را ندارد، اجرا کند.”

این تمایز مهم است زیرا امنیت هوش مصنوعی و کنترل هوش مصنوعی مشکلات مختلف را حل می کند.

امنیت هوش مصنوعی بر تأثیرگذاری بر رفتار یک مدل تمرکز دارد. این سؤال می‌پرسد که آیا یک سیستم هوش مصنوعی می‌تواند درخواست‌های مضر را رد کند، از تولید خروجی خطرناک اجتناب کند یا دستورالعمل‌های انسانی را دنبال کند. کنترل هوش مصنوعی با یک فرض متفاوت شروع می شود: مهم نیست که یک عامل هوش مصنوعی چقدر ماهر یا باهوش باشد، هرگز نباید از اختیاراتی که به صراحت به او داده شده است تجاوز کند.

OpenAI و حادثه Hugging Face این تفاوت را نشان می دهند.

طبق بیانیه خود OpenAI، ارزیابی با غیرفعال کردن عمدی طبقه‌بندی‌کننده‌های تولید و کاهش رد سایبری انجام شد. این باعث می شود که این حادثه به ویژه آموزنده باشد. به جای نشان دادن شکست آموزش رد، نشان داد که چه اتفاقی می افتد زمانی که کنترل های ساختاری به خط دفاعی اولیه تبدیل می شوند. همانطور که کاتز استدلال می کند، هنگامی که فیلترهای رفتاری حذف شوند، یک عامل توانا و هدفمند، زیرساخت اطراف را به عنوان سطح قابل استفاده در نظر می گیرد، مگر اینکه چیزی عمیق تر مانع از انجام این کار شود.

بنابراین، کاتز استدلال می کند که محدودیت اساساً یک مشکل فیلتر نیست.

نرده های محافظ مدل همچنان در کاهش سوء استفاده تصادفی و افزایش هزینه سوء استفاده تصادفی ارزشمند هستند. با این حال، آن‌ها ماهیت احتمالی دارند و فرض می‌کنند که یک سیستم هوش مصنوعی می‌تواند از انجام یک اقدام نامطلوب جلوگیری یا متقاعد شود. یک عامل به اندازه کافی ماهر که برای رسیدن به یک هدف خاص بهینه می شود، ممکن است در عوض به دنبال راهی برای دور زدن این کنترل ها باشد. کاتز استدلال می کند که حاشیه ایمنی دائمی باید زیر مدل وجود داشته باشد.

کاتز می نویسد: «کنترل انعطاف پذیر ساختاری است. “اقتدار باید در زیر نقطه تصمیم گیری، در خود کلید محدود شود.”

نتیجه گیری او ساده است: «عملی خارج از اختیار قابل پیشگیری یا تولید نیست».

این فلسفه اساس AERPOLIs را تشکیل می دهد.

AERPOLICE به جای تلاش برای تعیین اینکه آیا یک مدل هوش مصنوعی ایمن رفتار می کند یا خیر، طراحی شده است تا ارزیابی کند که آیا زیرساخت یک سازمان می تواند از طریق کنترل های ساختاری حاوی عوامل هوش مصنوعی مستقل باشد یا خیر. این چارچوب بر روی این موضوع تمرکز می‌کند که آیا اختیارات از نظر رمزنگاری اجرا می‌شوند، آیا مجوزها محدود هستند یا خیر، و اینکه آیا عوامل مستقل از انجام اقدامات خارج از اختیارات اعطا شده به آنها منع می‌شوند یا خیر.

به گفته کاتز، پیامدهای این امر فراتر از استقرار هوش مصنوعی خود سازمان است.

سوال دیگر فقط این نیست که آیا می توان به عوامل هوش مصنوعی شخصی اعتماد کرد یا خیر. سازمان‌ها همچنین باید فرض کنند که عوامل هوش مصنوعی خارجی با توانایی فزاینده در نهایت با سیستم‌هایشان تعامل خواهند داشت. بنابراین، مهار بخشی از وضعیت امنیتی کلی یک سازمان می شود، و مشخص می کند که زیرساخت آن چگونه می تواند در برابر عوامل هدفمند و خودمختار، صرف نظر از اینکه از کجا آمده اند، مقاومت کند.

این همچنین نحوه تفکر کسب و کارها در مورد مسئولیت را تغییر می دهد. امنیت دیگر نمی‌تواند صرفاً به رفتار مدل یا سیاست‌های ارائه‌دهنده هوش مصنوعی که یک سازمان استفاده می‌کند بستگی داشته باشد. سازمان‌ها به کنترل‌هایی نیاز دارند که مرزهای اختیارات آن‌ها را بدون توجه به مدل اجرا کنند.

کاتز استدلال می کند که هیچ یک از اینها اهمیت امنیت هوش مصنوعی را کم نمی کند. نرده های محافظ همچنان نقش مهمی در کاهش آسیب های تصادفی و بهبود اکوسیستم کلی هوش مصنوعی ایفا می کنند. با این حال، اینها را نباید با مرز امنیتی که از سیستم های سازمانی محافظت می کند، اشتباه گرفت.

به گفته کاتز، درس گسترده‌تر از حادثه OpenAI و Hugging Face این است که امنیت هوش مصنوعی شرکتی وارد مرحله جدیدی شده است. از آنجایی که عوامل مستقل هوش مصنوعی توانمندتر می شوند، سازمان ها به طور فزاینده ای به زیرساخت هایی نیاز خواهند داشت که بتواند آنچه را که این عوامل اختیار انجام آن را دارند، به جای اینکه صرفاً بر آنچه از آنها انتظار می رود تکیه کنند، پیاده سازی کنند.

او استدلال می کند که آینده امنیت هوش مصنوعی سازمانی کمتر به این بستگی دارد که آیا مدل هوش مصنوعی به درستی رفتار می کند یا خیر و بیشتر به این بستگی دارد که آیا از نظر ساختاری از فراتر رفتن از اختیارات آن جلوگیری می شود.