OpenAI، Anthropic تسریع بررسی 30 روزه برای مدل‌های هوش مصنوعی لبه

OpenAI و Anthropic با هم در واشنگتن کار می کنند تا یک سیستم بررسی فدرال برای مدل های پیشرفته هوش مصنوعی ایجاد کنند، حتی در حالی که برای مشتریان، بودجه و رهبری فناوری رقابت می کنند.

OpenAI و Anthropic به دنبال استانداردهای بررسی مشترک هستند

بر اساس گزارش The Information، OpenAI و Anthropic از دولت ترامپ می‌خواهند که یک فرآیند بازبینی مداوم برای مدل‌های هوش مصنوعی با قابلیت‌های امنیت سایبری پیشرفته یا امنیت ملی اتخاذ کند.

این همکاری قبل از مهلت 1 آگوست برای آژانس های فدرال انجام می شود تا تعیین کنند کدام سیستم ها به عنوان “مدل های مرزی جامع” واجد شرایط هستند. این مدل‌ها ممکن است تا 30 روز قبل از در دسترس قرار گرفتن در اختیار سایر شرکای مورد اعتماد، برای ارزیابی به دولت ارسال شوند.

طبق گزارش‌ها، هر دو شرکت می‌خواهند استانداردها در سراسر صنعت هوش مصنوعی پیاده‌سازی شوند، نه اینکه محدود به توسعه‌دهندگانی باشند که قبلاً با واشنگتن همکاری می‌کنند. این می تواند شرکت های رقیب، از جمله متا و xAI ایلان ماسک را در یک چارچوب بررسی دقیق قرار دهد اگر مدل های آنها از آستانه توانایی نهایی عبور کنند.

این بحث ها به یک همسویی نادر سیاست بین OpenAI و Anthropic اشاره دارد. هر دو شرکت سیستم های هوش مصنوعی همه منظوره را می فروشند و برای قراردادهای شرکتی، محققان، ظرفیت محاسباتی و سرمایه گذاری رقابت می کنند.

هیچ یک از این شرکت‌ها طیف کاملی از شرایطی را که می‌خواهد در چارچوب نهایی گنجانده شود، به طور عمومی افشا نکرده است.

دستور ترامپ روند داوطلبانه 30 روزه را تعیین می کند

در 2 ژوئن، از طریق فرمان اجرایی 14409، رئیس جمهور دونالد ترامپ به آژانس های فدرال دستور داد تا یک فرآیند محک زدن محرمانه را ایجاد کنند.

این دستور به آژانس امنیت ملی، آژانس امنیت سایبری و امنیت زیرساخت، وزارت خزانه‌داری و سایر آژانس‌های فدرال دستور می‌دهد تا تعیین کنند که آیا یک مدل هوش مصنوعی دارای قابلیت‌های آنقدر قدرتمند است که بازبینی بیشتر را تضمین کند.

توسعه‌دهندگان شرکت‌کننده در این چارچوب می‌توانند از دولت بپرسند که آیا مدلی آستانه مدل مرزی تحت پوشش را برآورده می‌کند یا خیر. سپس آنها تا 30 روز قبل از در دسترس قرار دادن سیستم در اختیار سایر شرکای تایید شده به ارزیاب های فدرال دسترسی خواهند داشت.

این تصمیم مستلزم اقداماتی برای محافظت در برابر مالکیت معنوی، اطلاعات محرمانه، امنیت سایبری و تهدیدات داخلی در طول ارزیابی است.

اما واضح است که این فرآیند نمی‌تواند مجوزهای اجباری فدرال، مجوزهای قبلی یا قوانین مجوز برای توسعه یا انتشار مدل‌های هوش مصنوعی ایجاد کند. بنابراین، شرکت ها داوطلبانه شرکت خواهند کرد مگر اینکه قوانین جداگانه یا دستورات دولتی اعمال شود.

توسعه دهندگان هوش مصنوعی ایالات متحده قبل از راه اندازی به دنبال وضوح هستند

یک چارچوب مشترک می تواند به توسعه دهندگان آمریکایی استانداردهای واضح تری برای تصمیم گیری در مورد زمان انتظار آزمایش دولتی بدهد. سؤالات در مورد اینکه چه معیارهای فنی بازبینی را آغاز می کند، کدام آژانس ها هر سیستم را آزمایش می کنند و چگونه مقامات شرکای دسترسی زودهنگام را تأیید می کنند، باقی می ماند.

این عدم قطعیت ها قبلاً بر راه اندازی های اخیر تأثیر گذاشته است. OpenAI و Anthropic به مقامات دولتی دسترسی زودهنگام به مدل‌های پیشرفته را قبل از استقرار گسترده‌تر دادند، اما محققان خارجی در ارزیابی‌ها دید محدودی داشتند.

گزارشی که در ژوئیه منتشر شد نشان داد که آژانس‌ها، الزامات آزمایش و تأیید درگیر در این بررسی‌ها نامشخص باقی مانده‌اند. فقدان یک فرآیند منتشر شده می‌تواند برنامه‌ریزی انتشار را برای توسعه‌دهندگان دشوار کند و شرکت‌های کوچک‌تر هوش مصنوعی را مطمئن نباشند که آیا استانداردهای مشابه برای آنها اعمال می‌شود.

اعمال آستانه مبتنی بر مهارت برای توسعه دهندگان OpenAI، Anthropic، Meta، xAI و سایر توسعه دهندگان می تواند تا حدودی این عدم قطعیت را کاهش دهد. این همچنین می‌تواند نگرانی‌ها درباره رفتار متفاوت واشنگتن با شرکت‌های منتخب را محدود کند.

بحث هوش مصنوعی آسیب پذیر صنعت را از هم جدا می کند

درخواست OpenAI و Anthropic برای یک فرآیند بررسی مشترک در حالی مطرح می‌شود که سایر شرکت‌های فناوری به واشنگتن درباره اعمال کنترل‌های گسترده بر روی مدل‌های هوش مصنوعی با آسیب‌پذیری‌های سنگین هشدار می‌دهند.

همانطور که crypto.news هفته گذشته گزارش داد، انویدیا، متا و مایکروسافت در نامه ای سرگشاده به 22 سازمان دیگر پیوستند و استدلال کردند که محدودیت های گسترده می تواند رهبری ایالات متحده را با تشدید رقابت با چین تضعیف کند. IBM، Palantir، Mistral، Hugging Face، Mozilla، Andreessen Horowitz و بنیاد لینوکس نیز این نامه را امضا کردند.

این گروه خواستار اقدامات قانونی و تجاری هدفمند علیه سوء استفاده، به جای محدودیت هایی که فناوری ها را برای کاربردهای تحقیقاتی و تجاری قانونی پوشش می دهد، شد.

مدل‌های آسیب‌پذیری سنگین به شرکت‌ها، محققان و دولت‌ها اجازه می‌دهند نرم‌افزار را دانلود کنند، آن را اصلاح کنند و بر روی زیرساخت خود اجرا کنند. حامیان می گویند که به کاربران کنترل بیشتری بر داده ها، امنیت و سیستم های محاسباتی خود می دهد و در عین حال هزینه های استقرار را کاهش می دهد.

امضاکنندگان مدل‌های باز و بسته را به‌عنوان متقابل متقابل قاب‌بندی نکردند. در عوض، آنها استدلال کردند که هر دو رویکرد برای تقویت رقابت و ارائه راه‌های مختلف به توسعه‌دهندگان برای ساخت و استقرار سیستم‌های هوش مصنوعی مورد نیاز است.

جنسن هوانگ، مدیر عامل انویدیا، نامه را در اولین پست خود در مورد X به اشتراک گذاشت و از نقش هر دو مدل توسعه دفاع کرد.

“جهان به هر دو مدل با مرزهای بسته و مدل هایی با مرزهای باز نیاز دارد.”

ایلان ماسک نیز از نامه در پاسخ به هوانگ حمایت کرد. اما شرکت هوش مصنوعی xAI خود در میان 25 امضاکننده گزارش شده نبود.

این دو تلاش به بخش های مختلف بحث سیاست می پردازند. در حالی که OpenAI و Anthropic به دنبال ارزیابی‌های فدرال منسجم از مدل‌هایی هستند که از آستانه قابلیت امنیت ملی فراتر می‌روند، این نامه سرگشاده مخالف محدودیت‌هایی است که اساساً بر این اساس است که آیا یک مدل وزن‌های خود را در دسترس قرار می‌دهد یا خیر.

آژانس های فدرال اکنون تا 1 آگوست فرصت دارند تا آستانه مدل مرزی را تعریف کنند و روند بررسی داوطلبانه را مشخص کنند. چارچوب نهایی نشان خواهد داد که آیا واشنگتن بر قابلیت‌های قابل اندازه‌گیری تمرکز دارد یا شرایط گسترده‌تری را بر اساس نحوه استقرار مدل‌های هوش مصنوعی تحمیل می‌کند.