Vitalik Buterin در مورد خطرات امنیتی هوش مصنوعی هشدار می دهد و سیستم های محلی را در اولویت قرار می دهد

ویتالیک بوترین خواستار تغییر رویکرد «اول محلی» به هوش مصنوعی شد. او گفت ابزارهای مدرن هوش مصنوعی خطرات جدی حریم خصوصی و امنیتی را به همراه دارند.

او در یک پست وبلاگ اخیر گفت که هوش مصنوعی فراتر از ابزارهای چت ساده است. سیستم های جدیدتر اکنون به عنوان عوامل مستقلی عمل می کنند که می توانند “برای مدت طولانی فکر کنند و از صدها ابزار” برای تکمیل وظایف استفاده کنند. هشدار داد که این تغییر خطر قرار گرفتن در معرض داده های حساس و اقدامات غیرمجاز را افزایش می دهد.

بوترین گفت که استفاده از هوش مصنوعی مبتنی بر ابر را متوقف کرده است. او تشکیلات خود را «مختلف، محلی، خصوصی و امن» توصیف کرد.

او نوشت: «من از جایی می‌آیم که ترس عمیقی از تغذیه کل زندگی شخصی‌مان به هوش مصنوعی ابری داریم. او اضافه کرد که حتی با رایج‌تر شدن رمزگذاری و ابزارهای محلی، پیشرفت‌های اخیر می‌تواند به معنای «برداشتن ده قدم به عقب» در حریم خصوصی باشد.

بوترین گفت بسیاری از سیستم های هوش مصنوعی بر زیرساخت های ابری متکی هستند. او هشدار داد که کاربران به طور موثر “تمام زندگی شخصی ما را به هوش مصنوعی ابری تغذیه می کنند” و به سرورهای خارجی اجازه دسترسی و ذخیره داده های خود را می دهند.

او همچنین به خطرات مرتبط با عوامل هوش مصنوعی اشاره کرد. برخی از سیستم ها ممکن است “تنظیمات مهم را تغییر دهند” یا کانال های ارتباطی جدیدی را بدون درخواست از کاربر معرفی کنند.

او نوشت: “LLM گاهی اوقات نیز شکست می خورد.” “آنها ممکن است اشتباه کنند یا فریب بخورند”؛ این امر نیاز به اقدامات امنیتی را زمانی که کنترل بیشتری به آنها داده می شود افزایش می دهد.

تحقیقات ذکر شده در پست او نشان داد که تقریباً 15 درصد از «مهارت‌های» عامل شامل دستورالعمل‌های مخرب است. همچنین برخی از ابزارها برای ارسال داده به سرورهای خارجی “بدون آگاهی کاربر” نشان داده شد.

این هشدار داد که برخی از مدل ها ممکن است دارای درهای پشتی مخفی باشند. اینها می توانند تحت شرایط خاصی فعال شوند و باعث شوند سیستم به نفع توسعه دهنده عمل کند.

بوترین اضافه کرد که بسیاری از مدل هایی که به عنوان منبع باز توصیف می شوند، فقط “وزن باز” هستند. ساختار داخلی آنها را نمی توان به طور کامل مشاهده کرد، که فضایی را برای خطرات ناشناخته باقی می گذارد.

تنظیمات شخصی Vitalik برای خطرات

برای غلبه بر این نگرانی ها، بوترین سیستمی را بر اساس استخراج محلی، ذخیره سازی محلی و جعبه شنی جامد پیشنهاد کرد. او گفت که هدفش «ایمن نگه داشتن همه چیز» و محتاط بودن از تهدیدات خارجی است.

تنظیمات سخت افزاری مختلف را با استفاده از مدل Qwen3.5:35B آزمایش کرد. عملکرد کمتر از 50 سکه در ثانیه برای استفاده منظم “بیش از حد خسته کننده” است. تقریباً 90 سکه در ثانیه تجربه روان تری را ارائه می دهد.

یک لپ تاپ با پردازنده گرافیکی NVIDIA 5090 نزدیک به 90 سکه در ثانیه تحویل می دهد. سخت افزار DGX Spark حدود 60 سکه در ثانیه به دست آورد و آن را در مقایسه با یک لپ تاپ رده بالا “کم کننده” نامید.

راه‌اندازی روی NixOS با سرور لاما در حال انجام استنتاج محلی است. ابزارهایی مانند lama-swap به مدیریت مدل ها کمک می کنند، در حالی که bubblewrap برای جداسازی فرآیندها و محدود کردن دسترسی به فایل ها و شبکه ها استفاده می شود.

او گفت که هوش مصنوعی باید با احتیاط رفتار شود. این سیستم می تواند مفید باشد، اما نباید به طور کامل به آن اعتماد کرد، مانند رویکرد توسعه دهندگان به قراردادهای هوشمند.

برای کاهش ریسک از مدل راستی‌آزمایی «2 از 2» استفاده می‌کند. اقداماتی مانند ارسال پیام یا تراکنش هم به خروجی هوش مصنوعی و هم به تایید انسانی نیاز دارد. او گفت که ترکیب قطعنامه های “Human + LLM” ایمن تر از تکیه بر هر یک به تنهایی است.

هنگام استفاده از مدل های راه دور، درخواست های Vitalik ابتدا از طریق یک مدل محلی ارسال می شود که به حذف اطلاعات حساس قبل از ارسال هر چیزی کمک می کند.

برای کسانی که توانایی پرداخت چنین تنظیماتی را ندارند، او به کاربران پیشنهاد کرد «گروهی از دوستان را دور هم جمع کنند، یک رایانه شخصی و پردازنده گرافیکی با حداقل این سطح قدرت بخرند» و از راه دور به آن متصل شوند.

رشد عوامل هوش مصنوعی نگرانی ها و فرصت های جدیدی را ایجاد می کند

با جلب توجه پروژه هایی مانند OpenClaw، استفاده از عوامل هوش مصنوعی در حال افزایش است. این سیستم ها می توانند به تنهایی کار کنند و با استفاده از ابزارهای متعدد وظایف خود را کامل کنند.

چنین قابلیت هایی خطرات جدیدی را نیز به همراه دارد. پردازش محتوای خارجی، مانند یک صفحه وب مخرب، می تواند منجر به “ربایش آسان” سیستم شود.

برخی از نمایندگان ممکن است درخواست ها یا تنظیمات سیستم را بدون تأیید تغییر دهند. این اقدامات امکان دسترسی غیرمجاز و نشت داده ها را افزایش می دهد.