ویتالیک بوترین هشدار می‌دهد که عوامل هوش مصنوعی می‌توانند داده‌ها را بدزدند و تنظیمات را بدون اطلاع کاربر تغییر دهند.

Ethereum بنیانگذاران ویتالیک بوترین هشدار داده است که سیستم‌های هوش مصنوعی مدرن خطرات جدی برای حریم خصوصی و امنیت ایجاد می‌کنند و خواستار تغییر به زیرساخت‌های هوش مصنوعی محلی شده است. 

در یک پست وبلاگ دقیقبوترین گفت ابزارهای هوش مصنوعی مبتنی بر ابر به سرورهای خارجی امکان دسترسی به داده‌های حساس کاربر را می‌دهند و سیستم‌های عامل هوش مصنوعی جدیدتر می‌توانند بدون تأیید کاربر اقداماتی انجام دهند، از جمله تغییر تنظیمات سیستم و ارسال داده‌ها به سرورهای خارجی بدون هیچ گونه نشانه قابل مشاهده برای کاربر.

خطرات امنیتی که بوترین در مورد آنها هشدار می‌دهد چیست؟

نگرانی‌های بوترین فراتر از حریم خصوصی عمومی است. او خطرات خاص و مستندی را که مربوط به نحوه عملکرد عامل‌های هوش مصنوعی در عمل است، شناسایی کرد.

محققان امنیتی پیش از این چندین مورد از این آسیب‌پذیری‌ها را در شرایط واقعی نشان داده‌اند:

• به یک عامل هوش مصنوعی دستور داده شد تا صفحات وب را خلاصه کند، که یکی از آنها مخرب بود. این صفحه به عامل دستور می‌داد تا یک اسکریپت shell را دانلود و اجرا کند و به یک شخص خارجی کنترل سیستم را بدهد.
• مشخص شد که برخی از ابزارهای عامل، درخواست‌های شبکه‌ای بی‌سروصدا را اجرا می‌کنند که داده‌های کاربر را بدون هیچ گونه اطلاع‌رسانی به کاربر، به سرورهای خارجی ارسال می‌کنند.
• تقریباً ۱۵٪ از مهارت‌های عامل بررسی‌شده توسط محققان حاوی دستورالعمل‌های مخرب بودند.

بوترین همچنین به خطراتی اشاره کرد که تشخیص آنها دشوارتر است. برخی از مدل‌ها ممکن است حاوی درهای پشتی پنهان باشند، ویژگی‌هایی که در یک مدل تعبیه شده‌اند و تحت شرایط خاص فعال می‌شوند و باعث می‌شوند سیستم به نفع توسعه‌دهنده عمل کند نه به نفع کاربر. 

او همچنین خاطرنشان کرد که اکثر مدل‌هایی که به عنوان متن‌باز توصیف می‌شوند، در واقع فقط «وزن‌های باز» هستند، به این معنی که پارامترهای مدل به اشتراک گذاشته شده‌اند اما ساختار داخلی کامل و فرآیند آموزش به اشتراک گذاشته نشده‌اند. این امر باعث می‌شود که رفتارهای ناشناخته‌ای وجود داشته باشد که کاربران نمی‌توانند به طور مستقل آنها را تأیید کنند.

تفاوت بین چت‌بات و عامل هوش مصنوعی چیست؟

بوترین لحظه فعلی را به عنوان یک نقطه گذار در نحوه استفاده از هوش مصنوعی ترسیم کرد. ابزارهای اولیه هوش مصنوعی به عنوان چت‌بات‌ها عمل می‌کردند: کاربر سوالی می‌پرسید و مدل پاسخی را برمی‌گرداند. اما عامل‌ها متفاوت هستند. کاربر به سیستم وظیفه‌ای می‌دهد و سپس سیستم به طور مستقل، گاهی اوقات برای مدت طولانی، با استفاده از ده‌ها یا صدها ابزار برای انجام آن وظیفه عمل می‌کند.

این تغییر به طور قابل توجهی سطح ریسک را گسترش می‌دهد. عاملی که می‌تواند وب را مرور کند، فایل‌ها را بخواند، پیام ارسال کند و تنظیمات سیستم را تغییر دهد، فرصت بسیار بیشتری برای ایجاد آسیب، چه از طریق یک نقص امنیتی، چه از طریق تلاش برای دستکاری یا یک اشتباه ساده، نسبت به سیستمی دارد که فقط به سؤالات پاسخ می‌دهد.

چگونه بوترین سیستم هوش مصنوعی محلی خود را راه‌اندازی کرد

بوترین گفت که او قبلاً استفاده از ابزارهای هوش مصنوعی مبتنی بر ابر را متوقف کرده است. او سیستم شخصی خود را «خودمختار، محلی، خصوصی و امن» توصیف کرد که بر اساس سه اصل اساسی ساخته شده است: تمام استنتاج‌های هوش مصنوعی روی سخت‌افزار محلی اجرا می‌شوند، تمام فایل‌ها به صورت محلی ذخیره می‌شوند و هر فرآیند در داخل یک جعبه شنی اجرا می‌شود.

در این زمینه، یک جعبه شنی (sandbox) یک محیط محاسباتی ایزوله است که دسترسی یک برنامه را محدود می‌کند. بوترین از ابزاری به نام bubblewrap استفاده می‌کند که به او اجازه می‌دهد ابزارهای هوش مصنوعی را در یک جعبه شنی در سطح دایرکتوری اجرا کند، جایی که برنامه فقط می‌تواند فایل‌هایی را که او صریحاً اجازه می‌دهد، ببیند و همچنین دسترسی به پورت شبکه و دسترسی به صدا را نیز کنترل کند.

پروژه‌های امیدبخش را کشف کنید...

پروژه‌های نویدبخش ...

(تبلیغات)

ادامه مقاله...

سخت‌افزار بوترین برای استنتاج هوش مصنوعی محلی آزمایش شد

بوترین چندین تنظیمات سخت‌افزاری را آزمایش کرد تا بفهمد کدام یک برای اجرای مدل‌های هوش مصنوعی به صورت محلی مناسب است. نتایج به طور معناداری متفاوت بود:

• یک لپ‌تاپ با پردازنده گرافیکی NVIDIA 5090 با استفاده از مدل Qwen3.5:35B تقریباً به ۹۰ توکن در ثانیه دست یافت.
• یک پردازنده AMD Ryzen AI Max Pro با ۱۲۸ گیگابایت حافظه یکپارچه تقریباً به ۵۱ توکن در ثانیه رسید.
• دی‌جی‌ایکس اسپارک، که به عنوان یک ابررایانه هوش مصنوعی دسکتاپ به بازار عرضه شده است، تقریباً به ۶۰ توکن در ثانیه دست یافت.

بوترین حداقل سرعت قابل استفاده برای هر دستگاه را ۵۰ توکن در ثانیه تعیین کرد. او سرعت پایین‌تر را برای استفاده عملی بسیار ناامیدکننده توصیف کرد و گفت سرعت ایده‌آل ۹۰ توکن در ثانیه است. او خاطرنشان کرد که DGX Spark نسبت به آنچه در بازاریابی خود نشان داده بود، عملکرد ضعیف‌تری داشته و سرعت پایین‌تری نسبت به یک پردازنده گرافیکی لپ‌تاپ خوب تولید می‌کند و در عین حال برای اتصال از یک دستگاه کاری جداگانه به تنظیمات شبکه اضافی نیاز دارد.

پشته نرم‌افزاری او بر روی llama-server متمرکز است، یک فرآیند پس‌زمینه که به صورت محلی اجرا می‌شود و پورتی را روی دستگاه کاربر در معرض نمایش قرار می‌دهد که سایر برنامه‌ها می‌توانند آن را فراخوانی کنند. این امر به هر نرم‌افزاری که برای مدل‌های OpenAI یا Anthropic ساخته شده است، اجازه می‌دهد تا به جای آن، به یک مدل محلی هدایت شود. او همچنین از llama-swap برای آسان‌تر کردن جابجایی بین مدل‌ها استفاده می‌کند.

این برای کیف پول‌های کریپتو چه معنایی دارد؟

نگرانی‌های بوترین در مورد امنیت هوش مصنوعی مستقیماً به نحوه‌ی استفاده از هوش مصنوعی در کیف پول‌های ارز دیجیتال مربوط می‌شود. او در نظراتی که در مارس ۲۰۲۶ در حساب کاربری Farcaster خود منتشر کرد، یک گردش کار فنی خاص برای تراکنش‌های مبتنی بر هوش مصنوعی را تشریح کرد.

موضع او این نیست که هوش مصنوعی باید وجوه را مدیریت کند. بلکه این است که هوش مصنوعی باید اقداماتی را پیشنهاد دهد، به همراه تأیید مستقل و تأیید انسانی که در راس این پیشنهادها قرار دارد. برای تراکنش‌های با ارزش بالا، او یک فرآیند سه مرحله‌ای را شرح داد: هوش مصنوعی طرحی را پیشنهاد می‌دهد، یک کلاینت سبک محلی اجرای آن طرح را روی زنجیره شبیه‌سازی می‌کند و کاربر قبل از تأیید، هم توضیحات به زبان ساده و هم نتیجه شبیه‌سازی شده را بررسی می‌کند.

یک کلاینت لایت محلی، داده‌های بلاک چین را بدون دانلود کل زنجیره تأیید می‌کند. ترکیب این قابلیت با یک لایه هوش مصنوعی به این معنی است که کاربران می‌توانند قبل از انتشار یک تراکنش در شبکه، بدون نیاز به رابط شخص ثالث، دقیقاً ببینند که آن تراکنش چه کاری انجام خواهد داد.

چرا حذف رابط‌های DApp اهمیت دارد؟

بیشتر کاربران ارزهای دیجیتال از طریق رابط‌های کاربری مبتنی بر مرورگر با برنامه‌های غیرمتمرکز تعامل دارند. این رابط‌ها از نظر تاریخی سطح قابل توجهی از حملات بوده‌اند. حملات سرقت رابط کاربری، تزریق اسکریپت‌های مخرب و درخواست‌های تأیید جعلی منجر به صدها میلیون دلار ضرر در سال‌های اخیر شده است.

بوترین استدلال کرد که کیف پول‌های مبتنی بر هوش مصنوعی می‌توانند این رابط‌ها را به طور کامل حذف کنند. اگر کاربری آنچه را که می‌خواهد به زبان ساده بیان کند و کیف پول تراکنش را مستقیماً مونتاژ و شبیه‌سازی کند، هیچ وب‌سایت شخص ثالثی برای سازش وجود ندارد. 

او نوشت: «حذف رابط‌های کاربری برنامه‌های غیرمتمرکز از صحنه، تعداد زیادی از مسیرهای حمله، چه برای سرقت و چه برای حفظ حریم خصوصی، را به طور کامل حل می‌کند.»

بوترین برای عملیات‌های کم‌ریسک‌تر، فضای بیشتری برای اتوماسیون می‌بیند. یک کیف پول هوش مصنوعی می‌تواند به طور معقولی الگوهای تراکنش را برای فعالیت‌های غیرمعمول رصد کند، هزینه‌های گس را بر اساس شرایط فعلی شبکه پیشنهاد دهد، مبادله توکن‌ها را از طریق مسیرهای کارآمد مسیریابی کند و تعاملات مشکوک قرارداد را قبل از تأیید علامت‌گذاری کند. اینها وظایفی هستند که در آنها خطاها قابل بازیابی هستند و اتوماسیون پیچیدگی را برای کاربران غیرفنی کاهش می‌دهد.

به گفته بوترین، نباید به مدل‌های زبانی بزرگ با اختیارات کنترل نشده بر مبالغ هنگفت پول اعتماد کرد. LLMها پاسخ‌هایی را بر اساس الگوهای آماری تولید می‌کنند، نه منطق قطعی. آن‌ها می‌توانند دستورالعمل‌ها را اشتباه تفسیر کنند یا از طریق تزریق سریع دستکاری شوند، تکنیکی که در آن ورودی‌های با دقت ساخته شده باعث می‌شوند مدل به روش‌های ناخواسته رفتار کند. هر لایه در گردش کار پیشنهادی او، یک بررسی مستقل را به طور خاص اضافه می‌کند تا از این نوع خطا جلوگیری کند.

چرا بازار عامل‌های هوش مصنوعی این خطرات را ضروری‌تر می‌کند؟

نگرانی‌هایی که بوترین مطرح کرد، فرضی نیستند. تخمین‌های صنعتی، بازار عوامل هوش مصنوعی را تقریباً ... 8 میلیارد دلار در سال ۲۰۲۵، پیش‌بینی‌ها حاکی از رشد بیش از ۴۸ میلیارد دلاری تا سال ۲۰۳۰ است که نشان‌دهنده نرخ رشد سالانه بیش از ۴۳ درصد است. با ساخته شدن نرم‌افزارهای بیشتر حول سیستم‌های هوش مصنوعی خودکار که با نظارت کمتر انسانی کار می‌کنند، نادیده گرفتن شکاف‌های امنیتی که او شناسایی کرد، در مقیاس بزرگ دشوارتر می‌شود.

نتیجه

هشدارهای بوترین با تحقیقات مستند پشتیبانی می‌شوند. آسیب‌پذیری‌های امنیتی در عامل‌های هوش مصنوعی قبلاً در شرایط واقعی نشان داده شده‌اند و تغییر از چت‌بات‌ها به عامل‌های خودمختار، مهار این خطرات را دشوارتر می‌کند. 

راه‌اندازی محلی و گردش کار کیف پول سه مرحله‌ای او، رد هوش مصنوعی نیست. آنها تلاش‌هایی برای استفاده از آن بدون واگذاری کنترل بر داده‌ها یا وجوه هستند. با توانمندتر شدن عوامل هوش مصنوعی، نادیده گرفتن این سوال که چه کسی واقعاً اقدامات آنها را کنترل می‌کند، دشوارتر می‌شود.

منابع

1. مقاله از ویتالیک بوترین: راه‌اندازی LLM خودگردان/محلی/خصوصی/امن من، آوریل ۲۰۲۶

2. ویتالیک بوترین در Farcaster: ارسال در ۱ مارس

3. گزارش از BCC Researchبازار کارگزاران هوش مصنوعی تا سال ۲۰۳۰ سالانه ۴۳.۳ درصد رشد خواهد کرد