کانون فرهنگی تبلیغی راه نور مشهد مقدس
هوش مصنوعی به دلیل افزایش حملات سایبری مقصر شناخته شده است.
دفتر تحقیقات فدرال (FBI) اعلام کرده است که هوش مصنوعی (AI) در همه جنبه‌های حملات سایبری، از توسعه تا استقرار و انتشار بدافزارها، نقش دارد.
یکی از مقامات FBI گفت که مدل‌های زبانی منبع باز رایگان و قابل تنظیم در بین هکرهایی که سعی در گسترش بدافزار، انجام حملات فیشینگ و سایر انواع کلاهبرداری دارند، به طور فزاینده‌ای محبوب شده‌اند.
مدل‌های زبانی مولد، هوش مصنوعی‌هایی هستند که می‌توانند متن جدیدی تولید کنند که شبیه به متن نوشته شده توسط انسان است. این امر آنها را به یک ابزار قدرتمند برای هکرها تبدیل می‌کند که می‌توانند از آنها برای تولید بدافزارها، ایمیل‌های فیشینگ و سایر انواع محتوای مخرب استفاده کنند.
FBI هشدار داده است که راه‌اندازی مدل‌های زبانی چند وجهی مانند GPT-4 باعث شده تا هکرها توانایی تولید ویدئوهای دیپ فیک نزدیک به واقعیت را کسب کرده و قربانیان را مجبور به پرداخت هزینه در برابر اطلاعات حساس و غیره کنند.
محققان شرکت متا اعلام کردند که هوش مصنوعی Voicebox به دلیل نگرانی‌های مربوط به سوءاستفاده از آن، فعلاً در دسترس عموم قرار نخواهد گرفت.
این نگرانی‌ها به این دلیل است که Voicebox می‌تواند برای تولید صداهایی که شبیه به صداهای افراد واقعی است، استفاده شود. این می‌تواند برای اهدافی مانند پخش جعلی محتوای رسانه‌ای یا ایجاد هویت‌های جعلی استفاده شود.
افزایش استفاده از هوش مصنوعی در حملات سایبری یک نگرانی جدی است. سازمان‌ها و افراد باید مراقب باشند که از هوش مصنوعی ایمن استفاده کنند و از سوءاستفاده احتمالی آن آگاه باشند.
