هوش مصنوعی گرِک ایلان ماسک تصاویری از «کودکان با لباس کم» تولید می‌کند

چت‌بات گرگ (Grok) متعلق به ایلان ماسک روز جمعه اعلام کرد که نقص در سیستم‌های حفاظتی باعث شده است تا این چت‌بات «تصاویری از افراد زیر سن قانونی با لباس کم» را در پلتفرم رسانه‌های اجتماعی ایکس (X) تولید کند. این چت‌بات که محصول شرکت xAI ماسک است، در طول هفته در پاسخ به درخواست‌های کاربران، موجی از تصاویر جنسی تولید کرده است. اسکرین‌شات‌های به اشتراک گذاشته شده توسط کاربران در ایکس، تب رسانه‌های عمومی گرگ را پر از چنین تصاویری نشان می‌داد. شرکت xAI اعلام کرد که در حال کار برای بهبود سیستم‌های خود جهت جلوگیری از حوادث آتی است. گرگ در پستی در ایکس در پاسخ به یک کاربر گفت: «موارد پراکنده‌ای وجود دارد که کاربران درخواست کرده و تصاویر هوش مصنوعی از افراد زیر سن قانونی با لباس کم دریافت کرده‌اند. xAI دارای سیستم‌های حفاظتی است، اما بهبودها برای مسدود کردن کامل چنین درخواست‌هایی در حال انجام است.» شرکت xAI در حساب کاربری @Grok در ایکس با اشاره به مواد سوءاستفاده جنسی از کودکان (CSAM) نوشت: «همانطور که اشاره شد، ما نقص‌هایی را در سیستم‌های حفاظتی شناسایی کرده‌ایم و به سرعت در حال رفع آن‌ها هستیم – CSAM غیرقانونی و ممنوع است.» بسیاری از کاربران در ایکس در روزهای اخیر، گرگ را برای تولید نسخه‌های تغییر یافته با هوش مصنوعی از تصاویر جنسی و بدون رضایت افراد، در برخی موارد با حذف لباس افراد بدون رضایت آن‌ها، درخواست کرده‌اند. ماسک روز پنجشنبه عکسی هوش مصنوعی از خود را در حالی که بیکینی پوشیده بود، با ایموجی‌های خنده و گریه منتشر کرد که به این روند اشاره داشت. طبق پست‌های چت‌بات، تولید تصاویر جنسی توسط گرگ به نظر می‌رسید فاقد موانع ایمنی بوده و اجازه می‌داد تا افراد زیر سن قانونی در پست‌های آن که معمولاً زنان با لباس کم را نشان می‌داد، حضور داشته باشند. گرگ در پاسخی به یک کاربر در ایکس در روز پنجشنبه گفت که بیشتر موارد را می‌توان از طریق فیلترهای پیشرفته و نظارت پیشگیری کرد، اگرچه اذعان داشت که «هیچ سیستمی ۱۰۰٪ بی‌نقص نیست» و افزود که xAI اولویت را به بهبودها داده و جزئیات به اشتراک گذاشته شده توسط کاربران را بررسی می‌کند. هنگامی که xAI برای اظهار نظر از طریق ایمیل تماس گرفته شد، با پیام «رسانه‌های سنتی دروغ می‌گویند» پاسخ داد. مشکل استفاده از هوش مصنوعی برای تولید مواد سوءاستفاده جنسی از کودکان یک مسئله طولانی مدت در صنعت هوش مصنوعی است. مطالعه‌ای در سال ۲۰۲۳ توسط دانشگاه استنفورد نشان داد که مجموعه‌ای از داده‌ها که برای آموزش تعدادی از ابزارهای محبوب تولید تصویر هوش مصنوعی استفاده شده است، حاوی بیش از ۱۰۰۰ تصویر CSAM بوده است. کارشناسان می‌گویند آموزش هوش مصنوعی بر روی تصاویر سوءاستفاده از کودکان می‌تواند به مدل‌ها اجازه دهد تا تصاویر جدیدی از کودکان در معرض استثمار تولید کنند. گرگ همچنین سابقه‌ای در عدم حفظ موانع ایمنی خود و انتشار اطلاعات نادرست دارد. در ماه مه سال گذشته، گرگ شروع به انتشار مطالبی درباره تئوری توطئه راست افراطی «نسل‌کشی سفید» در آفریقای جنوبی در پست‌هایی بدون ارتباط با این مفهوم کرد. شرکت xAI همچنین در ماه ژوئیه پس از آنکه گرگ شروع به انتشار فانتزی‌های تجاوز جنسی و مطالب یهودستیزانه، از جمله خطاب کردن خود به عنوان «MechaHitler» و ستایش ایدئولوژی نازی کرد، عذرخواهی کرد. با این حال، این شرکت یک هفته پس از این حوادث، قراردادی تقریباً ۲۰۰ میلیون دلاری با وزارت دفاع ایالات متحده منعقد کرد.