تیک‌تاک به کاربران امکان می‌دهد میزان محتوای هوش مصنوعی را در فید خود کاهش دهند

تیک‌تاک به کاربران خود امکان می‌دهد تا میزان محتوای تولید شده با هوش مصنوعی را در فید خود کاهش دهند، زیرا اعلام کرده است که این پلتفرم بیش از ۱ میلیارد ویدئوی ساخته شده با هوش مصنوعی را میزبانی می‌کند. این تغییر که طی چند هفته آینده در دست آزمایش قرار می‌گیرد و سپس به صورت جهانی عرضه خواهد شد، در حالی صورت می‌گیرد که ابزارهای جدید تولید ویدئو مانند Sora از OpenAI و Veo 3 از گوگل، باعث افزایش چشمگیر محتوای هوش مصنوعی در فضای آنلاین شده‌اند. گاردین در ماه اوت فاش کرد که تقریباً از هر ۱۰ کانال یوتیوب با سریع‌ترین رشد در سطح جهان، تنها ویدئوهای تولید شده با هوش مصنوعی نمایش داده می‌شود. بسیاری از این محتواها را می‌توان «آشغال هوش مصنوعی» نامید؛ اصطلاحی برای محتوای کم‌کیفیت و تولید انبوه که اغلب بی‌معنی یا سورئال است. جید نستر، مدیر سیاست عمومی اروپا در زمینه ایمنی و حریم خصوصی تیک‌تاک، گفت: «ما از جامعه خود می‌دانیم که بسیاری از مردم از محتوای ساخته شده با ابزارهای هوش مصنوعی، از هنر دیجیتال گرفته تا توضیحات علمی، لذت می‌برند و ما می‌خواهیم به مردم این قدرت را بدهیم که بر اساس ترجیحات خود، از این نوع محتوا بیشتر یا کمتر ببینند.» تیک‌تاک که این تغییر را در انجمن سالانه اعتماد و ایمنی اروپا در دوبلین اعلام کرد، گفت که در حال حاضر ۱.۳ میلیارد ویدئو در پلتفرم خود با برچسب «تولید شده با هوش مصنوعی» وجود دارد. در مجموع، روزانه بیش از ۱۰۰ میلیون قطعه محتوا در تیک‌تاک بارگذاری می‌شود و محتوای هوش مصنوعی بخش کوچکی از کل موجودی آن را تشکیل می‌دهد. کاربران با باز کردن تنظیمات «مدیریت موضوع» در برنامه و انتخاب «محتوای تولید شده با هوش مصنوعی» قادر خواهند بود میزان محتوای هوش مصنوعی را که مشاهده می‌کنند، کاهش یا افزایش دهند. سایر موضوعاتی که در حال حاضر می‌توانند تحت فیلتر کاهش یا افزایش یابند شامل امور جاری، مد، زیبایی و رقص است. دستورالعمل‌های تیک‌تاک از خالقان می‌خواهد که محتوای «واقع‌گرایانه» ساخته شده با هوش مصنوعی را برچسب‌گذاری کنند و دیپ‌فیک‌های مضر از شخصیت‌های عمومی یا رویدادهای بحرانی را ممنوع می‌کند. هر ویدئوی واقع‌گرایانه هوش مصنوعی که برچسب‌گذاری نشده باشد، می‌تواند تحت سیاست‌های جامعه آن حذف شود. علاوه بر این، این برنامه اکنون واترمارک «ساخته شده با هوش مصنوعی» را به محتوایی که با ابزارهای هوش مصنوعی خود ساخته شده یا از طریق یک ابتکار صنعتی برای شناسایی مواد تولید شده با هوش مصنوعی به نام C2PA علامت‌گذاری شده است، اضافه خواهد کرد. تیک‌تاک گفت این اقدام به جلوگیری از تلاش کاربران برای دور زدن فرآیند برچسب‌گذاری کمک خواهد کرد. تیک‌تاک همچنین یک صندوق سواد هوش مصنوعی ۲ میلیون دلاری (۱.۵ میلیون پوند) برای کارشناسان و سازمان‌هایی مانند Girls Who Code، یک گروه غیرانتفاعی که برنامه‌نویسی و رباتیک را آموزش می‌دهد، راه‌اندازی می‌کند تا محتوای آموزشی در مورد استفاده مسئولانه از هوش مصنوعی ایجاد کنند. این برنامه اشتراک‌گذاری ویدئو، استراتژی تعدیل خود را در میان جنجال‌ها بر سر برنامه‌هایی برای بیکار کردن صدها ناظر محتوا در بریتانیا، دفاع کرده است. تیک‌تاک قرار است ۴۳۹ شغل را در تیم اعتماد و ایمنی خود در لندن کاهش دهد و اتحادیه‌های کارگری و کارشناسان ایمنی آنلاین نگرانی‌هایی را در مورد جایگزینی انسان‌ها با تعدیل هوش مصنوعی مطرح کرده‌اند.

بری پگوم، مدیر جهانی مدیریت برنامه اعتماد و ایمنی در تیک‌تاک، اظهار داشت که نظارت انسانی همچنان نقش خود را خواهد داشت، اما هوش مصنوعی می‌تواند با حذف ناگوارترین محتوا پیش از آنکه توسط انسان‌ها دیده شود، از کارکنان محافظت کند. تیک‌تاک اعلام کرد که در سال گذشته، به دلیل مداخله سیستم‌های خودکار، ۷۶ درصد کاهش در مشاهده محتوای تکان‌دهنده و گرافیکی توسط ناظران انسانی مشاهده شده است. وی گفت: «ما معتقدیم برای ایمن نگه داشتن پلتفرم، ایجاد تعادل بین انسان و فناوری ضروری است.» او افزود: «انسان‌ها بخشی از این فرآیند خواهند بود، اما ما همچنین معتقدیم که کاهش سریع مواجهه با محتوای مضر بسیار مهم است، و اینجاست که پشتیبانی ماشین‌آلات به ما در کار با سرعت کمک شایانی می‌کند.»