محتوای ضد مهاجرتی در میان محتوای تولید شده توسط هوش مصنوعی با میلیاردها بازدید در تیکتاک
بر اساس گزارشی، صدها حساب کاربری در تیکتاک با انتشار محتوای تولید شده توسط هوش مصنوعی، از جمله مطالب ضد مهاجرتی و جنسیشده، میلیاردها بازدید را به خود اختصاص دادهاند. پژوهشگران اعلام کردند که ۳۵۴ حساب کاربری متمرکز بر هوش مصنوعی را کشف کردهاند که ۴۳ هزار پست تولید شده با ابزارهای هوش مصنوعی مولد را منتشر کرده و در طول یک ماه بیش از ۴.۵ میلیارد بازدید کسب کردهاند.
بر اساس گزارش AI Forensics، یک سازمان غیرانتفاعی مستقر در پاریس، برخی از این حسابها با انتشار حجم زیادی از محتوا به امید وایرال شدن، تلاش میکنند الگوریتم تیکتاک را فریب دهند. یکی از این حسابها تا ۷۰ پست در روز یا در همان ساعت از روز منتشر میکرده که نشاندهنده خودکار بودن حساب است و بیشتر این حسابها در ابتدای سال راهاندازی شدهاند.
ماه گذشته تیکتاک اعلام کرد که حداقل ۱.۳ میلیارد پست تولید شده توسط هوش مصنوعی در این پلتفرم وجود دارد. روزانه بیش از ۱۰۰ میلیون قطعه محتوا در این پلتفرم بارگذاری میشود که نشان میدهد محتوای برچسبگذاری شده هوش مصنوعی بخش کوچکی از کاتالوگ تیکتاک را تشکیل میدهد. تیکتاک همچنین به کاربران این امکان را میدهد که میزان محتوای هوش مصنوعی دریافتی خود را کاهش دهند.
نیمی از حسابهایی که بیشترین محتوا را منتشر میکردند، بر روی محتوای مرتبط با بدن زن تمرکز داشتند. این گزارش میافزاید: «این زنان هوش مصنوعی همیشه به طور کلیشهای جذاب هستند و لباسهای جنسیشده یا یقههای باز دارند.» AI Forensics دریافت که این حسابها نیمی از محتوای منتشر شده خود را برچسبگذاری نکردهاند و کمتر از ۲ درصد از برچسب تیکتاک برای محتوای هوش مصنوعی استفاده کردهاند؛ موضوعی که این سازمان غیرانتفاعی هشدار داد میتواند پتانسیل فریبندگی این مطالب را افزایش دهد.
پژوهشگران افزودند که این حسابها گاهی اوقات ماهها از نظارت تیکتاک فرار میکنند، علیرغم اینکه محتوایی را منتشر میکنند که خلاف شرایط خدمات این پلتفرم است. پژوهشگران گفتند که دهها حساب کاربری که در این مطالعه فاش شدهاند، متعاقباً حذف شدهاند که نشان میدهد برخی از آنها توسط مدیران حذف شدهاند.
برخی از این محتواها به شکل بخشهای خبری جعلی با روایتهای ضد مهاجرتی و مطالب جنسیشده از بدن زنان، از جمله دخترانی که به نظر میرسید زیر سن قانونی بودند، ظاهر شدند. AI Forensics اعلام کرد که دسته بدن زن نیمی از ۱۰ حساب برتر و فعال را به خود اختصاص داده است، در حالی که برخی از اخبار جعلی، برندهای شناخته شده پخش مانند Sky News و ABC را معرفی میکردند. برخی از این پستها پس از ارجاع توسط گاردین به پلتفرم، توسط تیکتاک حذف شدهاند.
تیکتاک ادعاهای این گزارش را «بیاساس» خواند و گفت که پژوهشگران این پلتفرم را به دلیل مشکلی که چندین پلتفرم را تحت تأثیر قرار داده است، هدف قرار دادهاند. در ماه اوت، گاردین فاش کرد که تقریباً از هر ۱۰ کانال یوتیوب با سریعترین رشد در سطح جهان، تنها محتوای تولید شده توسط هوش مصنوعی نمایش داده میشود.
سخنگوی تیکتاک گفت: «ما در تیکتاک، محتوای مضر تولید شده با هوش مصنوعی (AIGC) را حذف میکنیم، از ایجاد صدها میلیون حساب ربات جلوگیری میکنیم، در فناوریهای پیشرو در صنعت برای برچسبگذاری محتوای هوش مصنوعی سرمایهگذاری میکنیم و با ابزارها و آموزشهایی افراد را توانمند میسازیم تا نحوه تجربه این محتوا را در پلتفرم خود کنترل کنند.» محبوبترین حسابهایی که AI Forensics از نظر بازدید برجسته کرده بود، «اسلاپ» منتشر کرده بودند؛ اصطلاحی برای محتوای ساخته شده با هوش مصنوعی که بیمعنی، عجیب و غریب و برای شلوغ کردن فید شبکههای اجتماعی افراد طراحی شده است، مانند حیواناتی که در مسابقه شیرجه المپیک رقابت میکنند یا نوزادان سخنگو. محققان اذعان داشتند که برخی از محتوای اسلاپ «سرگرمکننده» و «دوستداشتنی» بوده است. دستورالعملهای تیکتاک استفاده از هوش مصنوعی برای نمایش منابع معتبر جعلی، شبیه افراد زیر ۱۸ سال یا شبیه بزرگسالانی که چهرههای عمومی نیستند را ممنوع میکند. محققان گفتند: «این تحقیق بر روی [حسابهای خودکار] نشان میدهد که چگونه محتوای هوش مصنوعی اکنون در پلتفرمها و یک اکوسیستم بزرگتر ویروسی ادغام شده است. خط محو بین محتوای انسانی واقعی و محتوای مصنوعی تولید شده با هوش مصنوعی در پلتفرم، نشاندهنده یک چرخش جدید به سمت محتوای بیشتر تولید شده با هوش مصنوعی در فید کاربران است.» محققان دادههای اواسط آگوست تا اواسط سپتامبر را تجزیه و تحلیل کردند. برخی از این محتواها تلاش میکنند از کاربران کسب درآمد کنند، از جمله تبلیغ مکملهای سلامتی از طریق اینفلوئنسرهای جعلی، ترویج ابزارهایی که به ساخت محتوای ویروسی هوش مصنوعی کمک میکنند و جستجوی حمایت مالی برای پستها. AI Forensics که شیوع محتوای هوش مصنوعی را در اینستاگرام نیز برجسته کرده است، اعلام کرد که از تصمیم تیکتاک برای اجازه دادن به کاربران برای محدود کردن میزان محتوای هوش مصنوعی که مشاهده میکنند استقبال میکند، اما برچسبگذاری باید بهبود یابد. آنها گفتند: «با توجه به میزان ساختاری و قابل توجه شکست در شناسایی چنین محتوایی، ما نسبت به موفقیت این ویژگی بدبین هستیم.» محققان افزودند که تیکتاک باید ایجاد یک ویژگی فقط هوش مصنوعی در برنامه را برای جدا کردن محتوای ساخته شده با هوش مصنوعی از پستهای ایجاد شده توسط انسان در نظر بگیرد. آنها گفتند: «پلتفرمها باید فراتر از برچسبهای ضعیف یا اختیاری «محتوای هوش مصنوعی» بروند و تفکیک محتوای مولد از مواد تولید شده توسط انسان را در نظر بگیرند، یا سیستمی منصفانه پیدا کنند که برچسبگذاری سیستماتیک و قابل مشاهده محتوای هوش مصنوعی را اجرا کند.»
بر اساس گزارش AI Forensics، یک سازمان غیرانتفاعی مستقر در پاریس، برخی از این حسابها با انتشار حجم زیادی از محتوا به امید وایرال شدن، تلاش میکنند الگوریتم تیکتاک را فریب دهند. یکی از این حسابها تا ۷۰ پست در روز یا در همان ساعت از روز منتشر میکرده که نشاندهنده خودکار بودن حساب است و بیشتر این حسابها در ابتدای سال راهاندازی شدهاند.
ماه گذشته تیکتاک اعلام کرد که حداقل ۱.۳ میلیارد پست تولید شده توسط هوش مصنوعی در این پلتفرم وجود دارد. روزانه بیش از ۱۰۰ میلیون قطعه محتوا در این پلتفرم بارگذاری میشود که نشان میدهد محتوای برچسبگذاری شده هوش مصنوعی بخش کوچکی از کاتالوگ تیکتاک را تشکیل میدهد. تیکتاک همچنین به کاربران این امکان را میدهد که میزان محتوای هوش مصنوعی دریافتی خود را کاهش دهند.
نیمی از حسابهایی که بیشترین محتوا را منتشر میکردند، بر روی محتوای مرتبط با بدن زن تمرکز داشتند. این گزارش میافزاید: «این زنان هوش مصنوعی همیشه به طور کلیشهای جذاب هستند و لباسهای جنسیشده یا یقههای باز دارند.» AI Forensics دریافت که این حسابها نیمی از محتوای منتشر شده خود را برچسبگذاری نکردهاند و کمتر از ۲ درصد از برچسب تیکتاک برای محتوای هوش مصنوعی استفاده کردهاند؛ موضوعی که این سازمان غیرانتفاعی هشدار داد میتواند پتانسیل فریبندگی این مطالب را افزایش دهد.
پژوهشگران افزودند که این حسابها گاهی اوقات ماهها از نظارت تیکتاک فرار میکنند، علیرغم اینکه محتوایی را منتشر میکنند که خلاف شرایط خدمات این پلتفرم است. پژوهشگران گفتند که دهها حساب کاربری که در این مطالعه فاش شدهاند، متعاقباً حذف شدهاند که نشان میدهد برخی از آنها توسط مدیران حذف شدهاند.
برخی از این محتواها به شکل بخشهای خبری جعلی با روایتهای ضد مهاجرتی و مطالب جنسیشده از بدن زنان، از جمله دخترانی که به نظر میرسید زیر سن قانونی بودند، ظاهر شدند. AI Forensics اعلام کرد که دسته بدن زن نیمی از ۱۰ حساب برتر و فعال را به خود اختصاص داده است، در حالی که برخی از اخبار جعلی، برندهای شناخته شده پخش مانند Sky News و ABC را معرفی میکردند. برخی از این پستها پس از ارجاع توسط گاردین به پلتفرم، توسط تیکتاک حذف شدهاند.
تیکتاک ادعاهای این گزارش را «بیاساس» خواند و گفت که پژوهشگران این پلتفرم را به دلیل مشکلی که چندین پلتفرم را تحت تأثیر قرار داده است، هدف قرار دادهاند. در ماه اوت، گاردین فاش کرد که تقریباً از هر ۱۰ کانال یوتیوب با سریعترین رشد در سطح جهان، تنها محتوای تولید شده توسط هوش مصنوعی نمایش داده میشود.
سخنگوی تیکتاک گفت: «ما در تیکتاک، محتوای مضر تولید شده با هوش مصنوعی (AIGC) را حذف میکنیم، از ایجاد صدها میلیون حساب ربات جلوگیری میکنیم، در فناوریهای پیشرو در صنعت برای برچسبگذاری محتوای هوش مصنوعی سرمایهگذاری میکنیم و با ابزارها و آموزشهایی افراد را توانمند میسازیم تا نحوه تجربه این محتوا را در پلتفرم خود کنترل کنند.» محبوبترین حسابهایی که AI Forensics از نظر بازدید برجسته کرده بود، «اسلاپ» منتشر کرده بودند؛ اصطلاحی برای محتوای ساخته شده با هوش مصنوعی که بیمعنی، عجیب و غریب و برای شلوغ کردن فید شبکههای اجتماعی افراد طراحی شده است، مانند حیواناتی که در مسابقه شیرجه المپیک رقابت میکنند یا نوزادان سخنگو. محققان اذعان داشتند که برخی از محتوای اسلاپ «سرگرمکننده» و «دوستداشتنی» بوده است. دستورالعملهای تیکتاک استفاده از هوش مصنوعی برای نمایش منابع معتبر جعلی، شبیه افراد زیر ۱۸ سال یا شبیه بزرگسالانی که چهرههای عمومی نیستند را ممنوع میکند. محققان گفتند: «این تحقیق بر روی [حسابهای خودکار] نشان میدهد که چگونه محتوای هوش مصنوعی اکنون در پلتفرمها و یک اکوسیستم بزرگتر ویروسی ادغام شده است. خط محو بین محتوای انسانی واقعی و محتوای مصنوعی تولید شده با هوش مصنوعی در پلتفرم، نشاندهنده یک چرخش جدید به سمت محتوای بیشتر تولید شده با هوش مصنوعی در فید کاربران است.» محققان دادههای اواسط آگوست تا اواسط سپتامبر را تجزیه و تحلیل کردند. برخی از این محتواها تلاش میکنند از کاربران کسب درآمد کنند، از جمله تبلیغ مکملهای سلامتی از طریق اینفلوئنسرهای جعلی، ترویج ابزارهایی که به ساخت محتوای ویروسی هوش مصنوعی کمک میکنند و جستجوی حمایت مالی برای پستها. AI Forensics که شیوع محتوای هوش مصنوعی را در اینستاگرام نیز برجسته کرده است، اعلام کرد که از تصمیم تیکتاک برای اجازه دادن به کاربران برای محدود کردن میزان محتوای هوش مصنوعی که مشاهده میکنند استقبال میکند، اما برچسبگذاری باید بهبود یابد. آنها گفتند: «با توجه به میزان ساختاری و قابل توجه شکست در شناسایی چنین محتوایی، ما نسبت به موفقیت این ویژگی بدبین هستیم.» محققان افزودند که تیکتاک باید ایجاد یک ویژگی فقط هوش مصنوعی در برنامه را برای جدا کردن محتوای ساخته شده با هوش مصنوعی از پستهای ایجاد شده توسط انسان در نظر بگیرد. آنها گفتند: «پلتفرمها باید فراتر از برچسبهای ضعیف یا اختیاری «محتوای هوش مصنوعی» بروند و تفکیک محتوای مولد از مواد تولید شده توسط انسان را در نظر بگیرند، یا سیستمی منصفانه پیدا کنند که برچسبگذاری سیستماتیک و قابل مشاهده محتوای هوش مصنوعی را اجرا کند.»