در گرِک اعتماد نمیکنیم: دانشگاهیان دانشنامه هوش مصنوعی ایلان ماسک را ارزیابی میکنند
ریچارد اوانس، مورخ برجسته بریتانیایی، سه گزارش کارشناسی را برای دادگاه افترا علیه دیوید ایروینگ، انکارکننده هولوکاست، تهیه کرد، برای دوره دکترا تحت نظارت تئودور زلدین تحصیل کرد، جانشین دیوید کاندین در مقام استاد رجیوس تاریخ در کمبریج شد (منصبی که توسط هنری هشتم وقف شده بود) و پایاننامههایی را در مورد سیاست اجتماعی بیسمارک نظارت کرد. اینها بخشی از اطلاعاتی بود که میتوانستید از Grokipedia، دایرةالمعارف مبتنی بر هوش مصنوعی که هفته گذشته توسط ثروتمندترین فرد جهان، ایلان ماسک، راهاندازی شد، به دست آورید. مشکل این بود، همانطور که پروفسور اوانس هنگام ورود به سیستم برای بررسی مدخل خود کشف کرد، تمام این حقایق نادرست بودند. این بخشی از شروعی پرنوسان برای آخرین تلاش بشریت برای جمعآوری مجموع دانش بشری بود یا، به قول ماسک، ایجاد مجموعهای از "حقیقت، تمام حقیقت و هیچ جز حقیقت" - همه آشکار شده از طریق جادوی مدل هوش مصنوعی Grok او. هنگامی که این میلیاردر در روز سهشنبه Grokipedia را فعال کرد، گفت که "بهتر از ویکیپدیا" یا "وکیپدیا" است، همانطور که حامیانش آن را مینامند، که نشاندهنده این دیدگاه است که دایرةالمعارف غالب آنلاین اغلب منعکسکننده نکات بحث چپگرایانه است. یک پست در X حال و هوای پیروزمندانه را در میان طرفداران ماسک به تصویر کشید: "ایلان همین الان ویکیپدیا را کشت. خلاص." اما کاربران دریافتند که Grokipedia بخشهای بزرگی را از وبسایتی که قصد داشت آن را غصب کند، برداشته بود، حاوی خطاهای واقعی متعددی بود و به نظر میرسید که نکات بحث راستگرایانه مورد علاقه ماسک را ترویج میکند. در میان پستهای X که خلقت خود را تبلیغ میکرد، ماسک این هفته اعلام کرد "جنگ داخلی در بریتانیا اجتنابناپذیر است"، خواستار اتحاد انگلیسیها "با مردان سرسخت" مانند تحریککننده راست افراطی تامی رابینسون شد و گفت که تنها حزب راست افراطی AfD میتواند "آلمان را نجات دهد". ماسک چنان شیفته دایرةالمعارف هوش مصنوعی خود بود که گفت قصد دارد روزی "مجموعه جامع تمام دانش" را بر روی اکسید پایدار حک کند و "نسخههایی را... در مدار، ماه و مریخ قرار دهد تا آن را برای آینده حفظ کند". با این حال، اوانس در حال کشف این بود که استفاده ماسک از هوش مصنوعی برای سنجش و بررسی حقایق از یک مشکل زمینیتر رنج میبرد. اوانس، کارشناس رایش سوم، پس از دعوت به آزمایش Grokipedia، به گاردین گفت: "مشارکتهای چتروم وضعیت برابر با کارهای جدی دانشگاهی دارند." "هوش مصنوعی فقط همه چیز را میبلعد." او به مدخل خود برای آلبرت اشپیر، معمار هیتلر و وزیر مهمات جنگی، اشاره کرد که دروغها و تحریفهای منتشر شده توسط اشپیر را تکرار میکرد، حتی اگر در یک زندگینامه برنده جایزه در سال ۲۰۱۷ اصلاح شده بودند. اوانس گفت که مدخل سایت در مورد اریک هابسباوم، مورخ مارکسیست، که اوانس زندگینامه او را نوشته بود، به اشتباه ادعا میکرد که او تورم شدید آلمان در سال ۱۹۲۳ را تجربه کرده است، که او افسر هنگ سیگنال سلطنتی بوده و ذکر نکرده است که او دو بار ازدواج کرده بود.
دیوید لارسن هیدنبلاد، معاون مدیر مرکز تاریخ دانش لوند در سوئد، این مشکل را تضاد فرهنگهای دانشی دانست. هیدنبلاد گفت: «ما در دورانی زندگی میکنیم که باور فزایندهای وجود دارد که تجمیع الگوریتمی قابل اعتمادتر از بینش انسانی است. ذهنیت دره سیلیکون بسیار متفاوت از رویکرد سنتی دانشگاهی است. فرهنگ دانشی آن بسیار تکرارشونده است که در آن اشتباه کردن یک ویژگی است، نه یک نقص. در مقابل، دنیای آکادمیک بر ایجاد اعتماد در طول زمان و پژوهش در دورههای طولانی استوار است که در طی آن توهم دانستن همهچیز از بین میرود. اینها فرآیندهای واقعی دانش هستند.» ظهور گروکیپدیا (Grokipedia) سنت چندصدساله دایرهالمعارفنویسی را از طومارهای چینی یونگله در قرن پانزدهم تا دایرهالمعارف (Encyclopédie) که موتور انتشار دیدگاههای بحثبرانگیز عصر روشنگری در فرانسه قرن هجدهم بود، ادامه میدهد. پس از آنها دایرهالمعارف بریتانیکا که عمدتاً انگلیسیمحور بود و از سال ۲۰۰۱ ویکیپدیا که با مشارکت جمعی ایجاد شده، قرار گرفتند. اما گروکیپدیا اولین دایرهالمعارف است که عمدتاً توسط هوش مصنوعی ایجاد شده و این هفته این سوال مطرح شد: وقتی هوش مصنوعی که توسط افراد قدرتمند هدایت میشود، قلم را در دست دارد، چه کسی حقیقت را کنترل میکند؟ پیتر برک، مورخ فرهنگی و استاد بازنشسته کالج امانوئل کمبریج، که در سال ۲۰۰۰ کتاب «تاریخ اجتماعی دانش از زمان اختراع ماشین چاپ توسط یوهانس گوتنبرگ در قرن پانزدهم» را نوشت، گفت: «اگر ماسک این کار را انجام دهد، من از دستکاری سیاسی میترسم.» برک افزود: «من مطمئنم که برخی از این موارد برای برخی از خوانندگان آشکار خواهد بود، اما مشکل این است که ممکن است سایر خوانندگان آن را نادیده بگیرند.» وی همچنین اظهار داشت که گمنامی بسیاری از مدخلهای دایرهالمعارف اغلب به آنها «هواپیمایی از اقتدار میداد که نباید داشته باشد». اندرو دافیلد، رئیس بخش هوش مصنوعی در فول فکت (Full Fact)، یک سازمان حقیقتیاب مستقر در بریتانیا، گفت: «ما واقعاً باید در نظر بگیریم که آیا یک دایرهالمعارف تولید شده توسط هوش مصنوعی – یک شبیهسازی از واقعیت که از فیلتری عبور کرده – پیشنهاد بهتری نسبت به هر یک از موارد قبلی است که داشتهایم. این دایرهالمعارف همان شفافیت را نشان نمیدهد، اما همان اعتماد را میطلبد. مشخص نیست که دست انسان تا چه حد درگیر است، تا چه حد توسط هوش مصنوعی تولید شده و هوش مصنوعی بر روی چه محتوایی آموزش دیده است. اعتماد به چیزی که نمیتوانید ببینید چگونه آن انتخابها انجام میشوند، دشوار است.» ماسک از جمله توسط دیوید ساکس، مشاور فناوری دونالد ترامپ، که از ویکیپدیا به دلیل «سوگیری ناامیدکننده» و اداره شدن توسط «ارتشی از فعالان چپگرا» شکایت کرده بود، برای راهاندازی گروکیپدیا تشویق شد. تا همین اواخر در سال ۲۰۲۱، ماسک از ویکیپدیا حمایت میکرد و در بیستمین سالگرد آن توییت کرد: «خیلی خوشحالم که وجود دارید.» اما تا اکتبر ۲۰۲۳، خصومت او نسبت به این پلتفرم منجر به پیشنهاد ۱ میلیارد پوندی او «اگر نام خود را به دیکپیڈیا (Dickipedia) تغییر دهند» شد.
با این حال، بسیاری از ۸۸۵,۲۷۹ مقاله موجود در گرُککیدیا در هفته اول انتشار، تقریباً کلمه به کلمه از ویکیپدیا، از جمله مدخلهای مربوط به پلیاستیشن ۵، فورد فوکوس و لد زپلین، برداشته شده بودند. در مقابل، برخی دیگر تفاوتهای قابل توجهی داشتند: مدخل گرُککیدیا درباره تهاجم روسیه به اوکراین، کرملین را به عنوان یک منبع برجسته ذکر کرده و از اصطلاحات رسمی روسیه در مورد «نازیزدایی» اوکراین، حفاظت از روسهای قومی و خنثیسازی تهدیدات علیه امنیت روسیه نقل قول کرده بود. در مقابل، ویکیپدیا بیان داشت که پوتین دیدگاههای امپریالیستی را ترویج میکرد و «ادعاهای بیاساس مبنی بر اینکه دولت اوکراین نئونازی هستند» را مطرح میکرد. گرُککیدیا سازمان راست افراطی «بریتانیا اول» را یک «حزب سیاسی میهنپرست» نامید که این موضوع مورد رضایت رهبر آن، پل گلدینگ، قرار گرفت که در سال ۲۰۱۸ به دلیل جنایات نفرتپراکنی ضداسلامی زندانی شده بود. در مقابل، ویکیپدیا آن را «نئوفاشیست» و «گروه نفرت» توصیف کرده بود. گرُککیدیا ناآرامیهای ۶ ژانویه ۲۰۲۱ در ساختمان کنگره آمریکا در واشینگتن دیسی را «شورش» نامید، نه تلاش برای کودتا، و بیان داشت که «مبانی تجربی» برای این ایده وجود دارد که پاکسازی جمعیتی عمدی از سفیدپوستان در کشورهای غربی از طریق مهاجرت انبوه در حال سازماندهی است. این ایدهای است که منتقدان آن را نظریه توطئه میدانند. گرُککیدیا گفت که محکومیت دونالد ترامپ به دلیل جعل سوابق تجاری در پرونده سکوت استورمی دنیلز «پس از محاکمه در یک حوزه قضایی به شدت دموکرات» صادر شد و هیچ اشارهای به تضاد منافع او – به عنوان مثال دریافت جت از قطر یا کسبوکارهای رمزارز خانواده ترامپ – نشده بود. ویکیپدیا با خونسردی به راهاندازی گرُککیدیا واکنش نشان داد و گفت که هنوز در تلاش برای درک نحوه عملکرد گرُککیدیا است. سخنگوی بنیاد ویکیمدیا گفت: «برخلاف پروژههای جدیدتر، نقاط قوت ویکیپدیا روشن است. این بنیاد دارای سیاستهای شفاف، نظارت دقیق داوطلبانه و فرهنگ قوی بهبود مستمر است. ویکیپدیا یک دایرةالمعارف است که برای اطلاعرسانی به میلیاردها خواننده بدون ترویج یک دیدگاه خاص نوشته شده است.» شرکت xAI به درخواستها برای اظهار نظر پاسخ نداد.
دیوید لارسن هیدنبلاد، معاون مدیر مرکز تاریخ دانش لوند در سوئد، این مشکل را تضاد فرهنگهای دانشی دانست. هیدنبلاد گفت: «ما در دورانی زندگی میکنیم که باور فزایندهای وجود دارد که تجمیع الگوریتمی قابل اعتمادتر از بینش انسانی است. ذهنیت دره سیلیکون بسیار متفاوت از رویکرد سنتی دانشگاهی است. فرهنگ دانشی آن بسیار تکرارشونده است که در آن اشتباه کردن یک ویژگی است، نه یک نقص. در مقابل، دنیای آکادمیک بر ایجاد اعتماد در طول زمان و پژوهش در دورههای طولانی استوار است که در طی آن توهم دانستن همهچیز از بین میرود. اینها فرآیندهای واقعی دانش هستند.» ظهور گروکیپدیا (Grokipedia) سنت چندصدساله دایرهالمعارفنویسی را از طومارهای چینی یونگله در قرن پانزدهم تا دایرهالمعارف (Encyclopédie) که موتور انتشار دیدگاههای بحثبرانگیز عصر روشنگری در فرانسه قرن هجدهم بود، ادامه میدهد. پس از آنها دایرهالمعارف بریتانیکا که عمدتاً انگلیسیمحور بود و از سال ۲۰۰۱ ویکیپدیا که با مشارکت جمعی ایجاد شده، قرار گرفتند. اما گروکیپدیا اولین دایرهالمعارف است که عمدتاً توسط هوش مصنوعی ایجاد شده و این هفته این سوال مطرح شد: وقتی هوش مصنوعی که توسط افراد قدرتمند هدایت میشود، قلم را در دست دارد، چه کسی حقیقت را کنترل میکند؟ پیتر برک، مورخ فرهنگی و استاد بازنشسته کالج امانوئل کمبریج، که در سال ۲۰۰۰ کتاب «تاریخ اجتماعی دانش از زمان اختراع ماشین چاپ توسط یوهانس گوتنبرگ در قرن پانزدهم» را نوشت، گفت: «اگر ماسک این کار را انجام دهد، من از دستکاری سیاسی میترسم.» برک افزود: «من مطمئنم که برخی از این موارد برای برخی از خوانندگان آشکار خواهد بود، اما مشکل این است که ممکن است سایر خوانندگان آن را نادیده بگیرند.» وی همچنین اظهار داشت که گمنامی بسیاری از مدخلهای دایرهالمعارف اغلب به آنها «هواپیمایی از اقتدار میداد که نباید داشته باشد». اندرو دافیلد، رئیس بخش هوش مصنوعی در فول فکت (Full Fact)، یک سازمان حقیقتیاب مستقر در بریتانیا، گفت: «ما واقعاً باید در نظر بگیریم که آیا یک دایرهالمعارف تولید شده توسط هوش مصنوعی – یک شبیهسازی از واقعیت که از فیلتری عبور کرده – پیشنهاد بهتری نسبت به هر یک از موارد قبلی است که داشتهایم. این دایرهالمعارف همان شفافیت را نشان نمیدهد، اما همان اعتماد را میطلبد. مشخص نیست که دست انسان تا چه حد درگیر است، تا چه حد توسط هوش مصنوعی تولید شده و هوش مصنوعی بر روی چه محتوایی آموزش دیده است. اعتماد به چیزی که نمیتوانید ببینید چگونه آن انتخابها انجام میشوند، دشوار است.» ماسک از جمله توسط دیوید ساکس، مشاور فناوری دونالد ترامپ، که از ویکیپدیا به دلیل «سوگیری ناامیدکننده» و اداره شدن توسط «ارتشی از فعالان چپگرا» شکایت کرده بود، برای راهاندازی گروکیپدیا تشویق شد. تا همین اواخر در سال ۲۰۲۱، ماسک از ویکیپدیا حمایت میکرد و در بیستمین سالگرد آن توییت کرد: «خیلی خوشحالم که وجود دارید.» اما تا اکتبر ۲۰۲۳، خصومت او نسبت به این پلتفرم منجر به پیشنهاد ۱ میلیارد پوندی او «اگر نام خود را به دیکپیڈیا (Dickipedia) تغییر دهند» شد.
با این حال، بسیاری از ۸۸۵,۲۷۹ مقاله موجود در گرُککیدیا در هفته اول انتشار، تقریباً کلمه به کلمه از ویکیپدیا، از جمله مدخلهای مربوط به پلیاستیشن ۵، فورد فوکوس و لد زپلین، برداشته شده بودند. در مقابل، برخی دیگر تفاوتهای قابل توجهی داشتند: مدخل گرُککیدیا درباره تهاجم روسیه به اوکراین، کرملین را به عنوان یک منبع برجسته ذکر کرده و از اصطلاحات رسمی روسیه در مورد «نازیزدایی» اوکراین، حفاظت از روسهای قومی و خنثیسازی تهدیدات علیه امنیت روسیه نقل قول کرده بود. در مقابل، ویکیپدیا بیان داشت که پوتین دیدگاههای امپریالیستی را ترویج میکرد و «ادعاهای بیاساس مبنی بر اینکه دولت اوکراین نئونازی هستند» را مطرح میکرد. گرُککیدیا سازمان راست افراطی «بریتانیا اول» را یک «حزب سیاسی میهنپرست» نامید که این موضوع مورد رضایت رهبر آن، پل گلدینگ، قرار گرفت که در سال ۲۰۱۸ به دلیل جنایات نفرتپراکنی ضداسلامی زندانی شده بود. در مقابل، ویکیپدیا آن را «نئوفاشیست» و «گروه نفرت» توصیف کرده بود. گرُککیدیا ناآرامیهای ۶ ژانویه ۲۰۲۱ در ساختمان کنگره آمریکا در واشینگتن دیسی را «شورش» نامید، نه تلاش برای کودتا، و بیان داشت که «مبانی تجربی» برای این ایده وجود دارد که پاکسازی جمعیتی عمدی از سفیدپوستان در کشورهای غربی از طریق مهاجرت انبوه در حال سازماندهی است. این ایدهای است که منتقدان آن را نظریه توطئه میدانند. گرُککیدیا گفت که محکومیت دونالد ترامپ به دلیل جعل سوابق تجاری در پرونده سکوت استورمی دنیلز «پس از محاکمه در یک حوزه قضایی به شدت دموکرات» صادر شد و هیچ اشارهای به تضاد منافع او – به عنوان مثال دریافت جت از قطر یا کسبوکارهای رمزارز خانواده ترامپ – نشده بود. ویکیپدیا با خونسردی به راهاندازی گرُککیدیا واکنش نشان داد و گفت که هنوز در تلاش برای درک نحوه عملکرد گرُککیدیا است. سخنگوی بنیاد ویکیمدیا گفت: «برخلاف پروژههای جدیدتر، نقاط قوت ویکیپدیا روشن است. این بنیاد دارای سیاستهای شفاف، نظارت دقیق داوطلبانه و فرهنگ قوی بهبود مستمر است. ویکیپدیا یک دایرةالمعارف است که برای اطلاعرسانی به میلیاردها خواننده بدون ترویج یک دیدگاه خاص نوشته شده است.» شرکت xAI به درخواستها برای اظهار نظر پاسخ نداد.