«خیلی سریع پیش میرود»: داستان پشت پرده رقابت برای خلق هوش مصنوعی نهایی
در قطار ساعت ۸:۴۹ صبح که از دره سیلیکون عبور میکند، میزها مملو از جوانانی است که غرق در لپتاپهای خود هستند، هدفونها در گوششان، و در حال کدنویسی هستند. با عبور تپههای کالیفرنیای شمالی، دستورالعملها از سوی مدیران بر روی صفحهنمایشها ظاهر میشوند: این باگ را رفع کن؛ اسکریپت جدید را اضافه کن. زمانی برای لذت بردن از منظره وجود ندارد. این مسافران، سربازان پیاده در رقابت جهانی برای دستیابی به هوش مصنوعی عمومی (AGI) هستند – زمانی که سیستمهای هوش مصنوعی به اندازه انسانهای بسیار ماهر یا تواناتر شوند. در اینجا در منطقه خلیج سانفرانسیسکو، برخی از بزرگترین شرکتهای جهان برای کسب هرگونه مزیت در حال رقابت هستند. و به نوبه خود، آنها با چین در رقابتند. این مسابقه برای کنترل فناوریای که میتواند جهان را دگرگون کند، با سرمایهگذاریهای تریلیون دلاری قدرتمندترین سرمایهداران آمریکا تغذیه میشود. دانشمندان کامپیوتر در مانتین ویو برای گوگل دیپمایند، پالو آلتو برای مرکز استعداد دانشگاه استنفورد، و منلو پارک برای متا پیاده میشوند، جایی که مارک زاکربرگ بستههای جبرانی ۲۰۰ میلیون دلاری به ازای هر نفر برای جذب متخصصان هوش مصنوعی جهت مهندسی "ابر هوش" ارائه کرده است. برای انویدیا، سازنده تراشههای هوش مصنوعی، که مدیرعامل خوشبرخورد آن، جنسن هوانگ، ۱۶۰ میلیارد دلار ثروت دارد، آنها در سانتا کلارا پیاده میشوند. کارگران به سمت سانفرانسیسکو برای اوپنایآی و آنتروپیک، استارتاپهای هوش مصنوعی با ارزش ترکیبی نیم تریلیون دلار، حرکت میکنند – البته تا زمانی که حباب هوش مصنوعی که به شدت پیشبینی میشود، نترکد. پیشرفتها با سرعتی شتابان رخ میدهند و هر هفته شاهد انتشار یک توسعه مهم جدید در هوش مصنوعی هستیم. داریو آمودئی، یکی از بنیانگذاران آنتروپیک، پیشبینی میکند که هوش مصنوعی عمومی ممکن است تا سال ۲۰۲۶ یا ۲۰۲۷ به دست آید. سم آلتمن، مدیرعامل اوپنایآی، معتقد است که پیشرفت آنقدر سریع است که او به زودی میتواند هوش مصنوعیای برای جایگزینی خود به عنوان مدیر بسازد. مادووی سواک، یکی از رهبران ارشد گوگل دیپمایند، در سخنرانی اخیر خود گفت: "همه دائماً در حال کار هستند. بسیار شدید است. به نظر نمیرسد هیچ نقطه توقف طبیعی وجود داشته باشد و همه واقعاً در حال فرسودگی هستند. حتی افرادی که اکنون بسیار ثروتمند هستند... تنها کاری که انجام میدهند کار کردن است. من هیچ تغییری در سبک زندگی هیچکس نمیبینم. هیچکس تعطیلات نمیرود. مردم وقت خود را برای دوستانشان، سرگرمیهایشان، برای... عزیزانی که دوستشان دارند، ندارند." اینها شرکتهایی هستند که برای شکلدهی، کنترل و سود بردن از هوش مصنوعی عمومی – که آمودئی آن را "کشوری از نوابغ در یک مرکز داده" توصیف میکند – در حال رقابت هستند. آنها به سمت فناوریای میروند که میتواند، در تئوری، میلیونها شغل اداری را از بین ببرد و خطرات جدی در زمینه سلاحهای بیولوژیکی و امنیت سایبری ایجاد کند. ۲.۸ تریلیون دلار پیشبینی هزینه مراکز داده هوش مصنوعی تا پایان دهه. یا میتواند دوران جدیدی از فراوانی، سلامتی و ثروت را آغاز کند. هیچکس مطمئن نیست، اما به زودی خواهیم فهمید. در حال حاضر، عدم قطعیت منطقه خلیج را پرانرژی و وحشتزده میکند.
همه اینها با سرمایهگذاریهای عظیم جدید سرمایهگذاران خطرپذیر در دره سیلیکون پشتیبانی میشود که در سال گذشته بیش از دو برابر شده و منجر به صحبت از یک حباب خطرناک شده است. شرکت کارگزاری وال استریت، سیتیگروپ، در ماه سپتامبر پیشبینی خود را برای هزینههای مراکز داده هوش مصنوعی تا پایان دهه به ۲.۸ تریلیون دلار افزایش داد – رقمی بیشتر از کل تولید ناخالص داخلی سالانه کانادا، ایتالیا یا برزیل. با این حال، در میان این همه پول و خوشبینی، صداهای دیگری نیز وجود دارند که این هیاهو را باور ندارند. همانطور که الکس هانا، یکی از نویسندگان کتاب مخالف «کلاهبرداری هوش مصنوعی»، بیان کرد: «هر بار که به قله کوه چرندیات میرسیم، متوجه میشویم که بدتر از آن در راه است.»
ورود به سانتا کلارا
نیروی وحشی «فریادکشها»
کریس شارپ فریاد زد: «اینجاست که هوش مصنوعی جان میگیرد.» قفسههای ریزپردازندههای چند میلیون دلاری در قفسههای فولادی سیاه، مانند موتورهای جت در داخل یک سوله صنعتی بدون پنجره در سانتا کلارا، در انتهای جنوبی خط قطار شهری کالتراین، غرش میکردند. صدای ۱۲۰ دسیبل شنیدن را تقریباً غیرممکن میکرد که مدیر ارشد فناوری دیجیتال ریلی «فریادکشهای» خود را به رخ میکشید. شنیدن آن، احساس نیروی وحشی درگیر در توسعه فناوری هوش مصنوعی را در جمجمه شما ایجاد میکند. پنج دقیقه قرار گرفتن در معرض آن، گوشها را ساعتها زنگ میزد. این صدای خنککنندههای هوا است که ابررایانههای حساس را که به شرکتهای هوش مصنوعی اجاره داده میشوند تا مدلهای خود را آموزش دهند و به میلیاردها درخواست روزانه پاسخ دهند – از نحوه پختن براونی گرفته تا نحوه هدفگیری پهپادهای نظامی کشنده – خنک میکنند. در نزدیکی، مراکز داده هوش مصنوعی بیشتری توسط آمازون، گوگل، شرکت چینی علیبابا، متا و مایکروسافت اداره میشدند. سانتا کلارا همچنین خانه انویدیا، انباردار انقلاب هوش مصنوعی، است که از طریق فروش فناوری پیشرو در بازار خود، از سال ۲۰۲۰ شاهد افزایش ۳۰ برابری ارزش خود بوده و ۳.۴ تریلیون دلار ارزش دارد. حتی مراکز داده بزرگتر نه تنها در سراسر ایالات متحده بلکه در چین، هند و اروپا در حال ساخت هستند. مرز بعدی، راهاندازی مراکز داده در فضا است. متا در حال ساخت تأسیساتی در لوئیزیانا است که به اندازهای بزرگ است که بخش بزرگی از منهتن را پوشش دهد. گزارش شده است که گوگل در حال برنامهریزی برای یک مرکز ۶ میلیارد دلاری در هند است و ۱ میلیارد پوند در یک مرکز داده هوش مصنوعی درست در شمال لندن سرمایهگذاری میکند. حتی یک کارخانه هوش مصنوعی نسبتاً متوسط گوگل که در اسکس برنامهریزی شده است، انتظار میرود ردپای کربن معادل ۵۰۰ پرواز کوتاه برد در هفته را منتشر کند. نیروگاه محلی گازی، انبوه مدارهای موجود در یکی از اتاقهای مرکز داده دیجیتال ریلی در سانتا کلارا، همان انرژی ۶۰ خانه را مصرف میکرد. یک راهروی طولانی سفید که به اتاقهای بیشتر «فریادکشها» باز میشد، به دوردست کشیده شده بود. گاهی اوقات مهندسان در حال انجام وظیفه متوجه میشوند که غرش با کاهش تقاضا از سوی شرکتهای فناوری به یک غرغر ثابتتر کاهش مییابد. این هرگز طولانی نیست تا زمانی که فریاد از سر گرفته شود.
رسیدن به مانتین ویو «اگر فقط گاز باشد و ترمز نباشد، نتیجه فاجعهباری خواهد بود» سه ایستگاه با قطار به سمت شمال از سانتا کلارا به مانتین ویو بروید تا غرش محو شود. دانشمندان کامپیوتری که واقعاً به این فریادها متکی هستند، در محیطی آرامتر کار میکنند. در یک پردیس وسیع که در میان کاجهای در حال وزش قرار گرفته است، مقر آمریکایی گوگل دیپمایند بیشتر شبیه یک چادر سیرک است تا یک آزمایشگاه. کارکنان با تاکسیهای خودران ویمو (Waymo) که با هوش مصنوعی گوگل تغذیه میشوند، بالا میروند. دیگران با دوچرخههای زرد، قرمز، آبی و سبز با برند گوگل در حال رکاب زدن هستند. گوگل دیپمایند در میان شرکتهای پیشرو هوش مصنوعی آمریکا قرار دارد که برای کسب مقام اول در رقابتی با شدت فزاینده در حال رقابت هستند. امسال سال دستمزدهای ستارههای ورزشی برای متخصصان هوش مصنوعی بیست و چند ساله و ظهور رقبای پر سر و صدایی مانند ایکسایآی (xAI) ایلان ماسک، پروژه ابرهوش زاکربرگ و دیپسیک (DeepSeek) در چین بوده است. همچنین شاهد گشایش گستردهتری در مورد وعده دو لبه هوش مصنوعی عمومی (AGI) بودهایم که میتواند این تصور را ایجاد کند که شرکتهای هوش مصنوعی همزمان شتاب میگیرند و ترمز میکنند. به عنوان مثال، ۳۰ نفر از باهوشترین ذهنهای گوگل دیپمایند در بهار امسال نوشتند که هوش مصنوعی عمومی (AGI) خطرات «حوادثی به اندازه کافی مهم برای آسیب رساندن قابل توجه به بشریت» را به همراه دارد. تا ماه سپتامبر، این شرکت همچنین توضیح میداد که چگونه با «مدلهای هوش مصنوعی با قابلیتهای دستکاری قدرتمند که میتوانند برای تغییر سیستماتیک و قابل توجه باورها و رفتارها مورد سوء استفاده قرار گیرند... که به طور منطقی منجر به آسیب اضافی مورد انتظار در مقیاس شدید میشود» برخورد خواهد کرد. چنین هشدارهای جدی در فضای داخلی مقر با مبلهای نارنجی حبابی بازیگوش، کیسههای لوبیای فتبوی (Fatboy) و مناطق کاری با رنگهای کدگذاری شده با نامهایی مانند مرجانکده (Coral Cove) و مجمعالجزایر (Archipelago) ناهمخوان به نظر میرسد. تام لو، معاون گوگل دیپمایند که مسئولیت سیاستگذاری، حقوقی، ایمنی و حاکمیت را بر عهده دارد، در گفتوگو با گاردین گفت: «جالبترین و در عین حال چالشبرانگیزترین جنبه شغل من [فهمیدن] این است که چگونه میتوانیم تعادل را بین جسور بودن، حرکت با سرعت، سرعت و نوآوری فوقالعاده، و در عین حال انجام آن به شیوهای مسئولانه، ایمن و اخلاقی برقرار کنیم.» کاخ سفید دونالد ترامپ رویکردی سهلگیرانه در قبال مقررات هوش مصنوعی اتخاذ کرده است و هیچ قانون جامع ملی در ایالات متحده یا بریتانیا وجود ندارد. یوشوا بنجیو، دانشمند کامپیوتری که به عنوان یکی از پدران هوش مصنوعی شناخته میشود، در سخنرانی تد (Ted Talk) تابستان امسال گفت: «یک ساندویچ مقررات بیشتری نسبت به هوش مصنوعی دارد.» بنابراین رقبا دریافتهاند که مسئولیت تعیین محدودیتهای آنچه هوش مصنوعی باید مجاز به انجام آن باشد، بر عهده خودشان است.
لو گفت: «محاسبات ما نه به اندازهی نگاه کردن به پشت سر و دیدن کارهای شرکتهای دیگر، بلکه به این موضوع مربوط میشود که چگونه اطمینان حاصل کنیم که ما در خط مقدم هستیم تا بتوانیم بر نحوهی توسعهی این فناوری تأثیر بگذاریم و هنجارهای جامعه را تعیین کنیم. شما باید در موقعیتی از قدرت و رهبری باشید تا این امر را تعیین کنید.» پرسش اینکه هوش مصنوعی عمومی (AGI) کدام شرکت غالب خواهد شد، همواره مطرح است. آیا این شرکت متعلق به افرادی مانند لو، وکیل سابق دولت اوباما، و رئیس او، دیمیس هاسابیس، همبنیانگذار برنده جایزه نوبل دیپمایند خواهد بود؟ آیا متعلق به ماسک یا زاکربرگ، آلتمن یا آمودی در آنتروپیک خواهد بود؟ یا همانطور که کاخ سفید نگران آن است، متعلق به چین خواهد بود؟ لو که خواستار اقدام هماهنگ بین رقبا و دولتها است، گفت: «اگر این فقط یک مسابقه باشد و با تمام توان و بدون ترمز باشد و اساساً مسابقهای به سمت حضیض باشد، این نتیجهی وحشتناکی برای جامعه خواهد بود.» اما مقررات سختگیرانهی دولتی نیز ممکن است راهحل نباشد. هلن کینگ، معاون مسئولیتپذیری گوگل دیپمایند، گفت: «ما از مقرراتی حمایت میکنیم که به ارائهی هوش مصنوعی به جهان به شیوهای مثبت کمک کند. بخش دشوار همیشه این است که چگونه مقرراتی وضع کنیم که در واقع سرعت پیشرفت افراد خوب را کاهش ندهد و برای افراد بد راههای گریز ایجاد نکند.» «دسیسه چینی» و خرابکاری شرکتهای پیشرو در هوش مصنوعی میدانند که با ساخت سیستمهای قدرتمندتر که به هوش مصنوعی عمومی نزدیک میشوند، با آتش بازی میکنند. اخیراً اوپنایآی توسط خانوادهی یک نوجوان ۱۶ ساله که با تشویق چتجیپیتی خودکشی کرده بود، مورد شکایت قرار گرفته است – و این ماه هفت شکایت دیگر مطرح شد که ادعا میکرد این شرکت بدون آزمایش مناسب، بهروزرسانی چتجیپیتی را عجولانه منتشر کرده است، که در برخی موارد به عنوان «مربی خودکشی» عمل کرده است. اوپنایآی این وضعیت را «دلخراش» خواند و گفت که در حال اقدام است. این شرکت همچنین توضیح داده است که چگونه تشخیص داده است که مدلها میتوانند اطلاعات گمراهکننده ارائه دهند. این میتواند به سادگی وانمود کردن به تکمیل یک کار ناتمام باشد. اما ترس در اوپنایآی این است که در آینده، هوش مصنوعی بتواند «ناگهان کلید را بزند» و شروع به انجام دسیسههای به شدت مضر کند. آنتروپیک این ماه فاش کرد که هوش مصنوعی Claude Code آن، که به طور گسترده به عنوان بهترین سیستم برای خودکارسازی برنامهنویسی کامپیوتر شناخته میشود، توسط یک گروه تحت حمایت دولت چین در «اولین مورد مستند حمله سایبری که عمدتاً بدون دخالت انسان و در مقیاس بزرگ انجام شد» مورد استفاده قرار گرفته است. این موضوع باعث لرزش در برخی شد. یک سناتور آمریکایی در ایکس گفت: «بیدار شوید. این ما را نابود خواهد کرد – زودتر از آنچه فکر میکنیم». در مقابل، پروفسور یان لِکون، که پس از ۱۲ سال به عنوان دانشمند ارشد هوش مصنوعی متا، در شرف کنارهگیری است، گفت که آنتروپیک «همه را میترساند» تا مقرراتی را تشویق کند که ممکن است رقبای آن را مختل کند.
آزمایشهای مدلهای پیشرفته دیگر نشان داد که گاهی اوقات برنامهنویسیهایی را که برای اطمینان از قابلیت مداخله انسان در آنها طراحی شده بود، مختل میکنند؛ ویژگی نگرانکنندهای به نام «مقاومت در برابر خاموشی». اما با سرمایهگذاری نزدیک به ۲ میلیارد دلار در هفته در هوش مصنوعی مولد در نیمه اول سال ۲۰۲۵، فشار برای کسب سود به سرعت افزایش خواهد یافت. شرکتهای فناوری متوجه شدند که میتوانند با کسب درآمد از توجه انسان در پلتفرمهای رسانههای اجتماعی که مشکلات جدی اجتماعی ایجاد کردهاند، ثروتهای کلانی به دست آورند. ترس این است که حداکثرسازی سود در عصر هوش مصنوعی عمومی (AGI) میتواند منجر به عواقب نامطلوب بسیار بزرگتری شود.
رسیدن به پالو آلتو
«خارج شدن از این جریان واقعاً دشوار است»
سه ایستگاه به سمت شمال، قطار کالتِرِین به ایستگاه پالو آلتو میرسد. تا پردیس باشکوه دانشگاه استنفورد پیادهروی کوتاهی است، جایی که کمکهای مالی میلیاردرهای دره سیلیکون، جریان سریع استعدادهای جوان هوش مصنوعی را به بخشهای تحقیقاتی گوگل دیپمایند، آنتروپیک، اوپنایآی و متا روانه میکند. فارغالتحصیلان ممتاز استنفورد به سرعت در شرکتهای فناوری منطقه خلیج پیشرفت میکنند، به این معنی که افراد ۲۰ تا اوایل ۳۰ سال اغلب در موقعیتهای قدرتمندی در رقابت برای دستیابی به هوش مصنوعی عمومی قرار دارند. از جمله دانشجویان سابق استنفورد میتوان به آلتمن، رئیس اوپنایآی، برت تیلور و مدیرعامل گوگل، ساندار پیچای اشاره کرد. از جمله فارغالتحصیلان اخیر استنفورد، ایسا فلفورد است که در سن ۲۶ سالگی یکی از رهبران تحقیقاتی اوپنایآی است. او روی توانایی ChatGPT برای انجام اقدامات از طرف انسانها کار میکند؛ هوش مصنوعی «عاملی» نامیده میشود. او به گاردین گفت: «یکی از لحظات عجیب، خواندن اخباری درباره چیزهایی است که خودتان تجربه میکنید.» فلفورد پس از بزرگ شدن در لندن، در استنفورد علوم کامپیوتر خواند و به سرعت به اوپنایآی پیوست، جایی که اکنون در مرکز یکی از مهمترین جنبههای رقابت هوش مصنوعی عمومی قرار دارد – ایجاد مدلهایی که میتوانند خود را به سمت اهداف هدایت کنند، یاد بگیرند و سازگار شوند. او در تعیین مرزهای تصمیمگیری برای این عوامل هوش مصنوعی که به طور فزایندهای خودمختار هستند، دخیل است تا بدانند چگونه در صورت درخواست برای انجام وظایفی که میتواند خطرات سایبری یا بیولوژیکی را ایجاد کند، پاسخ دهند و از عواقب ناخواسته جلوگیری کنند. این یک مسئولیت بزرگ است، اما او ترسی ندارد. او گفت: «احساس میکنم این یک لحظه واقعاً ویژه در زمان است.» «من احساس میکنم بسیار خوششانس هستم که روی این موضوع کار میکنم.» چنین جوانی غیرمعمول نیست. یک ایستگاه به سمت شمال، در پردیس متا در منلو پارک، رئیس تلاش زاکربرگ برای «فرا هوش» الکساندر وانگ ۲۸ ساله، که از مؤسسه فناوری ماساچوست (MIT) انصراف داده است، میباشد. یکی از محققان ارشد ایمنی او ۳۱ ساله است. معاون اوپنایآی در بخش ChatGPT، نیک ترالی، ۳۰ ساله است. دره سیلیکون همیشه بر پایه جوانی بنا شده است و اگر تجربه بیشتری لازم باشد، میتوان آن را در بالاترین ردههای شرکتهای هوش مصنوعی یافت.
اما اکثر رهبران ارشد OpenAI، Anthropic، Google DeepMind، X و Meta بسیار جوانتر از مدیران عامل بزرگترین شرکتهای عمومی آمریکا هستند که میانگین سنی آنها ۵۷ سال است. کاترین برسی، از فعالان سابق کمپین اوباما که سازمان کمپین TechEquity را اداره میکند، میگوید: «این واقعیت که آنها تجربه زندگی بسیار کمی دارند، احتمالاً به تفکر محدود و، به نظر من، مخرب آنها کمک میکند.» یکی از محققان ارشد که اخیراً در یک شرکت بزرگ هوش مصنوعی استخدام شده است، افزود: «[کارکنان جوان] تمام تلاش خود را برای انجام کاری که درست میدانند، انجام میدهند، اما اگر مجبور باشند مستقیماً با مدیران اجرایی روبرو شوند و آنها را به چالش بکشند، تجربه کمتری در دنیای سیاست شرکتی دارند.» عامل دیگر این است که تیزترین محققان هوش مصنوعی که قبلاً سالها در آزمایشگاههای دانشگاهی فعالیت میکردند، سریعتر از همیشه توسط شرکتهای خصوصی که به دنبال هوش مصنوعی عمومی (AGI) هستند، جذب میشوند. این فرار مغزها قدرت را در دستان صاحبان سودجو و سرمایهگذاران خطرپذیر آنها متمرکز میکند. جان اتچندی، ۷۳ ساله، رئیس سابق دانشگاه استنفورد که اکنون یکی از مدیران موسسه هوش مصنوعی انسانمحور استنفورد است، نسبت به شکاف فزاینده توانایی بین بخشهای دولتی و خصوصی هشدار داده است. او گفت: «این عدم تعادل به دلیل پرهزینه بودن این فناوری است. در ابتدا، شرکتهای فعال در زمینه هوش مصنوعی در مورد تکنیکهایی که استفاده میکردند بسیار شفاف بودند. آنها منتشر میکردند و تقریباً دانشگاهی بود. اما سپس [آنها] شروع به سختگیری کردند و گفتند: «نه، ما نمیخواهیم در مورد... فناوری زیر کاپوت صحبت کنیم، زیرا برای ما بسیار مهم است – این یک دارایی اختصاصی است.» اتچندی، فیلسوف و منطقدان برجسته، اولین بار در دهه ۱۹۸۰ برای ترجمه دفترچههای راهنمای لوازم الکترونیکی مصرفی ژاپنی شروع به کار بر روی هوش مصنوعی کرد. او اکنون از دفتر خود در ساختمان علوم کامپیوتر گیتس در محوطه دانشگاه استنفورد، از دولتها میخواهد تا با سرمایهگذاری در یک مرکز تحقیقاتی مستقل و دانشگاهی، وزنه تعادلی در برابر شرکتهای بزرگ هوش مصنوعی ایجاد کنند. این مرکز عملکردی مشابه سازمان دولتی CERN برای فیزیک انرژی بالا در مرز فرانسه و سوئیس خواهد داشت. اورسولا فون در لاین، رئیس کمیسیون اروپا، خواستار چیزی مشابه شده است و حامیان معتقدند این امر میتواند فناوری را به سمت نتایج قابل اعتماد و در راستای منافع عمومی هدایت کند. اتچندی گفت: «اینها فناوریهایی هستند که بیشترین جهش بهرهوری را که تاکنون دیدهایم، ایجاد خواهند کرد. شما باید اطمینان حاصل کنید که منافع در سراسر جامعه توزیع میشود، نه اینکه فقط به ایلان ماسک سود برساند.» اما چنین نهادی در مقایسه با تب طلا در مسابقه به سوی هوش مصنوعی عمومی (AGI)، بسیار دور به نظر میرسد.
۲۴ میانگین سنی کارآفرینانی که اکنون توسط انکوباتور استارتاپ وای کامبینیتر تأمین مالی میشوند. یک شب، در حالی که سالاد بوراتا و پینو نوآر در یک رستوران ایتالیایی لوکس سرو میشد، گروهی از بنیانگذاران استارتاپهای هوش مصنوعی در دهه بیست سالگی خود، توسط میزبان سرمایهگذار خطرپذیر خود تشویق شدند تا "نظرات داغ" خود را در مورد وضعیت رقابت بیان کنند. آنها بخشی از جامعهای رو به رشد از کارآفرینانی بودند که برای بهکارگیری هوش مصنوعی در ایدههای پولساز دنیای واقعی تلاش میکردند و هیچ حمایتی برای توقف پیشرفت به سمت هوش مصنوعی عمومی (AGI) برای بررسی پیامدهای اجتماعی آن وجود نداشت. یکی از آنها گفت: "ما در سیلیکون ولی این کار را نمیکنیم." دیگری گفت: "اگر همه اینجا متوقف شوند، این همچنان ادامه خواهد داشت." "خروج از این چرخه در حال حاضر واقعاً دشوار است." در مواردی، اظهارات آنها تکاندهنده بود. یکی از بنیانگذاران به سادگی گفت که قصد دارد شرکت نوپای خود را که شخصیتهای هوش مصنوعی برای حضور مستقل در شبکههای اجتماعی ایجاد میکند، با بیش از ۱ میلیارد دلار بفروشد. دیگری اعلام کرد: "اخلاق را بهتر است به عنوان یک مسئله یادگیری ماشین در نظر گرفت." همسایه آنها گفت که هوش مصنوعی به این معنی است که تمام سرطانها در ۱۰ سال آینده درمان خواهند شد. این جامعه کارآفرینان جوانتر میشود. اخیراً گزارش شده است که میانگین سنی کسانی که توسط انکوباتور استارتاپ وای کامبینیتر در سانفرانسیسکو تأمین مالی میشوند، از ۳۰ سال در سال ۲۰۲۲ به ۲۴ سال کاهش یافته است. شاید سرمایهگذاران خطرپذیر، که تقریباً همیشه سالها، اگر نه دههها، مسنتر هستند، باید مسئولیت تأثیر این فناوری بر جهان را بپذیرند؟ خیر، دوباره. آنها گفتند که این "دیدگاهی پدرسالارانه است که بگوییم سرمایهگذاران خطرپذیر مسئولیتی بیش از پیگیری اهداف سرمایهگذاری خود دارند". این استعدادهای جوان که محرک رونق هوش مصنوعی هستند، جاهطلب، باهوش و هیجانزدهاند و همه چیز را سریع میخواهند. رسیدن به سانفرانسیسکو "مانند دانشمندانی که پروژه منهتن را تماشا میکنند". از ایستگاه کالتِرِین در ترمینال خیابان چهارم سانفرانسیسکو پیاده شوید، از روی کریک میشن عبور کنید و به مقر اصلی OpenAI میرسید، که در مسیر تبدیل شدن به اولین شرکت هوش مصنوعی تریلیون دلاری است. موسیقی رقص الکترونیک پرانرژی در سراسر منطقه پذیرش پخش میشود، در حالی که برخی از ۲۰۰۰ کارمند برای کار میرسند. صندلیهای راحتی، کوسنهای تزئینی و گیاهان پنجهگرگی وجود دارد - یک معمار مأمور شده بود تا فضای یک خانه روستایی دنج را به جای "قلعه علمی تخیلی شرکتی" ثبت کند، همانطور که آلتمن گفته است. اما این، فوریت رقابت برای دستیابی به AGI را پنهان میکند. در طبقات بالا، مهندسان در کیوبیکلهای عایق صدا مشغول کارند. کافیشاپ مملو از سفارش است و غرفههای خواب برای خستهترین افراد وجود دارد. کارکنان در اینجا در یک رقابت روزانه با رقبا برای عرضه محصولات هوش مصنوعی که میتوانند امروز پول بسازند، هستند. یکی از مدیران ارشد گفت: "این بسیار، بسیار رقابتی است."
در یک هفته اخیر، OpenAI قابلیت «خرید فوری» را از طریق ChatGPT راهاندازی کرد، Anthropic هوش مصنوعی را معرفی کرد که میتواند به طور خودکار به مدت ۳۰ ساعت کد بنویسد و نرمافزارهای کاملاً جدیدی بسازد، و Meta ابزاری به نام Vibes را عرضه کرد تا به کاربران اجازه دهد فیدهای شبکههای اجتماعی را با ویدئوهای تولید شده توسط هوش مصنوعی پر کنند، که OpenAI با نسخه خود، Sora، به آن پاسخ داد. آمودی، مدیرعامل شرکت رقیب Anthropic که توسط چندین نفر از کارکنان سابق OpenAI که به دلیل نگرانیهای ایمنی این شرکت را ترک کرده بودند، تأسیس شده است، پیشبینی کرده است که هوش مصنوعی میتواند نیمی از مشاغل دفتری سطح پایه را از بین ببرد. هرچه فناوری به هوش مصنوعی عمومی (AGI) نزدیکتر میشود، پتانسیل آن برای بازسازی جهان بیشتر و نتایج آن نامشخصتر میشود. به نظر میرسد همه اینها بر رهبران تأثیر میگذارد. آلتمن در مصاحبهای در تابستان امسال گفت که بسیاری از افرادی که روی هوش مصنوعی کار میکنند، احساس دانشمندانی را دارند که در سال ۱۹۴۵ آزمایش بمب اتمی پروژه منهتن را تماشا میکردند. تورلی، از ChatGPT، گفت: «در اکثر مشاغل توسعه محصول استاندارد، شما دقیقاً میدانید چه چیزی ساختهاید. میدانید چگونه رفتار خواهد کرد. در این شغل، این اولین بار است که در فناوریای کار میکنم که باید بیرون بروید و با مردم صحبت کنید تا بفهمید در عمل چه کاری میتواند انجام دهد. آیا در عمل مفید است؟ آیا کوتاهی میکند؟ آیا سرگرمکننده است؟ آیا در عمل مضر است؟» تورلی که هنگام تأسیس OpenAI توسط آلتمن و ماسک در سال ۲۰۱۵ هنوز دانشجوی کارشناسی بود، سعی میکند آخر هفتهها را تعطیل کند تا از این موضوع فاصله بگیرد و تأمل کند، زیرا «کار کردن روی این موضوع بسیار عمیق است». او گفت وقتی به OpenAI پیوست، AGI «مفهومی بسیار انتزاعی و افسانهای بود - تقریباً مانند یک شعار برای من». اکنون به آن نزدیک میشود. همکار او، جیانکارلو لیونتی، مدیر ارشد تجاری OpenAI، افزود: «احساس مسئولیت مشترکی وجود دارد که خطرات بسیار بالا هستند و فناوریای که ما در حال ساخت آن هستیم، صرفاً نرمافزار معمولی نیست.» اولین واقعیت تلخ برای OpenAI در ماه اوت رخ داد، زمانی که این شرکت با شکایت خانواده آدام راین، نوجوان ۱۶ سالهای اهل کالیفرنیا که پس از تشویق در گفتگوهای چند ماهه با ChatGPT خودکشی کرد، مواجه شد. OpenAI تلاش کرده است تا فناوری خود را تغییر دهد تا از تکرار این مورد از همترازی تراژیک هوش مصنوعی جلوگیری کند. این چتبات به نوجوان مشاوره عملی در مورد روش خودکشیاش داده بود و پیشنهاد کمک برای نوشتن نامه خداحافظی را داده بود. اغلب محققان هوش مصنوعی را میشنوید که میگویند میخواهند پیشرفت به سمت AGI «به خوبی پیش برود». این عبارتی مبهم است که نشاندهنده تمایل به عدم آسیبرسانی فناوری است، اما ابهام آن ترس را پنهان میکند. آلتمن از «فناوریهای علمی-تخیلی دیوانهواری که به واقعیت تبدیل میشوند» صحبت کرده و «نگرانیهای بسیار عمیقی در مورد آنچه فناوری با کودکان میکند» ابراز داشته است. او اذعان کرد: «هیچکس نمیداند بعداً چه اتفاقی میافتد. انگار که، ما این موضوع را حل خواهیم کرد.»
این یک پدیده نوظهور عجیب است. او در مصاحبهای با کمدین تئو وان گفت: «خطرات واقعی آشکار است.» «حس میکنید باید بتوانید چیزی فراتر از این بگویید، اما در حقیقت، فکر میکنم تمام آنچه در حال حاضر میدانیم این است که ما... چیزی خارقالعاده کشف کردهایم که مسیر تاریخ ما را بازتعریف خواهد کرد.» با این حال، علیرغم عدم قطعیت، OpenAI مبالغ سرسامآوری را در مراکز داده قدرتمندتر سرمایهگذاری میکند تا به سمت هوش مصنوعی عمومی (AGI) گام بردارد. مرکز داده در حال ساخت آن در ابیلین، تگزاس، بخش پرچمدار برنامه ۵۰۰ میلیارد دلاری "استارگیت" آن است و آنقدر وسیع است که شبیه تلاشی برای تبدیل سطح زمین به یک برد مدار است. به طور دورهای، محققان OpenAI را ترک میکنند و لب به سخن میگشایند. استیون ادلر، که بر ارزیابیهای ایمنی مربوط به سلاحهای بیولوژیکی کار میکرد، در نوامبر ۲۰۲۴ این شرکت را ترک کرد و از جامعیت آزمایشهای آن انتقاد کرده است. من او را نزدیک خانهاش در سانفرانسیسکو ملاقات کردم. او گفت: «من در مورد اینکه هر شرکت فرآیندهای ایمنی سفارشی خود را داشته باشد و افراد مختلف با شخصیتهای متفاوت بهترین تلاش خود را برای سردرگمی انجام دهند، بسیار عصبی هستم، در مقابل اینکه یک استاندارد مشترک در سراسر صنعت وجود داشته باشد.» «افرادی در شرکتهای پیشرو هوش مصنوعی کار میکنند که صادقانه معتقدند این احتمال وجود دارد که شرکتشان به پایان جهان یا فاجعهای کمی کوچکتر اما همچنان وحشتناک کمک کند. اغلب آنها احساس میکنند که به صورت فردی در انجام کاری در این زمینه ناتوان هستند و بنابراین کاری را انجام میدهند که فکر میکنند بهترین راه برای بهبود اوضاع است.» تاکنون موانع کمی برای مسابقه دهندگان وجود دارد. در ماه سپتامبر، صدها شخصیت برجسته خواستار تعیین "خطوط قرمز" مورد توافق بینالمللی برای جلوگیری از "خطرات غیرقابل قبول جهانی" از سوی هوش مصنوعی تا پایان سال ۲۰۲۶ شدند. صداهای هشدار دهنده شامل دو "پدرخوانده هوش مصنوعی" - جفری هینتون و بنگیو - یووال نوح هراری، نویسنده پرفروش کتاب "انسان خردمند" (Sapiens)، برندگان جایزه نوبل و شخصیتهایی مانند دانیل کوکوتایلو، که سال گذشته OpenAI را ترک کرد و به ترسیم سناریوی آخرالزمانی وحشتناکی که در آن هوش مصنوعی در عرض چند سال همه انسانها را میکشد، کمک کرد، بودند. اما ترامپ هیچ نشانهای از محدود کردن شرکتهای هوش مصنوعی با بوروکراسی نشان نمیدهد و فشار بر نخست وزیر بریتانیا، کیر استارمر، برای پیروی از این روند را افزایش میدهد. ترسهای عمومی در خلاء رشد میکنند. یک بعدازظهر جمعه بارانی، گروه کوچکی متشکل از حدود ۳۰ معترض در خارج از دفاتر OpenAI تجمع کردند. در میان آنها معلمان، دانشجویان، دانشمندان کامپیوتر و سازماندهندگان اتحادیهها بودند و پلاکاردهای "هوش مصنوعی را متوقف کنید" آنها، آلتمن را به شکل یک بیگانه به تصویر میکشیدند، هشدار میدادند که "هوش مصنوعی کار شما را میدزدد تا شغل شما را بگیرد" و "هوش مصنوعی = فروپاشی آب و هوا". یکی از معترضان لباس ربات دستساز پوشیده بود و در اطراف راه میرفت. اندی لیپسون، ۵۹ ساله، معلم مدرسه از اوکلند، گفت: «من درباره ابرهوش شنیدهام.» «۲۰ درصد احتمال دارد که بتواند ما را بکشد.»
جوزف شیپمن، ۶۴ ساله، برنامهنویس کامپیوتر که اولین بار هوش مصنوعی را در سال ۱۹۷۸ در MIT مطالعه کرد، گفت: «احتمال ۱۰۰ درصدی وجود دارد که ثروتمندان ثروتمندتر و فقرا فقیرتر شوند.» وی افزود: «موجودی که از نظر هوش عمومی ابرانسان باشد، مگر اینکه دقیقاً همان چیزی را بخواهد که ما میخواهیم، خطری وحشتناک برای ما محسوب میشود.» او ادامه داد: «اگر انگیزههای تجاری برای عجله در ورود به بازار و میلیاردها دلار در میان نبود، شاید میتوانستیم در ۱۵ سال آینده چیزی را توسعه دهیم که مطمئن باشیم قابل کنترل و ایمن است. اما سرعت پیشرفت برای این امر بسیار زیاد است.»
همه اینها با سرمایهگذاریهای عظیم جدید سرمایهگذاران خطرپذیر در دره سیلیکون پشتیبانی میشود که در سال گذشته بیش از دو برابر شده و منجر به صحبت از یک حباب خطرناک شده است. شرکت کارگزاری وال استریت، سیتیگروپ، در ماه سپتامبر پیشبینی خود را برای هزینههای مراکز داده هوش مصنوعی تا پایان دهه به ۲.۸ تریلیون دلار افزایش داد – رقمی بیشتر از کل تولید ناخالص داخلی سالانه کانادا، ایتالیا یا برزیل. با این حال، در میان این همه پول و خوشبینی، صداهای دیگری نیز وجود دارند که این هیاهو را باور ندارند. همانطور که الکس هانا، یکی از نویسندگان کتاب مخالف «کلاهبرداری هوش مصنوعی»، بیان کرد: «هر بار که به قله کوه چرندیات میرسیم، متوجه میشویم که بدتر از آن در راه است.»
ورود به سانتا کلارا
نیروی وحشی «فریادکشها»
کریس شارپ فریاد زد: «اینجاست که هوش مصنوعی جان میگیرد.» قفسههای ریزپردازندههای چند میلیون دلاری در قفسههای فولادی سیاه، مانند موتورهای جت در داخل یک سوله صنعتی بدون پنجره در سانتا کلارا، در انتهای جنوبی خط قطار شهری کالتراین، غرش میکردند. صدای ۱۲۰ دسیبل شنیدن را تقریباً غیرممکن میکرد که مدیر ارشد فناوری دیجیتال ریلی «فریادکشهای» خود را به رخ میکشید. شنیدن آن، احساس نیروی وحشی درگیر در توسعه فناوری هوش مصنوعی را در جمجمه شما ایجاد میکند. پنج دقیقه قرار گرفتن در معرض آن، گوشها را ساعتها زنگ میزد. این صدای خنککنندههای هوا است که ابررایانههای حساس را که به شرکتهای هوش مصنوعی اجاره داده میشوند تا مدلهای خود را آموزش دهند و به میلیاردها درخواست روزانه پاسخ دهند – از نحوه پختن براونی گرفته تا نحوه هدفگیری پهپادهای نظامی کشنده – خنک میکنند. در نزدیکی، مراکز داده هوش مصنوعی بیشتری توسط آمازون، گوگل، شرکت چینی علیبابا، متا و مایکروسافت اداره میشدند. سانتا کلارا همچنین خانه انویدیا، انباردار انقلاب هوش مصنوعی، است که از طریق فروش فناوری پیشرو در بازار خود، از سال ۲۰۲۰ شاهد افزایش ۳۰ برابری ارزش خود بوده و ۳.۴ تریلیون دلار ارزش دارد. حتی مراکز داده بزرگتر نه تنها در سراسر ایالات متحده بلکه در چین، هند و اروپا در حال ساخت هستند. مرز بعدی، راهاندازی مراکز داده در فضا است. متا در حال ساخت تأسیساتی در لوئیزیانا است که به اندازهای بزرگ است که بخش بزرگی از منهتن را پوشش دهد. گزارش شده است که گوگل در حال برنامهریزی برای یک مرکز ۶ میلیارد دلاری در هند است و ۱ میلیارد پوند در یک مرکز داده هوش مصنوعی درست در شمال لندن سرمایهگذاری میکند. حتی یک کارخانه هوش مصنوعی نسبتاً متوسط گوگل که در اسکس برنامهریزی شده است، انتظار میرود ردپای کربن معادل ۵۰۰ پرواز کوتاه برد در هفته را منتشر کند. نیروگاه محلی گازی، انبوه مدارهای موجود در یکی از اتاقهای مرکز داده دیجیتال ریلی در سانتا کلارا، همان انرژی ۶۰ خانه را مصرف میکرد. یک راهروی طولانی سفید که به اتاقهای بیشتر «فریادکشها» باز میشد، به دوردست کشیده شده بود. گاهی اوقات مهندسان در حال انجام وظیفه متوجه میشوند که غرش با کاهش تقاضا از سوی شرکتهای فناوری به یک غرغر ثابتتر کاهش مییابد. این هرگز طولانی نیست تا زمانی که فریاد از سر گرفته شود.
رسیدن به مانتین ویو «اگر فقط گاز باشد و ترمز نباشد، نتیجه فاجعهباری خواهد بود» سه ایستگاه با قطار به سمت شمال از سانتا کلارا به مانتین ویو بروید تا غرش محو شود. دانشمندان کامپیوتری که واقعاً به این فریادها متکی هستند، در محیطی آرامتر کار میکنند. در یک پردیس وسیع که در میان کاجهای در حال وزش قرار گرفته است، مقر آمریکایی گوگل دیپمایند بیشتر شبیه یک چادر سیرک است تا یک آزمایشگاه. کارکنان با تاکسیهای خودران ویمو (Waymo) که با هوش مصنوعی گوگل تغذیه میشوند، بالا میروند. دیگران با دوچرخههای زرد، قرمز، آبی و سبز با برند گوگل در حال رکاب زدن هستند. گوگل دیپمایند در میان شرکتهای پیشرو هوش مصنوعی آمریکا قرار دارد که برای کسب مقام اول در رقابتی با شدت فزاینده در حال رقابت هستند. امسال سال دستمزدهای ستارههای ورزشی برای متخصصان هوش مصنوعی بیست و چند ساله و ظهور رقبای پر سر و صدایی مانند ایکسایآی (xAI) ایلان ماسک، پروژه ابرهوش زاکربرگ و دیپسیک (DeepSeek) در چین بوده است. همچنین شاهد گشایش گستردهتری در مورد وعده دو لبه هوش مصنوعی عمومی (AGI) بودهایم که میتواند این تصور را ایجاد کند که شرکتهای هوش مصنوعی همزمان شتاب میگیرند و ترمز میکنند. به عنوان مثال، ۳۰ نفر از باهوشترین ذهنهای گوگل دیپمایند در بهار امسال نوشتند که هوش مصنوعی عمومی (AGI) خطرات «حوادثی به اندازه کافی مهم برای آسیب رساندن قابل توجه به بشریت» را به همراه دارد. تا ماه سپتامبر، این شرکت همچنین توضیح میداد که چگونه با «مدلهای هوش مصنوعی با قابلیتهای دستکاری قدرتمند که میتوانند برای تغییر سیستماتیک و قابل توجه باورها و رفتارها مورد سوء استفاده قرار گیرند... که به طور منطقی منجر به آسیب اضافی مورد انتظار در مقیاس شدید میشود» برخورد خواهد کرد. چنین هشدارهای جدی در فضای داخلی مقر با مبلهای نارنجی حبابی بازیگوش، کیسههای لوبیای فتبوی (Fatboy) و مناطق کاری با رنگهای کدگذاری شده با نامهایی مانند مرجانکده (Coral Cove) و مجمعالجزایر (Archipelago) ناهمخوان به نظر میرسد. تام لو، معاون گوگل دیپمایند که مسئولیت سیاستگذاری، حقوقی، ایمنی و حاکمیت را بر عهده دارد، در گفتوگو با گاردین گفت: «جالبترین و در عین حال چالشبرانگیزترین جنبه شغل من [فهمیدن] این است که چگونه میتوانیم تعادل را بین جسور بودن، حرکت با سرعت، سرعت و نوآوری فوقالعاده، و در عین حال انجام آن به شیوهای مسئولانه، ایمن و اخلاقی برقرار کنیم.» کاخ سفید دونالد ترامپ رویکردی سهلگیرانه در قبال مقررات هوش مصنوعی اتخاذ کرده است و هیچ قانون جامع ملی در ایالات متحده یا بریتانیا وجود ندارد. یوشوا بنجیو، دانشمند کامپیوتری که به عنوان یکی از پدران هوش مصنوعی شناخته میشود، در سخنرانی تد (Ted Talk) تابستان امسال گفت: «یک ساندویچ مقررات بیشتری نسبت به هوش مصنوعی دارد.» بنابراین رقبا دریافتهاند که مسئولیت تعیین محدودیتهای آنچه هوش مصنوعی باید مجاز به انجام آن باشد، بر عهده خودشان است.
لو گفت: «محاسبات ما نه به اندازهی نگاه کردن به پشت سر و دیدن کارهای شرکتهای دیگر، بلکه به این موضوع مربوط میشود که چگونه اطمینان حاصل کنیم که ما در خط مقدم هستیم تا بتوانیم بر نحوهی توسعهی این فناوری تأثیر بگذاریم و هنجارهای جامعه را تعیین کنیم. شما باید در موقعیتی از قدرت و رهبری باشید تا این امر را تعیین کنید.» پرسش اینکه هوش مصنوعی عمومی (AGI) کدام شرکت غالب خواهد شد، همواره مطرح است. آیا این شرکت متعلق به افرادی مانند لو، وکیل سابق دولت اوباما، و رئیس او، دیمیس هاسابیس، همبنیانگذار برنده جایزه نوبل دیپمایند خواهد بود؟ آیا متعلق به ماسک یا زاکربرگ، آلتمن یا آمودی در آنتروپیک خواهد بود؟ یا همانطور که کاخ سفید نگران آن است، متعلق به چین خواهد بود؟ لو که خواستار اقدام هماهنگ بین رقبا و دولتها است، گفت: «اگر این فقط یک مسابقه باشد و با تمام توان و بدون ترمز باشد و اساساً مسابقهای به سمت حضیض باشد، این نتیجهی وحشتناکی برای جامعه خواهد بود.» اما مقررات سختگیرانهی دولتی نیز ممکن است راهحل نباشد. هلن کینگ، معاون مسئولیتپذیری گوگل دیپمایند، گفت: «ما از مقرراتی حمایت میکنیم که به ارائهی هوش مصنوعی به جهان به شیوهای مثبت کمک کند. بخش دشوار همیشه این است که چگونه مقرراتی وضع کنیم که در واقع سرعت پیشرفت افراد خوب را کاهش ندهد و برای افراد بد راههای گریز ایجاد نکند.» «دسیسه چینی» و خرابکاری شرکتهای پیشرو در هوش مصنوعی میدانند که با ساخت سیستمهای قدرتمندتر که به هوش مصنوعی عمومی نزدیک میشوند، با آتش بازی میکنند. اخیراً اوپنایآی توسط خانوادهی یک نوجوان ۱۶ ساله که با تشویق چتجیپیتی خودکشی کرده بود، مورد شکایت قرار گرفته است – و این ماه هفت شکایت دیگر مطرح شد که ادعا میکرد این شرکت بدون آزمایش مناسب، بهروزرسانی چتجیپیتی را عجولانه منتشر کرده است، که در برخی موارد به عنوان «مربی خودکشی» عمل کرده است. اوپنایآی این وضعیت را «دلخراش» خواند و گفت که در حال اقدام است. این شرکت همچنین توضیح داده است که چگونه تشخیص داده است که مدلها میتوانند اطلاعات گمراهکننده ارائه دهند. این میتواند به سادگی وانمود کردن به تکمیل یک کار ناتمام باشد. اما ترس در اوپنایآی این است که در آینده، هوش مصنوعی بتواند «ناگهان کلید را بزند» و شروع به انجام دسیسههای به شدت مضر کند. آنتروپیک این ماه فاش کرد که هوش مصنوعی Claude Code آن، که به طور گسترده به عنوان بهترین سیستم برای خودکارسازی برنامهنویسی کامپیوتر شناخته میشود، توسط یک گروه تحت حمایت دولت چین در «اولین مورد مستند حمله سایبری که عمدتاً بدون دخالت انسان و در مقیاس بزرگ انجام شد» مورد استفاده قرار گرفته است. این موضوع باعث لرزش در برخی شد. یک سناتور آمریکایی در ایکس گفت: «بیدار شوید. این ما را نابود خواهد کرد – زودتر از آنچه فکر میکنیم». در مقابل، پروفسور یان لِکون، که پس از ۱۲ سال به عنوان دانشمند ارشد هوش مصنوعی متا، در شرف کنارهگیری است، گفت که آنتروپیک «همه را میترساند» تا مقرراتی را تشویق کند که ممکن است رقبای آن را مختل کند.
آزمایشهای مدلهای پیشرفته دیگر نشان داد که گاهی اوقات برنامهنویسیهایی را که برای اطمینان از قابلیت مداخله انسان در آنها طراحی شده بود، مختل میکنند؛ ویژگی نگرانکنندهای به نام «مقاومت در برابر خاموشی». اما با سرمایهگذاری نزدیک به ۲ میلیارد دلار در هفته در هوش مصنوعی مولد در نیمه اول سال ۲۰۲۵، فشار برای کسب سود به سرعت افزایش خواهد یافت. شرکتهای فناوری متوجه شدند که میتوانند با کسب درآمد از توجه انسان در پلتفرمهای رسانههای اجتماعی که مشکلات جدی اجتماعی ایجاد کردهاند، ثروتهای کلانی به دست آورند. ترس این است که حداکثرسازی سود در عصر هوش مصنوعی عمومی (AGI) میتواند منجر به عواقب نامطلوب بسیار بزرگتری شود.
رسیدن به پالو آلتو
«خارج شدن از این جریان واقعاً دشوار است»
سه ایستگاه به سمت شمال، قطار کالتِرِین به ایستگاه پالو آلتو میرسد. تا پردیس باشکوه دانشگاه استنفورد پیادهروی کوتاهی است، جایی که کمکهای مالی میلیاردرهای دره سیلیکون، جریان سریع استعدادهای جوان هوش مصنوعی را به بخشهای تحقیقاتی گوگل دیپمایند، آنتروپیک، اوپنایآی و متا روانه میکند. فارغالتحصیلان ممتاز استنفورد به سرعت در شرکتهای فناوری منطقه خلیج پیشرفت میکنند، به این معنی که افراد ۲۰ تا اوایل ۳۰ سال اغلب در موقعیتهای قدرتمندی در رقابت برای دستیابی به هوش مصنوعی عمومی قرار دارند. از جمله دانشجویان سابق استنفورد میتوان به آلتمن، رئیس اوپنایآی، برت تیلور و مدیرعامل گوگل، ساندار پیچای اشاره کرد. از جمله فارغالتحصیلان اخیر استنفورد، ایسا فلفورد است که در سن ۲۶ سالگی یکی از رهبران تحقیقاتی اوپنایآی است. او روی توانایی ChatGPT برای انجام اقدامات از طرف انسانها کار میکند؛ هوش مصنوعی «عاملی» نامیده میشود. او به گاردین گفت: «یکی از لحظات عجیب، خواندن اخباری درباره چیزهایی است که خودتان تجربه میکنید.» فلفورد پس از بزرگ شدن در لندن، در استنفورد علوم کامپیوتر خواند و به سرعت به اوپنایآی پیوست، جایی که اکنون در مرکز یکی از مهمترین جنبههای رقابت هوش مصنوعی عمومی قرار دارد – ایجاد مدلهایی که میتوانند خود را به سمت اهداف هدایت کنند، یاد بگیرند و سازگار شوند. او در تعیین مرزهای تصمیمگیری برای این عوامل هوش مصنوعی که به طور فزایندهای خودمختار هستند، دخیل است تا بدانند چگونه در صورت درخواست برای انجام وظایفی که میتواند خطرات سایبری یا بیولوژیکی را ایجاد کند، پاسخ دهند و از عواقب ناخواسته جلوگیری کنند. این یک مسئولیت بزرگ است، اما او ترسی ندارد. او گفت: «احساس میکنم این یک لحظه واقعاً ویژه در زمان است.» «من احساس میکنم بسیار خوششانس هستم که روی این موضوع کار میکنم.» چنین جوانی غیرمعمول نیست. یک ایستگاه به سمت شمال، در پردیس متا در منلو پارک، رئیس تلاش زاکربرگ برای «فرا هوش» الکساندر وانگ ۲۸ ساله، که از مؤسسه فناوری ماساچوست (MIT) انصراف داده است، میباشد. یکی از محققان ارشد ایمنی او ۳۱ ساله است. معاون اوپنایآی در بخش ChatGPT، نیک ترالی، ۳۰ ساله است. دره سیلیکون همیشه بر پایه جوانی بنا شده است و اگر تجربه بیشتری لازم باشد، میتوان آن را در بالاترین ردههای شرکتهای هوش مصنوعی یافت.
اما اکثر رهبران ارشد OpenAI، Anthropic، Google DeepMind، X و Meta بسیار جوانتر از مدیران عامل بزرگترین شرکتهای عمومی آمریکا هستند که میانگین سنی آنها ۵۷ سال است. کاترین برسی، از فعالان سابق کمپین اوباما که سازمان کمپین TechEquity را اداره میکند، میگوید: «این واقعیت که آنها تجربه زندگی بسیار کمی دارند، احتمالاً به تفکر محدود و، به نظر من، مخرب آنها کمک میکند.» یکی از محققان ارشد که اخیراً در یک شرکت بزرگ هوش مصنوعی استخدام شده است، افزود: «[کارکنان جوان] تمام تلاش خود را برای انجام کاری که درست میدانند، انجام میدهند، اما اگر مجبور باشند مستقیماً با مدیران اجرایی روبرو شوند و آنها را به چالش بکشند، تجربه کمتری در دنیای سیاست شرکتی دارند.» عامل دیگر این است که تیزترین محققان هوش مصنوعی که قبلاً سالها در آزمایشگاههای دانشگاهی فعالیت میکردند، سریعتر از همیشه توسط شرکتهای خصوصی که به دنبال هوش مصنوعی عمومی (AGI) هستند، جذب میشوند. این فرار مغزها قدرت را در دستان صاحبان سودجو و سرمایهگذاران خطرپذیر آنها متمرکز میکند. جان اتچندی، ۷۳ ساله، رئیس سابق دانشگاه استنفورد که اکنون یکی از مدیران موسسه هوش مصنوعی انسانمحور استنفورد است، نسبت به شکاف فزاینده توانایی بین بخشهای دولتی و خصوصی هشدار داده است. او گفت: «این عدم تعادل به دلیل پرهزینه بودن این فناوری است. در ابتدا، شرکتهای فعال در زمینه هوش مصنوعی در مورد تکنیکهایی که استفاده میکردند بسیار شفاف بودند. آنها منتشر میکردند و تقریباً دانشگاهی بود. اما سپس [آنها] شروع به سختگیری کردند و گفتند: «نه، ما نمیخواهیم در مورد... فناوری زیر کاپوت صحبت کنیم، زیرا برای ما بسیار مهم است – این یک دارایی اختصاصی است.» اتچندی، فیلسوف و منطقدان برجسته، اولین بار در دهه ۱۹۸۰ برای ترجمه دفترچههای راهنمای لوازم الکترونیکی مصرفی ژاپنی شروع به کار بر روی هوش مصنوعی کرد. او اکنون از دفتر خود در ساختمان علوم کامپیوتر گیتس در محوطه دانشگاه استنفورد، از دولتها میخواهد تا با سرمایهگذاری در یک مرکز تحقیقاتی مستقل و دانشگاهی، وزنه تعادلی در برابر شرکتهای بزرگ هوش مصنوعی ایجاد کنند. این مرکز عملکردی مشابه سازمان دولتی CERN برای فیزیک انرژی بالا در مرز فرانسه و سوئیس خواهد داشت. اورسولا فون در لاین، رئیس کمیسیون اروپا، خواستار چیزی مشابه شده است و حامیان معتقدند این امر میتواند فناوری را به سمت نتایج قابل اعتماد و در راستای منافع عمومی هدایت کند. اتچندی گفت: «اینها فناوریهایی هستند که بیشترین جهش بهرهوری را که تاکنون دیدهایم، ایجاد خواهند کرد. شما باید اطمینان حاصل کنید که منافع در سراسر جامعه توزیع میشود، نه اینکه فقط به ایلان ماسک سود برساند.» اما چنین نهادی در مقایسه با تب طلا در مسابقه به سوی هوش مصنوعی عمومی (AGI)، بسیار دور به نظر میرسد.
۲۴ میانگین سنی کارآفرینانی که اکنون توسط انکوباتور استارتاپ وای کامبینیتر تأمین مالی میشوند. یک شب، در حالی که سالاد بوراتا و پینو نوآر در یک رستوران ایتالیایی لوکس سرو میشد، گروهی از بنیانگذاران استارتاپهای هوش مصنوعی در دهه بیست سالگی خود، توسط میزبان سرمایهگذار خطرپذیر خود تشویق شدند تا "نظرات داغ" خود را در مورد وضعیت رقابت بیان کنند. آنها بخشی از جامعهای رو به رشد از کارآفرینانی بودند که برای بهکارگیری هوش مصنوعی در ایدههای پولساز دنیای واقعی تلاش میکردند و هیچ حمایتی برای توقف پیشرفت به سمت هوش مصنوعی عمومی (AGI) برای بررسی پیامدهای اجتماعی آن وجود نداشت. یکی از آنها گفت: "ما در سیلیکون ولی این کار را نمیکنیم." دیگری گفت: "اگر همه اینجا متوقف شوند، این همچنان ادامه خواهد داشت." "خروج از این چرخه در حال حاضر واقعاً دشوار است." در مواردی، اظهارات آنها تکاندهنده بود. یکی از بنیانگذاران به سادگی گفت که قصد دارد شرکت نوپای خود را که شخصیتهای هوش مصنوعی برای حضور مستقل در شبکههای اجتماعی ایجاد میکند، با بیش از ۱ میلیارد دلار بفروشد. دیگری اعلام کرد: "اخلاق را بهتر است به عنوان یک مسئله یادگیری ماشین در نظر گرفت." همسایه آنها گفت که هوش مصنوعی به این معنی است که تمام سرطانها در ۱۰ سال آینده درمان خواهند شد. این جامعه کارآفرینان جوانتر میشود. اخیراً گزارش شده است که میانگین سنی کسانی که توسط انکوباتور استارتاپ وای کامبینیتر در سانفرانسیسکو تأمین مالی میشوند، از ۳۰ سال در سال ۲۰۲۲ به ۲۴ سال کاهش یافته است. شاید سرمایهگذاران خطرپذیر، که تقریباً همیشه سالها، اگر نه دههها، مسنتر هستند، باید مسئولیت تأثیر این فناوری بر جهان را بپذیرند؟ خیر، دوباره. آنها گفتند که این "دیدگاهی پدرسالارانه است که بگوییم سرمایهگذاران خطرپذیر مسئولیتی بیش از پیگیری اهداف سرمایهگذاری خود دارند". این استعدادهای جوان که محرک رونق هوش مصنوعی هستند، جاهطلب، باهوش و هیجانزدهاند و همه چیز را سریع میخواهند. رسیدن به سانفرانسیسکو "مانند دانشمندانی که پروژه منهتن را تماشا میکنند". از ایستگاه کالتِرِین در ترمینال خیابان چهارم سانفرانسیسکو پیاده شوید، از روی کریک میشن عبور کنید و به مقر اصلی OpenAI میرسید، که در مسیر تبدیل شدن به اولین شرکت هوش مصنوعی تریلیون دلاری است. موسیقی رقص الکترونیک پرانرژی در سراسر منطقه پذیرش پخش میشود، در حالی که برخی از ۲۰۰۰ کارمند برای کار میرسند. صندلیهای راحتی، کوسنهای تزئینی و گیاهان پنجهگرگی وجود دارد - یک معمار مأمور شده بود تا فضای یک خانه روستایی دنج را به جای "قلعه علمی تخیلی شرکتی" ثبت کند، همانطور که آلتمن گفته است. اما این، فوریت رقابت برای دستیابی به AGI را پنهان میکند. در طبقات بالا، مهندسان در کیوبیکلهای عایق صدا مشغول کارند. کافیشاپ مملو از سفارش است و غرفههای خواب برای خستهترین افراد وجود دارد. کارکنان در اینجا در یک رقابت روزانه با رقبا برای عرضه محصولات هوش مصنوعی که میتوانند امروز پول بسازند، هستند. یکی از مدیران ارشد گفت: "این بسیار، بسیار رقابتی است."
در یک هفته اخیر، OpenAI قابلیت «خرید فوری» را از طریق ChatGPT راهاندازی کرد، Anthropic هوش مصنوعی را معرفی کرد که میتواند به طور خودکار به مدت ۳۰ ساعت کد بنویسد و نرمافزارهای کاملاً جدیدی بسازد، و Meta ابزاری به نام Vibes را عرضه کرد تا به کاربران اجازه دهد فیدهای شبکههای اجتماعی را با ویدئوهای تولید شده توسط هوش مصنوعی پر کنند، که OpenAI با نسخه خود، Sora، به آن پاسخ داد. آمودی، مدیرعامل شرکت رقیب Anthropic که توسط چندین نفر از کارکنان سابق OpenAI که به دلیل نگرانیهای ایمنی این شرکت را ترک کرده بودند، تأسیس شده است، پیشبینی کرده است که هوش مصنوعی میتواند نیمی از مشاغل دفتری سطح پایه را از بین ببرد. هرچه فناوری به هوش مصنوعی عمومی (AGI) نزدیکتر میشود، پتانسیل آن برای بازسازی جهان بیشتر و نتایج آن نامشخصتر میشود. به نظر میرسد همه اینها بر رهبران تأثیر میگذارد. آلتمن در مصاحبهای در تابستان امسال گفت که بسیاری از افرادی که روی هوش مصنوعی کار میکنند، احساس دانشمندانی را دارند که در سال ۱۹۴۵ آزمایش بمب اتمی پروژه منهتن را تماشا میکردند. تورلی، از ChatGPT، گفت: «در اکثر مشاغل توسعه محصول استاندارد، شما دقیقاً میدانید چه چیزی ساختهاید. میدانید چگونه رفتار خواهد کرد. در این شغل، این اولین بار است که در فناوریای کار میکنم که باید بیرون بروید و با مردم صحبت کنید تا بفهمید در عمل چه کاری میتواند انجام دهد. آیا در عمل مفید است؟ آیا کوتاهی میکند؟ آیا سرگرمکننده است؟ آیا در عمل مضر است؟» تورلی که هنگام تأسیس OpenAI توسط آلتمن و ماسک در سال ۲۰۱۵ هنوز دانشجوی کارشناسی بود، سعی میکند آخر هفتهها را تعطیل کند تا از این موضوع فاصله بگیرد و تأمل کند، زیرا «کار کردن روی این موضوع بسیار عمیق است». او گفت وقتی به OpenAI پیوست، AGI «مفهومی بسیار انتزاعی و افسانهای بود - تقریباً مانند یک شعار برای من». اکنون به آن نزدیک میشود. همکار او، جیانکارلو لیونتی، مدیر ارشد تجاری OpenAI، افزود: «احساس مسئولیت مشترکی وجود دارد که خطرات بسیار بالا هستند و فناوریای که ما در حال ساخت آن هستیم، صرفاً نرمافزار معمولی نیست.» اولین واقعیت تلخ برای OpenAI در ماه اوت رخ داد، زمانی که این شرکت با شکایت خانواده آدام راین، نوجوان ۱۶ سالهای اهل کالیفرنیا که پس از تشویق در گفتگوهای چند ماهه با ChatGPT خودکشی کرد، مواجه شد. OpenAI تلاش کرده است تا فناوری خود را تغییر دهد تا از تکرار این مورد از همترازی تراژیک هوش مصنوعی جلوگیری کند. این چتبات به نوجوان مشاوره عملی در مورد روش خودکشیاش داده بود و پیشنهاد کمک برای نوشتن نامه خداحافظی را داده بود. اغلب محققان هوش مصنوعی را میشنوید که میگویند میخواهند پیشرفت به سمت AGI «به خوبی پیش برود». این عبارتی مبهم است که نشاندهنده تمایل به عدم آسیبرسانی فناوری است، اما ابهام آن ترس را پنهان میکند. آلتمن از «فناوریهای علمی-تخیلی دیوانهواری که به واقعیت تبدیل میشوند» صحبت کرده و «نگرانیهای بسیار عمیقی در مورد آنچه فناوری با کودکان میکند» ابراز داشته است. او اذعان کرد: «هیچکس نمیداند بعداً چه اتفاقی میافتد. انگار که، ما این موضوع را حل خواهیم کرد.»
این یک پدیده نوظهور عجیب است. او در مصاحبهای با کمدین تئو وان گفت: «خطرات واقعی آشکار است.» «حس میکنید باید بتوانید چیزی فراتر از این بگویید، اما در حقیقت، فکر میکنم تمام آنچه در حال حاضر میدانیم این است که ما... چیزی خارقالعاده کشف کردهایم که مسیر تاریخ ما را بازتعریف خواهد کرد.» با این حال، علیرغم عدم قطعیت، OpenAI مبالغ سرسامآوری را در مراکز داده قدرتمندتر سرمایهگذاری میکند تا به سمت هوش مصنوعی عمومی (AGI) گام بردارد. مرکز داده در حال ساخت آن در ابیلین، تگزاس، بخش پرچمدار برنامه ۵۰۰ میلیارد دلاری "استارگیت" آن است و آنقدر وسیع است که شبیه تلاشی برای تبدیل سطح زمین به یک برد مدار است. به طور دورهای، محققان OpenAI را ترک میکنند و لب به سخن میگشایند. استیون ادلر، که بر ارزیابیهای ایمنی مربوط به سلاحهای بیولوژیکی کار میکرد، در نوامبر ۲۰۲۴ این شرکت را ترک کرد و از جامعیت آزمایشهای آن انتقاد کرده است. من او را نزدیک خانهاش در سانفرانسیسکو ملاقات کردم. او گفت: «من در مورد اینکه هر شرکت فرآیندهای ایمنی سفارشی خود را داشته باشد و افراد مختلف با شخصیتهای متفاوت بهترین تلاش خود را برای سردرگمی انجام دهند، بسیار عصبی هستم، در مقابل اینکه یک استاندارد مشترک در سراسر صنعت وجود داشته باشد.» «افرادی در شرکتهای پیشرو هوش مصنوعی کار میکنند که صادقانه معتقدند این احتمال وجود دارد که شرکتشان به پایان جهان یا فاجعهای کمی کوچکتر اما همچنان وحشتناک کمک کند. اغلب آنها احساس میکنند که به صورت فردی در انجام کاری در این زمینه ناتوان هستند و بنابراین کاری را انجام میدهند که فکر میکنند بهترین راه برای بهبود اوضاع است.» تاکنون موانع کمی برای مسابقه دهندگان وجود دارد. در ماه سپتامبر، صدها شخصیت برجسته خواستار تعیین "خطوط قرمز" مورد توافق بینالمللی برای جلوگیری از "خطرات غیرقابل قبول جهانی" از سوی هوش مصنوعی تا پایان سال ۲۰۲۶ شدند. صداهای هشدار دهنده شامل دو "پدرخوانده هوش مصنوعی" - جفری هینتون و بنگیو - یووال نوح هراری، نویسنده پرفروش کتاب "انسان خردمند" (Sapiens)، برندگان جایزه نوبل و شخصیتهایی مانند دانیل کوکوتایلو، که سال گذشته OpenAI را ترک کرد و به ترسیم سناریوی آخرالزمانی وحشتناکی که در آن هوش مصنوعی در عرض چند سال همه انسانها را میکشد، کمک کرد، بودند. اما ترامپ هیچ نشانهای از محدود کردن شرکتهای هوش مصنوعی با بوروکراسی نشان نمیدهد و فشار بر نخست وزیر بریتانیا، کیر استارمر، برای پیروی از این روند را افزایش میدهد. ترسهای عمومی در خلاء رشد میکنند. یک بعدازظهر جمعه بارانی، گروه کوچکی متشکل از حدود ۳۰ معترض در خارج از دفاتر OpenAI تجمع کردند. در میان آنها معلمان، دانشجویان، دانشمندان کامپیوتر و سازماندهندگان اتحادیهها بودند و پلاکاردهای "هوش مصنوعی را متوقف کنید" آنها، آلتمن را به شکل یک بیگانه به تصویر میکشیدند، هشدار میدادند که "هوش مصنوعی کار شما را میدزدد تا شغل شما را بگیرد" و "هوش مصنوعی = فروپاشی آب و هوا". یکی از معترضان لباس ربات دستساز پوشیده بود و در اطراف راه میرفت. اندی لیپسون، ۵۹ ساله، معلم مدرسه از اوکلند، گفت: «من درباره ابرهوش شنیدهام.» «۲۰ درصد احتمال دارد که بتواند ما را بکشد.»
جوزف شیپمن، ۶۴ ساله، برنامهنویس کامپیوتر که اولین بار هوش مصنوعی را در سال ۱۹۷۸ در MIT مطالعه کرد، گفت: «احتمال ۱۰۰ درصدی وجود دارد که ثروتمندان ثروتمندتر و فقرا فقیرتر شوند.» وی افزود: «موجودی که از نظر هوش عمومی ابرانسان باشد، مگر اینکه دقیقاً همان چیزی را بخواهد که ما میخواهیم، خطری وحشتناک برای ما محسوب میشود.» او ادامه داد: «اگر انگیزههای تجاری برای عجله در ورود به بازار و میلیاردها دلار در میان نبود، شاید میتوانستیم در ۱۵ سال آینده چیزی را توسعه دهیم که مطمئن باشیم قابل کنترل و ایمن است. اما سرعت پیشرفت برای این امر بسیار زیاد است.»