تهدیدهای هوش مصنوعی
تقابل هوش مصنوعی و نیروی انسانی به کجا می‌رسد؟
هربرت سایمون، دانشمند علوم اقتصاد، کامپیوتر و روان‌شناسی و برنده نوبل اقتصاد در سال 1978 پیش‌بینی کرد که هوش مصنوعی این قدرت را دارد که به‌طور کامل جایگزین نیروی کار انسانی شود. بسیاری از اقتصاددانان نیز بر این عقیده هستند که پیشرفت‌های هوش مصنوعی می‌تواند ساختارهای اقتصاد جهانی را متحول کند. هرچند تاکنون این اتفاق نیفتاده است، اما شتاب اخیر پیشرفت هوش مصنوعی، توجهات را مجدد به قدرت تحولی این فناوری جلب کرده است. دو اقتصاددان به نام‌های «فیلیپ ترامل» از دانشگاه آکسفورد و «آنتون کورینک» از دانشگاه ویرجینیا در مقاله‌ای که به تازگی (اکتبر 2023) در تارنمای انجمن تحقیقات اقتصادی این کشور منتشر شده، به بررسی سازوکارهایی پرداخته‌اند که نشان‌دهنده اثرگذاری هوش مصنوعی بر رشد اقتصادی است. دو پژوهشگر مورد اشاره، در این زمینه الگو‌ها و نظریات مختلفی را که در حوزه هوش مصنوعی و رشد اقتصادی مطرح است در چهارچوبی مشترک مورد ارزیابی قرار داده‌اند. در این مطالعه به‌خصوص اثرگذاری هوش مصنوعی روی رشد تولیدات، رشد دستمزد و سهم نیروی کار مورد توجه قرار گرفته است. به منظور تمرکز بیشتر، سایر مسیرهای اثرگذاری هوش مصنوعی در اقتصاد (مانند تغییر در توزیع درآمد) کنار گذاشته شده است. آنها بحث خود را با مشاهده‌ای از مقاله کالدور (1957) آغاز می‌کنند. این مقاله نشان داد رشد اقتصاد کشورهای صنعتی و پیشرفته عمدتاً پیرو دو واقعیت بوده است؛
1- نرخ رشد تولید سرانه برای مدت‌های طولانی تقریباً ثابت بوده است. این واقعیت را می‌توان در روند بلندمدت تولید ناخالص داخلی سرانه آمریکا مشاهده کرد (شکل یک).
2- سهمی از تولید که برای پرداخت دستمزد نیروی کار هزینه می‌شود (سهم نیروی کار از تولید) نیز تقریباً روندی مشابه داشته است.
گرچه کالدور این واقعیات را با مشاهده روند زمانی از اواسط قرن 19 دو کشور آمریکا و انگلیس مطرح کرد اما این واقعیات بعدها نیز برای سایر کشورهای صنعتی و زمان‌های تازه مصداق یافت. از آن زمان عمده مطالعاتی که در حوزه رشد اقتصادی انجام می‌گیرد این واقعیات را مدنظر قرار می‌دهند. برای اطلاع از جزئیات این دسته از مطالعات می‌توان به مقاله مروری عجم‌اوغلو (2009) مراجعه کرد.
البته با وسعت بخشیدن به بازه زمانی، تصویری متفاوت به نمایش درمی‌آید. برآورد سهم نیروی کار در گذشته بسیار دور دشوار است و به نظر نمی‌رسد بتوان روند بلندمدت واضح از آن به دست آورد. اما برای نرخ رشد اقتصادی قضیه متفاوت است. نمودار نرخ رشد اقتصادی کلی جهان از پنج قرن اخیر (از سال 1500 میلادی)، روند تصاعدی افزایشی کاملاً واضحی را از آن به نمایش می‌گذارد (شکل 2). در این نمودار نرخ رشد ثابتی که در مقاله کالدور برای بعد از انقلاب صنعتی به آن اشاره شد، پدیده‌ای تازه (برای یک قرن اخیر) و تدریجی است. با این حال هدف از ارائه شواهد این نیست که به عنوان راهنمایی معتبر برای پیش‌بینی روندهای رشد اقتصادی آتی مورد استفاده قرار گیرد. در عوض هدف این است که گفته شود رشد تقریباً ثابت مشاهده‌شده اخیر تولید کشورهای صنعتی، روندی نیست که همواره مصداق داشته باشد. این شواهد برای برخی کشورهای به‌خصوص و برای بازه‌های زمانی منتخب تهیه شده و ممکن است صلاحیت پیش‌بینی روندهای آینده را نداشته باشد. اگر پیشرفت‌ها در حوزه هوش مصنوعی شبیه انقلاب صنعتی تحول‌گرایانه باشد، ممکن است الگویی که کالدور نیم‌قرن پیش در مقاله خود مطرح کرد دیگر اتفاق نیفتد. طی دهه اخیر، فناوری یادگیری عمیق -نوعی از هوش مصنوعی که در تجزیه‌وتحلیل‌ها از عملکرد مغز انسان الهام می‌گیرد- در انجام وظایف شناختی افراد پیشرفت‌های چشم‌گیری ایجاد کرده است؛ از تشخیص صدا و تصویر گرفته تا بازی‌های استراتژیک نظیر Go یا ابزارهای علمی نظیر آلفافولد (AlphaFold). گاهی از این سیستم‌ها با عنوان «هوش مصنوعی محدود» یاد می‌شود. در حالی که این فناوری‌ها، رشد بهره‌وری را تسهیل کرده‌اند، اما تاکنون نتوانسته‌اند الگوهای رشد اقتصادی را به صورت بنیادی تغییر دهند.
پیشرفت‌های کنونی هوش مصنوعی به واسطه الگوهای پایه انجام می‌گیرد: شبکه‌های عصبی بزرگ که از طریق حجم عظیمی از داده و اطلاعات تعلیم داده شده و برای انجام طیف گسترده‌ای از وظایف روزافزون آماده می‌شوند. طی فرآیند تعلیم، این الگو‌ها آنچه الگوهای جهانی داخلی خودشان نامیده می‌شود را توسعه می‌دهند؛ جایی که به عنوان یک مبنا، می‌توانند در طیف وسیعی از حوزه‌ها عملکرد داشته باشند. در یک دهه اخیر، پیچیدگی فناوری‌های پیشگام نظیر یادگیری عمیق و الگوهای بنیادی هرسال تقریباً چهار برابر شده است. این پیچیدگی به تازگی به سطحی رسیده که قابل قیاس با مغز انسان است. به‌علاوه ظرفیت این الگو‌ها با توجه به قوانین مقیاس‌بندی قابل پیش‌بینی، بهبود می‌یابد. الگوهای بنیادی که شاید بیشترین توجهات را به تازگی به خود جلب کرده است، در واقع الگوهای عظیم زبان نظیر جی‌پی‌تی 4 (GPT-4) شرکت هوش مصنوعی اوپن‌ای‌آی (OpenAI) هستند که به راحتی در روبات‌های گفت‌وگوی چت‌جی‌پی‌تی (ChatGPT) یا جمینی
(Gemini) -متعلق به شرکت گوگل- مورد استفاده قرار می‌گیرند. این الگو‌ها می‌توانند محصولاتی تولید کنند که نه‌تنها از تجزیه‌وتحلیل و ترکیب دانش و ایده‌های کنونی بهره می‌گیرند بلکه بر مبنای الگوی جهانی داخلی، خود ایده‌های جدیدی توسعه می‌دهند (همان‌گونه که انسان ایده‌های جدید را مطرح می‌کند). بررسی‌های اولیه اثرات اقتصادی نسل کنونی فناوری‌های خلاقانه هوش مصنوعی حاکی از آن است که این فناوری‌ها اثرات قابل توجهی روی رشد اقتصادی دارند، تا جایی که شاید طی یک دهه آینده نرخ رشد بهره‌وری دو برابر شود. الگوهای آینده احتمالاً خواهند توانست طیف وسیعی از مسوولیت‌ها و وظایف را انجام دهند و در نهایت به سطح «هوش مصنوعی کلی» برسند. این سطح از توانایی، سیستم‌های هوش مصنوعی را قادر می‌کند تمام وظایف شناختی را حداقل در سطح انسان حرفه‌ای انجام دهند. در این فرآیند، هوش مصنوعی متفاوت از هر فناوری که تاکنون توسعه داده شده می‌تواند فعالیت‌های تحقیق و توسعه را به صورت خودکار انجام دهد.
اگر ظرفیت‌های هوش مصنوعی از آستانه‌ای مشخص عبور کند -نظیر هوش مصنوعی کلی (AGI)- این احتمال وجود دارد که ساختار رشد اقتصادی مانند آنچه در انقلاب صنعتی رخ داد متحول شود. رشد اقتصادی در ساختار جدید متحول‌شده احتمالاً سریع‌تر از سرعت کنونی نمو می‌یابد. به‌علاوه با تغییر سازوکارهای رشد، چنین تحولی می‌تواند روند تاریخی ثابت سهم نیروی کار را نیز بشکند: احتمالاً آن را کاهش دهد یا شاید هم به صفر برساند! با این حال به نظر می‌رسد این اثرات، نمونه‌های مشهود هستند. در تصورات رایج، امیدها و ترس‌های عصر فراوانی هوش مصنوعی بدون کار بشر قابل پیش‌بینی است. البته برای تبیین اینکه آیا در واقعیت این اثرات رخ خواهد داد به بررسی‌های بیشتری نیاز است. در سال‌های اخیر اقتصاددانان به مطالعه نظری طیف وسیعی از احتمالات تحول‌گرایانه هوش مصنوعی پرداخته‌اند. بر این اساس در این مقاله سعی شده است الگو‌ها و یافته‌های مطالعات مذکور مورد تجزیه‌وتحلیل قرار گیرد، جایی که الگوهای نظری مختلف و تفاسیر ریاضی آنها مدنظر قرار می‌گیرند. همچنین تلاش شده است تا الگو‌ها تا حد امکان ساده‌سازی شده و با یکسان‌سازی نمادها، در چهارچوبی مشابه مورد بررسی قرار گیرند. در این باره در گام نخست مفاهیمی از الگوی پایه تابع تولید، سهم عوامل تولید و نرخ‌های رشد ارائه می‌شود. در بخش بعد، الگو‌هایی از تابع تولید استاندارد مورد بررسی قرار می‌گیرد که متغیر هوش مصنوعی به آنها اضافه شده است. سپس سعی می‌شود متغیر هوش مصنوعی در توابع تولید مسوولیت‌محور دیده شود. در دو بخش مذکور که همان‌طور که اشاره شد مشمول متغیر هوش مصنوعی هستند، رشد بهره‌وری به صورت برون‌زا در نظر گرفته شده است. بر این اساس در گام بعد رشد بهره‌وری الگو‌ها، درون‌زا فرض می‌شود. و در نهایت هوش مصنوعی در الگویی که همزمان تولید کالای نهایی و پیشرفت‌های فناورانه لحاظ شده‌اند مدنظر قرار می‌گیرد.
سخن پایانی
در مرور علمی-اقتصادی این هفته مقاله‌ای مورد بررسی قرار گرفت که مطالعات حوزه اثرگذاری هوش مصنوعی روی متغیرهای اقتصادی را همزمان مورد ارزیابی قرار داده است. چنین پژوهشی می‌تواند به عنوان پل ارتباطی میان‌رشته‌ای ابزارهای علم اقتصاد و پرسش‌های اساسی مطالعات حوزه آینده‌پژوهی ایفای نقش کند. یکی از مهم‌ترین نتایج مقاله این است که در تمامی الگوهای مورد بررسی احتمال وقوع تغییرات اساسی در ساختار رشد اقتصادی به خاطر تحولات هوش مصنوعی وجود دارد، تغییراتی از قبیل ارتقای دائمی نرخ‌های رشد. عدم توجه به این احتمالات از سوی عمده دانشمندان علم اقتصاد لزوماً نتیجه توجه به همه الگوهای اقتصادی محتمل نیست. در عوض، نتیجه دیدگاه غالبی است که تنها بر الگو‌هایی تمرکز یافته‌اند که رشد بلندمدت در آنها تقریباً ثابت است (هم‌راستا با آنچه کالدور در مقاله خود پیرامون ثابت بودن رشد اقتصادی کشورهای صنعتی در دو سده اخیر مطرح کرد). حتی در مقاله‌ای که آگیون و همکارانش در سال 2019 منتشر کرده و در آن پیشرفت‌های هوش مصنوعی به‌طور جدی مورد بررسی قرار گرفته است نیز کمتر به الگو‌هایی توجه شده که در آنها نیروی کار و سرمایه به عنوان دو نهاده تولید در تولید محصولات فناوری جانشینی بالایی دارند؛ جایی که دانشمندان به عنوان یک نهاده ضروری تلقی نمی‌شوند و در نتیجه انباشت سرمایه برای ایجاد رشد چشمگیر کفایت می‌کند. به‌طور خلاصه، هیچ کمبودی در مورد سازوکارهایی که پیشرفت‌های ماشینی شدن می‌تواند روی رشد اقتصادی اثرات متحولانه بگذارد وجود ندارد. به عنوان مثال در دوران انقلاب صنعتی، رشد اقتصادی دستخوش تحولات تاریخی و تغییرات اساسی شد. موضوعات فراوانی در مورد رابطه هوش مصنوعی با علم اقتصاد و پیامدهای تحول‌گرایانه آن وجود دارد که در این مقاله مجال گفتمان آنها وجود نداشت. توزیع دستمزدها یکی از مواردی است که در ادبیات حوزه پیامدهای اقتصادی بلندمدت هوش مصنوعی مطرح است. دستمزدها و سطح مهارت نیروی کار به شدت نابرابر هستند و این نابرابری در دهه‌های اخیر تشدید شده است (بسیاری این وضعیت را ناشی از پیشرفت هوش مصنوعی و روند ماشینی شدن می‌دانند).
تمرکز مقاله روی میانگین دستمزد و سهم کلی نیروی کار بود، به این خاطر که در بلندمدت محتمل‌ترین سناریوی تحول‌گرایانه این است که هوش مصنوعی از همه افراد پیشی می‌گیرد. در این میان، هوش فردی ما را نجات نخواهد داد؛ بلکه اگر بتوانیم دستمزدها یا سهم نیروی کار را حفظ کنیم، می‌توانیم خود را از شر تهدیدهای هوش مصنوعی خلاص کنیم، چرا که هوش مصنوعی به گونه‌ای مورد استفاده قرار گرفته است که ما را بهره‌ورتر کند یا به این خاطر که ما فعالانه تصمیم گرفته‌ایم برخی مشاغل را از ماشینی شدن حفظ کنیم، احتمالاً مشاغلی نظیر پرستاری یا تبلیغ دین. با این حال باید خاطرنشان شد که این تنها سناریوی محتمل نیست. اگر اهمیت نیروی کار حفظ شود، هوش مصنوعی به عنوان یک عامل توزیع درآمد در بلندمدت ممکن است موجب تشدید تمرکز درآمدها شود یا -در سناریوی خوش‌بینانه‌تر- برای ایجاد رفاه تقسیم‌شده بیشتر مورد استفاده قرار گیرد. یکی از موضوعات مهم دیگری که در مباحث مقاله جا ماند اما احتمالاً یکی از ویژگی‌های اصلی مطالعات آینده‌پژوهی پیرامون هوش مصنوعی است، تحول‌گرایانه‌ترین سناریوی اقتصاد کلان برای همه است: خطر فاجعه موجودیت انسان به‌وسیله هوش مصنوعی. به غیر از دو مقاله جونز (2023) و عجم‌اوغلو و لنزمن (2023) به نظر می‌رسد در تمامی مطالعات این حوزه از تجزیه‌وتحلیل موضوع خطر وجودی از طریق هوش مصنوعی غفلت شده است. البته احتمالاً این غفلت انتخابی نیست و بخشی از آن به این موضوع برمی‌گردد که سازوکار معینی وجود ندارد که طی آن مشخص شود شتاب ماشینی شدن در الگوهای کنونی تولید و رشد چگونه تهدیدزاست. در ادبیات مربوط به امنیت هوش مصنوعی، چنین نگرانی‌هایی عموماً از عناصر فراهوشمند ناشی می‌شود، جایی که هدف نه‌تنها بشر، بلکه به کنترل گرفتن کل جهان است. گرچه در چنین سناریویی رشد اقتصادی می‌تواند بدون دخالت انسان تداوم یابد، اما یقیناً این سناریو مورد خواست ما نیست. ابزارهای اقتصادی می‌توانند در رفع نگرانی‌های این‌چنینی نیز کمک‌کننده باشند. در حالت ساده، تا حدی که پیشرفت‌های هوش مصنوعی چنین خطراتی ایجاد کند، امنیت این فناوری یک کالای جهانی و بین‌نسلی به حساب می‌آید. در این دیدگاه، بسیاری از تجزیه‌وتحلیل‌های کالای عمومی یا به‌طور جزئی‌تر بسیاری از ابزارهایی که اقتصاددانان حوزه محیط زیست برای قیمت‌گذاری و نظارت بر ریسک‌های آب‌وهوایی معرفی کرده‌اند می‌تواند در موضوع امنیت هوش مصنوعی به کار گرفته شود.
در حالت دقیق‌تر، تا حدی که تهدیدات هوش مصنوعی ناشی از توانایی سیستم‌های آن در کنترل منابع مستقلانه و بدون دخالت انسان باشد، الگو‌هایی که در آن سهم نیروی کار در حد مطلوبی حفظ می‌شود می‌تواند خیالمان را تا حدی راحت کند. از طرفی در صورتی که نقش مشاغل انسانی به عنوان مجرای تنفسی رشد اقتصادی تداوم یابد یا به عبارتی اگر اثرگذاری هوش مصنوعی در شتاب بخشیدن رشد اقتصادی مشروط به نیروی انسانی و انجام مسوولیت‌های فیزیکی آن باشد، نقش‌آفرینی ضروری بشر ادامه می‌یابد. در این باره نگرانی بیشتر در مورد الگو‌هایی است که یک واحد سرمایه می‌تواند بدون دخالت انسان رشد کند، در فناوری‌های سرمایه‌محور تحقیق و توسعه انجام دهد و به‌طور مداوم خود را ارتقا دهد. بر این اساس در آینده به تحقیقات و مطالعات مفصلی نیاز است تا رابطه میان اقتصادِ هوش مصنوعی و امنیت آن تجزیه‌وتحلیل شود.
