هوش هولناک
چرا هوش مصنوعی همه را نگران کرده است؟
اودیسه فضایی را به خاطر دارید؟ یا سری فیلم‌های ترمیناتور؟ در تمام این فیلم‌ها و سریال‌های علمی-تخیلی، برخی از شخصیت‌های داستان سیستم‌های هوشمند سرکشی بودند که ناگهان از کنترل خارج می‌شدند و از اطاعت سرپیچی می‌کردند. از این ماشین‌های باهوش طغیانگر نمی‌ترسیدید؟ در واقعیت، مردم ماشین‌هایی را که بیش از حد هوشمند هستند دوست ندارند زیرا می‌ترسند نتوانند آنها را کنترل کنند. این تصویر عمومی از هوش مصنوعی که یکباره بد می‌شود و علیه انسان می‌شورد اما، تنها یکی از دلایل نگرانی عمومی نسبت به توسعه فناوری‌های هوشمند است. ما از توانایی‌های بالقوه این سیستم‌ها می‌ترسیم چون ناشناخته‌اند. هرقدر سیستم‌های هوش مصنوعی پیشرفته‌تر می‌شوند و هوش انسانی در این سیستم‌ها رو به افزایش می‌گذارد، این دو ناشناخته قدرت ما را برای پیش‌بینی آینده دشوارتر -و پرابهام- می‌کند. اینجا یک پارادوکس جالب وجود دارد؛ بارومتر اعتماد ادلمن، نشان می‌دهد که دانشمندان قابل اعتمادترین مولفه‌ها در جهان هستند. پس چرا از اختراع آنها می‌ترسیم؟ ادلمن می‌نویسد، ما در جهانی زندگی می‌کنیم که اقتدار را زیر سوال می‌برد و با آن مشکل دارد. وقتی بیمار می‌شویم سیستم بهداشتی را مقصر می‌دانیم. افزایش تورم و نرخ بهره را از چشم بانک‌های مرکزی می‌بینیم. و به جای اینکه تصور کنیم جامعه، به عنوان یک کل، با گذشت زمان بهتر می‌شود، احساس می‌کنیم همه چیز دارد بدتر می‌شود. پس عجیب نیست که احساس می‌کنیم هوش مصنوعی را هم «گروهی از کارشناسانی که به آنها اعتماد نداریم» اختراع کرده‌اند، و در زمره چیزهای دیگری قرار می‌گیرد که از کنترل خارج خواهند شد! این روزها هیجان در مورد دستاوردهای هوش مصنوعی (مانند ChatGPT) جای خود را به ترس از خطراتی داده که ممکن است ایجاد کند. جفری هینتون که به پدرخوانده هوش مصنوعی معروف است در روزهای نخست ماه می امسال اعلام کرد که پست خود را در گوگل ترک کرده و دلیل آن را نگرانی از تهدیدات احتمالی توسعه هوش مصنوعی اعلام کرد. یک ماه پیش از این استعفای جنجالی ساندرا پیچای، مدیرعامل گوگل، هم از مشکل «جعبه سیاه» هوش مصنوعی سخن گفته بود؛ جایی که حتی توسعه‌دهندگان آن نیز همیشه نمی‌دانند که این فناوری چگونه عمل می‌کند.1 مخالفان بنام هوش مصنوعی، روی خطر بالقوه آن برای تمدن بشری متمرکز شده‌اند. بیل گیتس، ایلان ماسک، استیون هاوکینگ و استوارت راسل کسانی هستند که این زنگ‌های خطر را به صدا درآورده‌اند.
نگرانی‌های دیگری هم وجود دارد: سیستم‌های هوش مصنوعی بدون کنترل می‌توانند اطلاعات نادرست منتشر کنند. به شرکت‌ها اجازه می‌دهند تا داده‌های شخصی کاربران را بدون اطلاع آنها ذخیره کنند، سوگیری‌های تبعیض‌آمیز داشته باشند یا حتی مشاغل انسانی بی‌شماری را به ماشین‌ها واگذار کنند. دارون عجم اوغلو در یادداشتی برای واشنگتن‌پست می‌نویسد، این هشدارها بیشتر بر روی نقطه‌ای دور در آینده متمرکز است و هنوز نزدیک نیست. او معتقد است، نگرانی زمانی جدی خواهد شد که ماشین‌ها در اکثر فعالیت‌ها -از جمله قضاوت، طراحی و خلاقیت- به توانایی استدلال و عملکرد در سطوح انسانی یا مافوق بشری برسند.2
به گفته او ما واقعاً باید بترسیم، اما نه از آنچه هوش مصنوعی ممکن است به آن تبدیل شود، بلکه از چیزی که «همین حالا» هست. او در یادداشت خود می‌نویسد، تحقیقات من، دیوید اتور، جاناتان هازل و رسترپو نشان می‌دهد شرکت‌هایی که پذیرش هوش مصنوعی خود را یک درصد افزایش می‌دهند استخدام خود را تقریباً یک درصد کاهش خواهند داد. تنها این نیست؛ هوش مصنوعی همچنین فناوری‌های نظارتی جدیدی را که دولت‌ها و شرکت‌ها استفاده می‌کنند تقویت می‌کند (مانند وضعیت نظارت روی اویغورهایی که در چین زندگی می‌کنند). در سیستم قضایی ایالات متحده هم برای تصمیم‌گیری درباره وثیقه (bail decisions) و به طور فزاینده‌ای در صدور احکام استفاده می‌شود. شواهد بسیاری هم وجود دارد که نشان می‌دهد قادر است گفتمان عمومی در رسانه‌های اجتماعی را منحرف کند و عملکرد دموکراسی را به خطر بیندازد. پس ظاهراً حق داریم از آن بترسیم!
اندیشه کسانی که این روزها با دیده شک به هوش مصنوعی نگاه می‌کنند، معمولاً دو جنبه اساسی دارد. از یک سو، هوش مصنوعی را یکی از کلیدی‌ترین فناوری‌های تحول‌آفرینی می‌دانند که تاکنون در تاریخ بشر دیده‌ایم. از سوی دیگر معتقدند این قدرت دگرگون‌کننده چیزی است که باید از آن ترسید و مراقب آن بود. در واقع، اگر هوش مصنوعی متحول‌کننده است پس این قدرت را دارد که جهان را هم به سمت بهتر شدن، و هم بدتر شدن، دگرگون کند.
قاتل مشاغل
ترس از ناشناخته‌ها البته همیشه وجود داشته است: از زمانی که چرخ اختراع شد تا زمانی که اینترنت جهان را قبضه کرد. اما به نظر می‌رسد در مورد هوش ماشینی، ترس‌ها از چند دلیل رایج ناشی می‌شود: اضطراب عمومی نسبت به یک فناوری جدید، ترس از بیکاری انبوه، نگرانی از ابرهوش، سپردن هوش مصنوعی به دست افراد نادرست و نگرانی و احتیاط کلی نسبت به ظهور هر نوع فناوری جدید.
اثر هوش مصنوعی بر بازار کار ممکن است شوم‌ترین تاثیر آن باشد. روندی که از دهه 1980 با خودکارسازی و مشاغل خارج از کشورها سبب توقف رشد دستمزدها و افزایش اشتغال شد، حالا به اعتقاد برخی اقتصاددانان با ظهور هوش مصنوعی تسریع شده است. بسیاری از کارفرمایان با تمرکز بر کاهش هزینه‌ها در هر فرصتی به حذف مشاغل با استفاده از این فناورهای نوپا روی می‌آورند.
ایده بیکاری گسترده کارگران انسانی -به دلیل جایگزینی آنها با کارگران هوش مصنوعی- البته کمی متفاوت از قبل است. در موج قبلی خودکارسازی، بیشتر مشاغل یقه‌آبی (مانند مشاغل تولیدمحور) بودند که خودکار شدند، اما در این موج جدید بیشتر مشاغل خدمات‌محورِ یقه‌سفید (مربوط به کارکنان حوزه دانش) هستند که بار عمده اَشکال هوشمند اتوماسیون را متحمل می‌شوند. با رشد استفاده از هوش مصنوعی و نفوذ فزاینده آن به دنیای تجارت، نیاز به نیروی انسانی آموزش‌دیده در بسیاری از زمینه‌های اقتصاد از بین خواهد رفت. هوش مصنوعی همچنین بر کارگران یقه‌آبی مانند رانندگان دلیوری، رانندگان تاکسی و بسیاری از جنبه‌های دیگر زنجیره تامین، تدارکات و تولید تاثیر می‌گذارد. واقعیت این است که 80 درصد از هر کدام این مشاغل را می‌توان به وسیله ماشین‌های هوشمند انجام داد؛ بنابراین هوش ترسناک همین حالا هم پشت در مشاغل ایستاده است!
بد نیست استدلال گروه مخالف را هم بشنوید. آنها می‌گویند برخی از این سیستم‌ها به گونه‌ای نیستند که بتوان آنها را با اعتماد کامل جایگزین مشاغل انسانی کرد. آنها گرچه قابلیت‌های زیادی دارند اما به سادگی نمی‌توانند به طور کامل، مستقل کار کنند. در واقع بیشتر پیاده‌سازی‌های موفق هوش مصنوعی به گونه‌ای انجام می‌شود که نقش «هوش افزوده» را ایفا می‌کند؛ از انسان در کاری که انجام می‌دهد به بهترین نحو پشتیبانی می‌کند؛ اما به طور کامل جایگزین آن نمی‌شود. به علاوه همین حالا هم بسیاری از صنایع با پیشرفت فناوری مختل شده‌اند و بسیاری از این اختلال‌ها هیچ ارتباطی با هوش مصنوعی ندارد. بلکه به دلیل اتوماسیون و ساده‌سازی فرآیندهاست که باعث شده کارها آسان‌تر و سریع‌تر انجام شود و ما دیگر به کسب‌وکارها و سازمان‌ها تکیه نمی‌کنیم تا واسطه انجام کارها باشند.
برخی از اقتصاددانان بر این باورند که در مورد ترس از خودکارسازی و جابه‌جایی کارگران به واسطه هوش مصنوعی، غلو شده است. آنها استدلال می‌کنند که با اتوماسیون ناشی از هوش مصنوعی، افزایش بهره‌وری به افزایش تقاضای نیروی کار در سایر بخش‌های اقتصاد و حتی در همان شرکت‌هایی منجر می‌شود که از این فناوری استفاده می‌کنند. دارون عجم اوغلو در پاسخ به این خوش‌بینی پاسخی قاطع دارد. او می‌گوید: اگر فناوری هوش مصنوعی در کارهایی که امروز انجام می‌دهد واقعاً فوق‌العاده (بی‌نقص) بود این استدلال تا حدی اعتبار داشت. متاسفانه فناوری‌های فعلی هوش مصنوعی، از هوش عمومی فاصله چندانی ندارند. آنها حتی در چیزهایی که ویژگی هوش انسانی است -مانند تشخیص چهره، درک زبان یا حل مساله- آنقدرها هم خوب نیستند. این به معنای ضربه مضاعف به نیروی کار است، زیرا هوش مصنوعی جایگزین نیروی کار می‌شود و هیچ‌کدام از دستاوردهای ناشی از افزایش بهره‌وری را به همراه نخواهد داشت؛ پس افزایشی هم در تقاضای نیروی کار ایجاد نمی‌کند!
برادر بزرگ، آدم‌های بد و باقی قضایا
ترس از هوش مصنوعی البته به هراس از بیکاری گسترده محدود نمی‌شود. در حوزه اقتصاد برخی نگران‌اند قدرت و نظارت شرکت‌ها و سرمایه‌داران بر نیروی کار تشدید شود. کاربردهای هوش مصنوعی در تصمیم‌گیری‌های دولتی، و مهم‌تر از همه در سیستم عدالت کیفری، کمتر نگران‌کننده نیست. شواهد موجود نشان می‌دهد که الگوریتم‌ها گاهی اوقات سوگیری‌ها و نابرابری‌های موجود را تشدید می‌کنند. ترس دیگر آسیب هوش مصنوعی به گفتمان و سیاست دموکراتیک است. این تنها به دلیل اطلاعات غلط الگوریتمی در رسانه‌های اجتماعی نیست، بلکه به دلیل توانایی رو به رشد شرکت‌ها و دولت‌ها برای نظارت و دستکاری رفتارهای میلیون‌ها نفر است، که اساساً با دموکراسی واقعی سر ناسازگاری دارد.
ترس رایج دیگر از هوش مصنوعی این است که بازیگران بد می‌توانند با استفاده از هوش مصنوعی کارهای بدی انجام دهند! رهبران روسیه اعلام کردند که هرکس پیشگام هوش مصنوعی شود، یکی از برترین حاکمان جهان خواهد بود. جای تعجب نیست که کشورها سرمایه و تحقیقات عظیمی را صرف توسعه سیستم‌های هوش مصنوعی از پیشرفت نظامی و سیستم‌های اطلاعاتی گرفته تا زندگی روزمره مردم می‌کنند. می‌توانیم انتظار داشته باشیم که دولت‌ها به استفاده از سیستم‌های هوش مصنوعی به نحوی ادامه دهند که در نهایت ما را در تمام جنبه‌های زندگی به دردسر بیندازد و ناراضی کند.
و البته، در حالی که می‌دانیم دولت‌ها و کشورها برای تسلط بر هوش مصنوعی با یکدیگر رقابت می‌کنند، اما این دولت‌ها نیستند که باید از آنها بترسیم. به هر حال، برای مراقبت از رفتار دولت قانون و نظارت وجود دارد. ظاهراً بیشتر باید نگران گروه دیگری باشیم: بازیگران بد، جنایتکاران و افراد شرور که از فناوری‌های هوش مصنوعی به نفع اهداف نادرست خود استفاده می‌کنند. از آنجا که سیستم‌های هوش مصنوعی تمایل دارند چیزهایی را از سازندگان خود یاد بگیرند، این امر می‌تواند نیت آفرینندگان و کسانی که سیستم‌ها را آموزش می‌دهند زیر سوال ببرد!
ابرهوش شیطانی؟
نگرانی‌های دیگری هم وجود دارد؛ اینکه هوش مصنوعی اطلاعات نادرست، جنگ سایبری، سوگیری تقویت‌شده و در نهایت تخریب گسترده سیستم ایجاد می‌کند. این همه در واقع هراس از «استفاده غیرمسوولانه» از هوش مصنوعی است. مردم نگران هستند که سیستم‌های هوش مصنوعی به حبس ناعادلانه، هرزنامه و اطلاعات نادرست، فجایع امنیت سایبری و در نهایت یک هوش مصنوعی «هوشمند و برنامه‌ریزی» منجر شود که نیروگاه‌ها، سیستم‌های اطلاعاتی، بیمارستان‌ها و سایر موسسات را در کنترل خود درآورد.
در نهایت، احتمالاً بیشترین هراس از هوش مصنوعی، ترس از فراهوش یا هوش فوق‌العاده است؛ هوشی که دیگر به وجود بشریت اهمیت نمی‌دهد. فناوری به جایی خواهد رسید که بتواند خودش را آموزش بدهد، خودش پیشرفت کند، خودش اختراع کند و در نهایت بشر به جای تبدیل شدن به نیرویی برای پیشرفت بشر، خدمتگزار فناوری شود. ترس از این است که مغز ما نتواند از یک جا به بعد با پیشرفت توسعه و اختراع همراه شود، زیرا سرعت تحولات بسیار بالاست. مخالفان اما می‌گویند ما هنوز تا رسیدن به این نقطه بیش از آنچه فکر می‌کنیم فاصله داریم. داده‌ها هنوز سنگ‌بنای هوش مصنوعی هستند و بسیاری از آنها مبهم و آشفته‌اند.
واقعیت این است که یک استدلال متقابل قوی وجود ندارد که بگوید، بهترین راه برای نزدیک شدن به این ناشناخته هولناک چیست؟ هر فناوری جدید چالش‌هایی را ایجاد می‌کند و تصمیمات حیاتی را ضروری می‌کند که تعیین می‌کنند چه کسی سود می‌برد و چه کسی ضرر می‌کند، و اینکه آیا مزایا می‌توانند آسیب‌ها را توجیه کنند یا خیر. همه این ترس‌ها در این واقعیت خلاصه می‌شود که ما نمی‌دانیم هوش مصنوعی به کجا می‌رود و چقدر قریب‌الوقوع است. فناوری جهش‌های شگفت‌انگیز و غیرمعمولی ایجاد می‌کند، به گونه‌ای که هرگز فکرش را نمی‌کنیم. از طرفی چیزهایی که فکر می‌کردیم اتفاق خواهند افتاد هنوز وجود خارجی ندارند. ظاهراً تنها راه این است که منتظر بمانیم و ببینیم چه اتفاقی می‌افتد. این هم شاید منطقی نباشد.
اگر حق انتخاب را به دست مشتاقان پرسروصدای هوش مصنوعی بسپاریم، تصمیماتی که به نفع تصمیم‌گیرندگان باشد و هزینه‌های بی‌شماری را به سایرین تحمیل کند، محتمل‌تر می‌شود. بهترین راه برای معکوس کردن این روند، شناخت هزینه‌های ملموسی است که هوش مصنوعی همین حالا بر ما تحمیل کرده است. به علاوه نیازمند نظارت جامعه و دولت برای جلوگیری از سوءاستفاده از فناوری و تنظیم اثرات آن بر اقتصاد و دموکراسی هستیم. این شاید مطمئن‌ترین راه برای رهایی از کابوس ابرهوش شیطانی باشد!
پی‌نوشت‌ها:
1- Godfather of A.I.’ leaves Google after a decade to warn society of technology he’s touted. CNBC news. May 5, 2023.
2- Acemoglu, Daron. Opinion: The AI we should fear is already here! Washington Post. July 21, 2021.
