چرا باید نگران هوش‌مصنوعی فراهوشمند باشیم؟
چرا باید نگران هوش‌مصنوعی فراهوشمند باشیم؟
مجله علمی ایلیاد - حداقل از قرن نوزدهم تا کنون اختراع فراهوش‌مصنوعی، موضوع مهمی در داستان‌های علمی تخیلی بوده است. از داستان کوتاهِ ای.ام.فورستر، به‌نام ایستگاه‌های ماشین در سال ۱۹۰۹ گرفته تا سریال تلویزیونی جدید اچ‌بی‌او به‌نام جهان غرب، هدف نویسندگان در تمام موارد این بوده که این احتمال را به‌عنوان فاجعه‌ای غیرقانونی به تصویر بکشند. اما این موضوع، دیگر تخیلی نیست. اکنون دانشمندان و مهندسان برجسته‌ی معاصر نگران این موضوع نیز هستند که فراهوش‌مصنوعی بتواند روزی از هوش انسان پیشی بگیرد؛ رویدادی که «یکسانگی» نام دارد و به بدترین اشتباه بشریت تبدیل شود.
روندهای فعلی نشان می‌دهد که قرار است برای چنین فناوری، وارد رقابت بین‌المللی تسلیحاتی شویم. هر کدام از شرکت‌ها یا آزمایشگاه‌های دولتی فناوری پیشرفته که موفق به اختراع اولین فراهوش‌مصنوعی شود، احتمالاً فناوری ممتاز و غالب بر کل جهان را به‌دست می‌آورد؛ او برنده‌ای خواهد بود که تمام جوایز را خواهد گرفت. بنابراین برای کسانی که می‌خواهند جلوی چنین رویدادی را بگیرند، سوال این است که چگونه می‌توان از این نوع رقابت تسلیحاتی خودداری کرد، یا حداقل تیم‌های رقیب را ترغیب کرد که امنیت هوش‌مصنوعی را فدای زمان و سرعت نکنند.
به گفته‌ی فیلسوف «نیک بوستروم» و برخی افراد دیگر، فراهوش‌مصنوعی دو چالش اساسی برای مخترعین آن به وجود می‌آورد. یکی مساله‌ی کنترل است، یعنی چگونه اطمینان حاصل شود که اهداف فراهوش‌مصنوعی همان اهداف بشریت است. بدون این، هوش‌مصنوعی می‌تواند بشریت را به‌طور عمدی یا تصادفی یا از روی غفلت نابود کند. چیزی که «فاجعه‌ی هوش‌مصنوعی» نامیده می‌شود. مساله‌ی دوم، سیاسی است. یعنی چگونه اطمینان حاصل شود که مزایای فراهوش فقط عاید نخبگان نمی‌شود و موجب نابرابری‌های گسترده‌ی اجتماعی و مالی نمی‌شود. اگر رقابت تسلیحاتی فراهوش‌مصنوعی رخ دهد، می‌تواند موجب شود که گروه‌های رقیب به منظور توسعه‌ی سریع‌تر فناوری خود، این مسائل را نادیده بگیرند. این امر می‌تواند موجب ایجاد فراهوش‌مصنوعی با کیفیت ضعیف یا فراهوش‌مصنوعی غیردوستانه شود.
یک راه‌حل پیشنهادی، استفاده از خط مشی عمومی برای ورود سخت‌تر به این مسابقه است، تا تعداد گروه‌های رقیب کاهش یابد و توانایی‌های افرادی که وارد رقابت می‌شوند، بهبود یابد. هرچه تعداد رقبا کمتر باشد، فشار کمتری برای فدا کردن زمان و سرعت برای برنده شدن وجود خواهد داشت.
اما دولت‌ها چگونه می‌توانند به این طریق رقابت را کاهش دهند؟
من و همکارم «نیکولا دیمیتری» اخیراً مقاله‌ای منتشر کردیم که در آن سعی داشتیم به این سوال پاسخ دهیم. ابتدا نشان دادیم که در یک مسابقه‌ی معمولی، مانند مسابقه ساخت اولین فراهوش‌مصنوعی، فقط رقابت‌آمیزترین تیم‌ها شرکت خواهند کرد. به این دلیل که احتمال اینکه واقعاً فراهوش‌مصنوعی اختراع شود، بسیار کم است و به این دلیل که به سرمایه‌گذاری زیادی در تحقیق و توسعه نیاز است، در ورود به مسابقه بسیار گران خواهد بود. تعداد محدودی شرکت بر برنامه‌های ثبت اختراع این نوع هوش‌مصنوعی غلبه دارند و بخش عمده‌ای از تحقیقات مربوط به هوش‌مصنوعی فقط در سه منطقه‌ی ایالات متحده، چین و اروپا انجام شده است. همچنین به نظر می‌رسد گروه‌های بسیار کمی وجود دارند که روی ساختن فراهوش‌مصنوعی سرمایه‌گذاری می‌کنند؛ البته اگر اصلاً وجود داشته باشد.
این نشان می‌دهد که در حال حاضر کاهش تعداد گروه‌های رقیب، مهم‌ترین اولویت نیست. اما حتی با وجود تعداد کمتری از رقبا در مسابقه، باز هم شدت رقابت می‌تواند موجب مشکلات فوق‌الذکر شود. بنابراین دولت‌ها می‌توانند برای کاهش شدت رقابت بین گروه‌هایی که سعی دارند فراهوش‌مصنوعی بسازند و قابلیت‌های خود را افزایش دهند، به مالیات‌ها و تدارکات عمومی روی آورند.
تدارکات عمومی به کلیه‌ی مواردی که دولت‌ها به شرکت‌های خصوصی می‌پردازد، از نرم‌افزار برای استفاده در سازمان‌های دولتی گرفته تا قراردادهایی برای اجرای خدمات، اشاره دارد. دولت‌ها می‌توانند بر هر تامین‌کننده‌ی فراهوش‌مصنوعی محدودیت‌هایی اعمال کنند که آن‌ها را ملزم به رفع مشکلات احتمالی و حمایت از فناوری‌های مکمل برای ارتقای هوش انسانی و ادغام آن با هوش‌مصنوعی می‌کند.
دولت‌ها همچنین می‌توانند خریدن نسخه‌ی غیربهترینی از فراهوش‌مصنوعی را پیشنهاد دهند و به این ترتیب در مسابقه‌ی تسلیحاتی «جایزه‌ی دوم» تعیین کنند و از رقابتی با یک برنده، جلوگیری کنند. با داشتن یک جایزه‌ی متوسط که می‌تواند برای اختراع چیزی نزدیک به فراهوش‌مصنوعی باشد، گروه‌های رقیب انگیزه‌ای برای سرمایه‌گذاری و همکاری بیشتر خواهند داشت و در نتیجه شدت رقابت کاهش خواهد یافت. جایزه‌ی دوم ریسک شکست را نیز کاهش می‌دهد و سرمایه‌گذاریِ بیشتر را توجیه می‌کند و به افزایش توانایی‌های تیم‌های رقیب نیز کمک می‌کند.
در مورد مالیات، دولت‌ها می‌توانند نرخ مالیات را بر اساس گروهی که فراهوش‌مصنوعی را اختراع می‌کند، بر اساس میزان دوستانه یا غیردوستانه بودن هوش‌مصنوعی، تعیین کنند. نرخ مالیاتی که به اندازه‌ی کافی بالا باشد، در واقع به معنای ملی شدن فراهوش‌مصنوعی است. این امر می‌تواند به شدت موجب شود که شرکت‌های خصوصی زمان و سرعت را به خاطر ترس از دست دادن محصول خود به دولت، فدای امنیت نکنند.
منافع عمومی نه انحصار خصوصی
این ایده به هماهنگی جهانی بهتری در امور مالیات و تنظیم فراهوش‌مصنوعی نیاز دارد. اما نیازی به مشارکت همه‌ی دولت‌ها نیست. از نظر تئوری، یک منطقه یا کشور واحد مانند اتحادیه اروپا می‌تواند هزینه‌ها و تلاش‌های مربوط به مقابله با مشکلات و اخلاق فراهوش‌مصنوعی را متقبل شود.
اما تمام کشورها سود خواهند برد و فراهوش‌مصنوعی به چیزی بیش از یک انحصار خصوصی تبدیل خواهد شد و در واقع منفعت عمومی خواهد بود. البته همه‌ی این‌ها به این بستگی دارد که فراهوش‌مصنوعی واقعاً تهدیدی برای بشریت باشد و برخی دانشمندان فکر نمی‌کنند فراهوش‌مصنوعی تهدیدی برای بشریت باشد. ما طبیعتاً باید خطرات فراهوش‌مصنوعی را با گذشت زمان مهندسی کنیم. برخی باور دارند که حتی ممکن است انسان هم با هوش‌مصنوعی ادغام شود.
در هر صورت، سیاره‌ی ما و ساکنان آن از اینکه اطمینان حاصل شود که بهترین نتیجه را از هوش‌مصنوعی به دست می‌آوریم، سود خواهند برد. برای این کار، به درک بهتری از نقش دولت در این زمینه نیاز داریم. گفتنی است که هوش‌مصنوعی هنوز در مراحل ابتدایی خود است.