هوشمصنوعی چقدر منصفانه عمل میکند؟
هوشمصنوعی چقدر منصفانه عمل میکند؟
مجله علمی ایلیاد – بهنظر میرسد هوشمصنوعی میتواند چگونگی انجام هر کاری را مشخص کند. این هوش میتواند جهان را شبیهسازی کند، یاد بگیرد که فقط با یک دست مکعب روبیک را حل کند. همه این پیشرفتها به نفع ما انسانها هستند؛ اما اگر روزی این پیشرفتها به نفع ما نباشند، چه میتوان کرد؟
در سالهای اخیر، سیستمهای الگوریتمی که بر زندگی افراد موثر هستند، سطح بالایی از تغییر را از خود نشان دادهاند و مشاهده شده که کارهایی مانند پیشبینی جُرم و جنایت را بر اساس نوع نژاد و جنسیت انجام میدهند. لذا با توجه به چنین موضوعی، دانشمندان چگونه میتوانند اطمینان حاصل کنند که سیستمهای تفکری پیشرفته، عادلانه یا حتی مطمئن عمل خواهند کرد؟
مطالعه جدیدی که توسط محققان دانشگاه ماساچوست انجامشده، میخواهد با ارائه چارچوبی برای جلوگیری ازآنچه که این تیم «رفتار نامطلوب ماشینهای هوشمند» مینامد، راهحلی را برای این موضوع پیدا کند. «فیلیپ توماس» محقق یادگیری ماشین، در این خصوص میگوید: «وقتی شخصی الگوریتم یادگیری ماشین را اعمال میکند، بهوضوح میتوان دید که کنترل رفتار دستگاه از دست او خارج میشود. از آنجا که تاثیر الگوریتمهای یادگیری ماشین بر زندگی ما بسیار زیاد شده، اطمینان از عادلانه بودن و آسیب نرسیدن به ما از طریق آنها، به موضوع مهمی تبدیلشده است.»
این چارچوب که میتواند به محققان هوشمصنوعی کمک کند تا انواع جدیدی از الگوریتمهای یادگیری ماشین را توسعه دهند، از هوشمصنوعی به همراه درک ذاتی اخلاق یا انصاف استفاده نمیکند، بلکه باعث میشود محققان یادگیری ماشین بتوانند رفتار نامطلوب این هوش را در هنگام تصمیمگیری شناسایی و تصحیح نمایند.
در قلب این سیستم جدید که «الگوریتم سلدونین» نامیده شده و از نام شخصیت اصلی رُمانهای علمی تخیلی «ایزاک آسیموف» گرفتهشده، چیزی وجود دارد که باعث شده این الگوریتم فقط به اطمینان از عملکرد اخلاقی مرتبط نباشد؛ بلکه از طریق آن هر نوع رفتاری مانند ویژگیهای پیچیده سیستمهای پزشکی نیز قابلکنترل باشد. توماس میگوید: «اگر از الگوریتم سلدونین برای درمان دیابت استفاده کنیم، میتوانیم رفتار نامطلوبی را که به معنای قند خون بسیار بالا یا افت قند خون است، مشخص نماییم. در اکثر الگوریتمها راهی برای وضع چنین محدودیتی بر روی رفتار وجود ندارد؛ زیرا این مورد در طرحهای اولیه گنجانده نشده است.»
این گروه بهعنوان بخشی از تحقیقات خود، الگوریتم سلدونین را برای کنترل یک پمپ انسولین خودکار طرحریزی کردند و یک روش مناسب را برای پیشبینی تعیین دورهی ایمن قند خون طراحی کردند. در آزمایش دیگری، آنها الگوریتمی را برای پیشبینی GPA دانشجویی طرحریزی کردند که عاری از تعصب جنسیتی رایج الگوریتمهای رگرسیون معمولی عمل میکرد.
محققان بیان کردند که این آزمایشها بهخوبی میتوانند آنچه را که الگوریتمهای سلدونین قادر به انجامشان هستند، اثبات کنند و لذا با تمرکز بر این کار، میتوان چارچوبی را طرحریزی کرد که سایر دانشمندان میتوانند از آن بهعنوان راهنمایی برای ساخت سیستمهای هوشمصنوعی آتی استفاده کنند. توماس میگوید: «ما ایمان داریم که میتوان در این عرصه به پیشرفتهای زیادی دست پیدا کرد.» این دانشمندان بیان کردند که حتی با استفاده از الگوریتمهای ساختهشده از اجزای ساده نیز میتوان به نتایج چشمگیری دست پیدا کرد. لذا ما امیدواریم محققان عرصهی یادگیری ماشین در ادامه الگوریتمهای جدید و پیچیدهتری را با استفاده از چارچوب ما توسعه دهند، الگوریتمهایی که میتوانند در برنامههایی که از یادگیری ماشین بهره میبرند با مسئولیت بیشتری وارد عمل شوند.