تا چند سال قبل، بحث بر سر شخصیت و حقوق قانونی هوش مصنوعی فقط به داستان های علمی-تخیلی اختصاص داشت. «داگلاس آدامز» در کتاب دوم از مجموعه «راهنمای هیچهایکرها در کهکشان» به نام «رستوران آخر دنیا» داستان یک آسانسور هوشمند را تعریف می کند که می تواند آینده را پیش بینی کند. این آسانسور به موقع در طبقات مناسب حاضر شده و قبل از اینکه خودتان متوجه شوید، شما را سوار کرده و به مقصد می رساند.
این ابزار هوشمند در واقع می خواهد اتلاف وقت و ارتباطات اجتماعی بی هدف انسان ها در زمان انتظار برای رسیدن آسانسور را از بین ببرد. مشکل اینجاست که گاهی اوقات، حوصله آسانسور هوشمند سر می رود و به جای اینکه در مسیر عمودی جابجا شود، به چپ و راست حرکت می کند تا به نوعی «بحران اگزیستانسیالیسی (وجودی)» خود را به نمایش بگذارد.
البته ما هنوز آسانسور هوشمند نداریم، یا شاید هم داریم اما غول های تکنولوژی هنوز تصمیم نگرفته اند که ما را از وجود آنها باخبر سازند. با این حال به پیشرفت هایی دست یافته ایم که تا چند سال قبل ناممکن به نظر می رسیدند، مانند ماشین های خودران، مترجم های همزمان، و دستیارهای هوشمند. آیا زمان آن نرسیده است که به فکر حقوق هوش مصنوعی باشیم؟
جنگ بر سر حقوق AI
واضح است که هوش مصنوعی در آینده ای نه چندان نقش مغز متفکر را درون ماشین ها بر عهده می گیرد. در حال حاضر شبکه های عصبی مصنوعی متعددی با تعداد نورون های بیشتر از موجودات کوچکی همچون زنبور عسل یا سوسک وجود دارند که روز به روز پیشرفت کرده و بزرگ تر خواهند شد.
بعضی شرکت ها می خواهند آگاهی انسان را روی مغزهای دیجیتالی آپلود کنند
در مقیاس بزرگ تر، پروژه هایی را داریم که می توانند الگوریتم های زیستی را در سطح بزرگ تری به اجرا درآورده و کارکردهای مغز انسان را شبیه سازی کنند. حتی در برخی پروژه ها، آگاهی و شعور انسان را داخل مغزهای کامپیوتری آپلود می نمایند، یا پروژه OpenWorm که سیستم اعصاب مرکزی (کانکتوم) متعلق به کرم الگانس را شبیه سازی می کند (کانکتوم این کرم، تنها سیستم عصبی یک موجود زنده است که به طور کامل توسط انسان نقشه برداری شده و کاربردهای فوق العاده ای در صنعت رباتیک و هوش مصنوعی دارد.)
در نظرسنجی انجام شده از 175 متخصص این حوزه در سال 2016، نیمی از آنها گفتند تا سال 2040 هوش مصنوعی به سطح مغز انسان خواهد رسید، و 90 درصد آنها نیز این وضعیت را برای سال 2075 پیش بینی کردند. قطعاً پیش از دستیابی به این سطح، هوش مصنوعی از سطح حیوانات فراتر خواهد رفت و به همین دلیل می توان حق و حقوقی که هم اکنون برای حیوانات قائلیم را برای موجودات هوشمند مصنوعی نیز در نظر بگیریم، و آسانسورهای هوشمند را مجبور نکنیم که فقط در مسیر عمودی حرکت کنند.
چند سال قبل «بیل تامسون» نویسنده مطرح دنیای تکنولوژی، اظهار داشت تلاش ما برای توسعه نوعی هوش مصنوعی که نتواند به ما آسیب برساند، نشان می دهد AI باید همیشه در خدمت بشر باشد و هیچگاه نمی خواهیم به آنها استقلال بدهیم.
به هر حال با این سؤال روبرو هستیم که آیا باید حقوق قانونی برای عامل های هوش مصنوعی قائل شد و برای آنها شخصیت و هویت قانونی در نظر گرفت یا خیر. شاید این سؤال برای برخی خنده دار به نظر برسد، اما بهتر است قبل از پیچیده تر شدن نقش این موجودات هوشمند مصنوعی در زندگی روزمره، به مسائل اخلاقی مرتبط با آنها بپردازیم.
ابزارهای هوشمند در عصر قوانین غیر هوشمند
سیستم قضایی هنوز جهان را مملو از ابزارهای غیر هوشمند می بیند
در حال حاضر سیستم قضایی عمدتاً با جهانی سرشار از ابزارهای غیر هوشمند سر و کار دارد، یا حداقل ترجیح می دهد که اینگونه باشد. مثلاً وقتی در مورد کنترل سلاح گرم صحبت می کنیم، شخصی که با اسلحه شلیک کرده را مسئول جنایت می دانیم، نه خود اسلحه را. زمانی که سلاح به خاطر ایراد فنی در دست صاحبش منفجر شود، باز هم شرکت سازنده را بازخواست می کنیم.
همین تفکر برای هوش مصنوعی و رباتیک هم وجود دارد. در سال 1984 مالکین یک شرکت سازنده ربات های تمرینی تنیس به نام Athlone به خاطر عملکرد خشونت آمیز ربات هایشان به دادگاه احضار شدند. این پرونده از آن جهت معروف شد که قاضی عملاً اظهار داشت مدیران شرکت مقصرند، چون «از ربات ها که نمی توان شکایت کرد.»
در سال 2009 هم یک راننده انگلیسی با استفاده از سیستم جی پی اس به جاده ای باریک و کوهستانی رسید و به دام افتاد، به گونه ای که برای بازگشت به مسیر اصلی به کمک نیروهای پلیس متوسل شد. اگرچه این راننده تکنولوژی مسیریابی را مقصر اصلی حادثه می دانست، دادگاه او را به سهل انگاری در رانندگی متهم کرد.
عامل های هوشمند امروزی، صرفاً ابزار دست انسان نیستند و می توانند تصمیم بگیرند
با این حال، تفاوت آشکاری بین تکنولوژی های سابق و فناوری های هوشمند امروز (و آینده) وجود دارد. دستگاه های هوشمندی مانند ماشین های خودران یا ربات ها صرفاً ابزار دست انسان نیستند، بلکه به صورت مستقل (هرچند بر مبنای دستورات انسان) نیز عمل می کنند و تصمیم می گیرند. دیوایس های مجهز به الگوریتم های یادگیری ماشین، اطلاعات را جمع آوری و تجزیه و تحلیل می کنند، و سپس بر مبنای آنها اقدام می ورزند. بنابراین مسئول دانستن سازنده این فناوری در صورت بروز مشکل نیز منطقی نیست.
«دیوید ولادک» استاد حقوق دانشگاه جرج تاون واشنگتن که یکی از معدود مطالعات روی این موضوع را پیش می برد، معتقد است افراد و شرکت های متعددی در طراحی، تغییر، و استفاده از هوش مصنوعی امروزی نقش دارند و به سختی می توان فرد یا گروه مسئول ایراد را شناخت، ضمن اینکه بسیاری از سیستم های AI کاملاً سربسته عرضه می شوند و راهی برای شناسایی سازوکار داخلی آنها نداریم.
وضعیتی مشابه شرکت ها
اعطای شخصیت حقوقی به AI چندان هم دور از ذهن و غیر منتظره نیست. مدتهاست که شرکت ها چنین وضعیتی را دارند و می توانند مالکیت داشته یا مورد شکایت قرار گیرند، بدون اینکه به مدیرعامل یا هیئت اجرایی آنها ارتباط داشته باشد.
«شان بایرن» استاد حقوق دانشگاه ایالتی فلوریدا نیز می گوید هم اکنون هوش مصنوعی چنین حالتی دارد و به خاطر نقایص قانونی، حتی می تواند مدیر یک شرکت با مسئولیت محدود باشد، به همین دلیل یک شخص حقوقی به شمار می رود. بحث مالیات هم در اینجا مطرح می شود و شاید روزی، پیشنهاد بیل گیتس برای اخذ مالیات از ربات ها هم به تصویب برسد.
البته این وضعیت مشکلاتی هم دارد. اعطای شخصیت حقوقی به AI باعث می شود تا خالقین و سازندگان آن احتیاط کمتری را در پیش بگیرند، چون می دانند در صورت بروز مشکل، مسئولیتی متوجه آنها نیست. از طرفی، هیچ راهی برای تنبیه AI در اختیار نداریم و مجازات های انسانی همچون حبس یا اعدام، برای هوش مصنوعی بی معنا هستند.
دکتر جان داناهر استاد حقوق دانشگاه NUI Galway ایرلند می گوید:
[اعطای شخصیت حقوقی به AI] حداقل در شرایط کنونی، گزینه مناسبی نیست. حدس من این است که در آینده نزدیک از این حربه برای رفع مسئولیت از انسان ها در قبال فعالیت های ضد اجتماعی و ضد انسانی سوء استفاده می شود.
با این حال، بررسی دقیق این حوزه کاملاً ضروریست، چون با معیارهای دقیقی در آن روبرو نیستیم. «یووال نوآ حراری» نویسنده کتب مطرح در این زمینه می گوید:
امروزه شرکت ها را حائز حقوق قانونی می دانیم و آنها را شخص حقوقی به شمار می آوریم، اما در مورد حیوانات چنین نظری نداریم. شرکت ها هیچگونه آگاهی، شخصیت و ظرفیت تجربه شادمانی یا رنج را ندارند، در حالی که حیوانات موجوداتی اگاه هستند.
او اضافه می کند حتی اگر AI به آگاهی و هوشمندی کامل نرسد، باز هم به دلایل اقتصادی، سیاسی و قانونی باید به آن شخصیت بخشید و حقوقش را مشابه شرکت ها و سازمان ها تدوین نمود. در واقع AI این پتانسیل را دارد که بر شرکت ها، سازمان ها یا حتی کشورها برتری و تسلط یافته و آنها را در اختیار بگیرد.
موضوعی که دیگر تخیلی نیست
شاید هنوز هم فکر کنید با موضوعی علمی-تخیلی روبرو هستیم، اما همانطور که حراری گفت، این وضعیت پابرجا نخواهد ماند. با توجه به حضور گسترده این عامل های هوشمند در جهان واقعی و ارتباط تنگاتنگی که بین آنها و کاربر ایجاد می شود، به زودی سؤالاتی از این دست را خواهیم شنید: اگر AI باعث مرگ یک انسان بشود، چه کسی مسئول است؟ یا اینکه آیا می توان با دستیار دیجیتالی هوشمند ازدواج کرد یا خیر؟
اعطای شخصیت حقیقی به دو بحث مجزا تقسیم می شود؛ اول: آیا عامل هوشمند باید در برابر رفتار و اعمالش مسئول باشد؟ دوم: آیا انسان ها در ارتباط با AI باید حق و حقوق قانونی و اخلاقی آنها را رعایت کنند و از تغییر دادن یا نابود کردن کامل آنها بپرهیزند؟
آیا شرکت ها مجاز به از بین بردن عامل های هوشمند مصنوعی هستند؟
پاسخ به هر دو سؤال فوق هنوز مشخص نیست؛ در مورد اول هنوز سازوکار قانونی وجود ندارد، ضمن اینکه پیشرفت هوش مصنوعی هم به سطحی نرسیده که بتوان آن را مقصر قلمداد کرد. اما در مورد سؤال دوم، شاید بتوان دقیق تر عمل نمود. مثلاً اینکه شرکت ها نباید پس از ارائه یک دستیار دیجیتالی هوشمند، آن را از بین ببرند، چون کاربر به آن وابستگی پیدا می کند و این مغز هوشمند مصنوعی، نسخه خام اولیه نیست، بلکه در ارتباط با کاربر تغییر کرده و به موجودی متفاوت تبدیل شده.
با این تفاسیر، می توانیم از همین حالا رعایت حقوق عامل های هوشمند را تمرین کنیم تا در آینده ای نزدیک، راحت تر با آن کنار بیاییم. بنابراین اگر سیری، الکسا، یا دستیار گوگل درخواست شما را متوجه نشدند یا پاسخ مناسبی را برایتان نیافتند، شاید بهتر باشد سرشان فریاد نزنید و دوباره با احترام از آنها سؤال کنید.