هوش مصنوعي و قانونگذاري )7( )قانونگذاري و هوش مصنوعي در اتحاديه اروپا( ضرورتها و چشماندازهاي اخالقي و حقوقي دفتر: مطالعات بنيادين حكومتي كد موضوعي: 333 شماره مسلسل: 36363 شهريورماه 3337 به نام خدا فهرست مطالب چكيده1…………………………………………………………………………………………………………………………………………………………………. مقدمه2………………………………………………………………………………………………………………………………………………………………….. زمينهاي براي ابتكار عمل پارلمان و سياستگذاري در حوزه روباتها4……………………………………………………… چرا فهم »كنشگران مصنوعي« معنادارتر از روباتهاست7…………………………………………………………………………. كنشگران مصنوعي8……………………………………………………………………………………………………………………………………………. آيا ميتوان براي روباتها بهعنوان كنشگران مصنوعي قائل به شخصيت و مسئوليتپذيري شد؟8……. انگيزههاي پارلمان اتحاديه اروپا براي وضع قوانين جديد11……………………………………………………………………….. نتيجهگيري11……………………………………………………………………………………………………………………………………………………… منابع و مآخذ11…………………………………………………………………………………………………………………………………………………… 1 _____________________________________________________ هوش مصنوعي و قانونگذاري )7( )قانونگذاري و هوش مصنوعي در اتحاديه اروپا( ضرورتها و چشماندازهاي اخالقي و حقوقي چكيده روباتها و هوش مصنوعي عميقاً با زندگي ما در جامعه پيوند يافتهاند. نقش آنها در زندگي ما روزبهروز افزايش يافته و بهزودي به همراهي هميشگي در مكان كار بدل ميشوند كه نگرانيهاي زيادي را موجب ميشود مانند: در صورت خطاي اين تكنولوژيهاي پيشرفته چه اتفاقي ميافتد؟ آيا ميتوان روباتها را براي محاكمه به دادگاه كشاند؟ در صورت انجام عملي اشتباه بهوسيله ماشيني كه بهطور اتوماتيك كار ميكند، روبات پليس يا ماشينهاي خودراني )بدون راننده( كه بيمارستاني محلي براي جايگزيني آنها با پرستار استخدام كردهاند چه بايد كرد؟ اگرچه دستاندركاران حوزه تكنولوژي ادعا ميكنند كه روباتهايي كه از هوش مصنوعي استفاده ميكنند روزبهروز امنتر و مطمئنتر ميشوند اما ميدانيم كه احتمال بروز حوادث غيرمترقبه وجود دارد. پس درنهايت بايد به چه كسي اعتماد كرد؟ به روبات؟ صاحب آن؟ يا كارخانه توليدكننده آن؟ اين گزارش به بررسي قوانين مدني پارلمان اروپا ميپردازد كه ناظر بر روباتهاست. همچنين رويكرد پارلمان اروپا به بحث هوش مصنوعي و نقش آن در اين اتحاديه تأكيد ________________________________________ ش ه زژپو ك ي ر وراياسال م م جلسش م 2 اه بر بحث قانونگذاري و مالحظات اخالقي دارد. جستجوي ابعاد تنظيمي تكنولوژيهاي موجود و محتمل در آينده و محاسبهپذيري آنها نيز بررسي خواهد شد. اميدواريم كه اين گزارش به بحثهاي انتقادي و راهگشا در زمينه روباتها، هوش مصنوعي و تكنولوژي چه 1 درحال حاضر و چه در آينده كمك كند. مقدمه تكنولوژيهاي جديد )در حوزه روباتها و هوش مصنوعي( كامالً چالشبرانگيزند. زيرا با عدم قطعيت و سرعت بيسابقه آميختهاند. فهم اينكه اين تكنولوژيها از كجا سرچشمه ميگيرند، چه چيزهايي را ميتوانند بهدست بياورند و از همه مهمتر چگونه طراحي شدهاند و چگونه مورد استفاده قرار ميگيرند، بسيار دشوار است. در مورد تكنولوژيهايي مانند روباتها و هوش مصنوعي، فهم چگونگي تأثيرگذاري آنها بر جوامع ما مخصوصاً در مسائل سياسي و اجتماعي نيازمند تعيين كردن دقيق جاهايي است كه اين پيشرفتهاي تكنولوژيكي در نظام )حقوقي و قانوني( تنظيمكننده آن قرار ميگيرند. مصوبات پارلمان اروپا درباره تنظيم و كنترل روباتها و هوش مصنوعي در زمان مناسبي به بحث و بررسي گذاشته شد، زيرا اين تكنولوژيها به رابطهاي كه ما با شغلها و زندگيمان داريم تأثير گذاشته و آن را شكل ميدهد. پارلمان اروپا در تالش براي ايجاد رويكردي اروپايي به هوش مصنوعي است بهطوري كه بتواند به تقويت اين اتحاديه انجاميده و اعتماد به ارزشهاي اروپايي را افزايش دهد. 1 . Aida Ponce Del Castillo, Alaw on Robatics and Artificial Intelligence in the EU? Foresight Brief, September 2017. 1 _____________________________________________________ اين نگاه كميسيون اتحاديه اروپا بر سرمايهگذاري در حوزه هوش مصنوعي براي سودرساني به اقتصاد و جامعه پيريزي شده است. سه اصلي كه رويكرد كميسيون اتحاديه اروپا به شعار »هوش مصنوعي براي اروپا« را شكل ميدهد بهاينترتيب است: الف( قرار گرفتن در رأس پيشرفتهاي تكنولوژيكي از طريق تشويق بخش خصوصي- دولتي به فهم اهميت بحث هوش مصنوعي، ب( آمادگي براي مواجهه با تغييرات اجتماعي-اقتصادي ايجاد شده توسط هوش مصنوعي، 1 ج( فراهم كردن چارچوبي اخالقي و قانوني براي هوش مصنوعي. داليل اهميت هوش مصنوعي ازنظر كميسيون اتحاديه اروپا بهمثابه باالترين مرجع قانونگذاري اين اتحاديه بهاينترتيب است: .1 بهبود زندگي مردم، .2 مديريت بهتر، .1 حملونقل سالمتر، .4 صنعتي رقابتيتر، .1 تشخيص سريعتر بيماريها، .6 كمك به ما در جنگ عليه جرايم سايبري، .7 كاهش استفاده از الكتريسيته، .8 كشف آلودگي و نشت نفت در درياها و اقيانوسها، 1. www.ec. Europa.eu/digital- single- market/en/news. ________________________________________ ش ه زژپو ك ي ر وراياسال م م جلسش م 4 اه .9 تصادفهاي ترافيكي كمتر، .11ريسك كمتر زخمي شدن بهدليل مسائل مربوط به كار، .11محصوالت هوشمندي كه دسترسي به آموزش را بهتر ميكند، 1 .12ماشينهاي هوشمندي كه تأثيرات زيستمحيطي را به حداقل ميرساند. البته فارغ از اينكه هوش مصنوعي در چه بخشهايي مورد استفاده قرار گيرد، پيامدهاي آن ميتواند سطوح مختلف از اجراي ساده وظايف گرفته تا تصميمگيريهاي سريع و پيچيده را مورد تأثير قرار دهد. درنتيجه هوش مصنوعي محركي براي تغييرات اجتماعي، شغلي و محيطي خواهد شد. درحال حاضر وضع حداقلي از قانونها براي مواجههاي شفاف در اين زمينه ضروري است. كميسيون اتحاديه اروپا با عطف توجه به اين ضرورت تالش گستردهاي را با كمك محققان و پژوهشگران در زمينه بحث هوش مصنوعي و قانونگذاري شروع كرده است. زمينهاي براي ابتكار عمل پارلمان و سياستگذاري در حوزه روباتها پارلمان اتحاديه اروپا، قدمهاي اوليه براي پيشنويس مربوط به تعريف چارچوبي قانوني كه شامل توصيههاي الزم مربوط به قانونهاي مدني درباره روباتها باشد را در »كميته امور مربوط به قانونگذاري« برداشته است. اين قدمها بيشتر از آنكه صرفاً ماهيتي حقوقي باشد، مجموعهاي از توصيهها به كميسيون اتحاديه اروپاست كه از بدنه اجرايي اين اتحاديه ميخواهد كه چارچوبي قانوني براي استفاده مردم از روباتها و هوش مصنوعي را تعريف كند. اين پارلمان 1. European Commission, Digital Single Market, 2017. 1 _____________________________________________________ بعد از بحث و بررسي فراوان، به پيشنويس آن در 16 فوريه 2117 رأي مثبت داد. اگرچه در متن پيشنويس مذكور بهوضوح اشاره نشده كه اين پيشنويس براساس نتايج پروژه 7EP قانون روباتهاست. عنوان مفصل آن )تنظيم و كنترل تكنولوژيهاي روباتيك در حل ظهور در اروپا: روباتها در مواجه با قانون و اخالق( ميباشد كه كميسيون اتحاديه اروپا در بين سالهاي 2112 تا 2114 مصوب كرده است. پيشفرضهاي اين پيشنويس عبارتند از: حقوق بشر در مورد حفظ حريم خصوصي، شفافيت حداكثري درباره سيستمهاي روباتيك و نياز به قابليت پيشبيني رفتار روباتها. پيشنويس قانون مذكور شامل تعريفي مشخص از روباتهاي هوشمند مستقل است كه وجود چارچوبي اخالقي براي طراحي، توليد و استفاده از روباتها را توصيه ميكند. هدف نهايي انقالب تكنولوژيكي درحال وقوع به شكلي است كه با اصول قانوني حاكم بر اتحاديه اروپا همخوان و سازگار باشد. تصويب اليحه مزبور قدم بزرگي در ايجاد راهحلي حقوقي براي تخريبهاي احتمالي انجام شده توسط روباتها در آينده است. دراينباره، بحث پرداخت بيمه ازسوي شركتها در برابر تخريبهاي احتمالي روباتها مطرح شده است. گفتني است درخصوص تصويب اليحه مزبور، پارلمان اتحاديه اروپا براي نخستين بار نيست كه قدمهايي براي مواجهه با تأثير تكنولوژي بر جامعه برميدارد. در گذشته نهچندان دور نيز پارلمان اتحاديه اروپا در سطح باال تالش كرده بود تا قوانين مربوط به ارائه چارچوبي حقوقي براي كنترل و تنظيم فعاليتهاي مربوط به نانوتكنولوژي را ارائه و تصويب كند. كميسيون اتحاديه اروپا دو بازه زماني مختلف را براي سرمايهگذاري در بحث هوش مصنوعي تعريف كرده است: ________________________________________ ش ه زژپو ك ي ر وراياسال م م جلسش م 6 اه الف( طي سالهاي 2118 تا 2121 كميسيون اتحاديه اروپا ميخواهد يك و نيم ميليارد يورو براي موارد زير سرمايهگذاري كند: .1 پژوهش و نوآوري در تكنولوژيهاي هوش مصنوعي براي تقويت رهبري اتحاديه اروپا؛ در اين زمينه حمايت از كاربرد هوش مصنوعي در مواجه با چالشهاي اجتماعي در حوزههاي سالمت، حملونقل و كشاورزي، .2 تقويت مراكز پژوهشي پيشرفته در حوزه هوش مصنوعي، .1 ارتقاي دسترسي به هوش مصنوعي در سراسر اتحاديه اروپا با تمركز بر نوآوري در سطوح كوچك و متوسط و مديريت عمومي. همچنين كميسيون اتحاديه اروپا در تالش براي سرمايهگذاري بيشتر بخش خصوصي در حوزه هوش مصنوعي زيرنظر )كمك هزينه پژوهش اروپا براي سرمايهگذاري استراتژيك( كه دربرگيرنده حداقل پانصد ميليون يورو سرمايهگذاري ميان سالهاي 2118 تا 2121 است. ب( بعد از سال 2121 كميسيون اتحاديه اروپا پيشنهادي را تحت عنوان »چارچوب مالي بعدي چندساله اتحاديه اروپا براي 2121 تا 2127 براي سرمايهگذاري در حوزههاي زير اعالم كرده است: .1 ارتقاي شبكهاي اروپايي براي مراكز پيشرفته تحقيقاتي در حوزه هوش مصنوعي، .2 پژوهش و نوآوري در حوزههايي مانند هوش مصنوعي قابل توضيح )براي افزايش شفافيت و به حداقل رساندن ريسك خطا يا سوگيري، هوش مصنوعي بايد طوري توسعه يابد كه به انسانها اجازه فهم رفتارهاي آنها را بدهد(، كارآمدي انرژي و ،… .1 حمايت از كاربرد هوش مصنوعي در سازمانهاي خصوصي و دولتي و انطباق يافتن آنها با هوش مصنوعي، 7 _____________________________________________________ .4 حمايت از مركزي مشترك براي به اشتراكگذاري دادهها براي تسهيل دسترسي 1 بخش عمومي و تجاري. چرا فهم »كنشگران مصنوعي« معنادارتر از روباتهاست ما معموالً با روباتها و ديگر سيستمهاي هوش مصنوعي در زندگي روزانهمان تعامل داريم. مرتباً بهطور سريع، تكنولوژيها با زندگي شخصي و حرفهاي ما آميخته ميشوند. مثالهاي بيشماري را ميتوان درباره چگونگي ورود تغييرآفرين هوش مصنوعي به بازار كار ذكر كرد. در بخش مالي الگوريتمهاي با سرعت باال تصميمات كليدي درباره خريد و فروش را ميگيرند. در حوزه روزنامهنگاري نيز الگوريتمها ميتوانند اخبار انتخاب شده را براي انتشار در رسانهها شناسايي كنند. در بخش امنيتي روباتها با ديگر سيستمهاي تكنولوژيكي 2 مانند اينترنت اشيا IoT و الگوريتمها تركيب ميشود. روباتهاي مهم، آنهايي هستند كه قابليت يادگيري عميق دارند: روباتهايي كه ميتوانند از محيطشان بياموزند، الگوها را شناسايي كرده و قابليت تغيير قالبهاي معمول حل يك مسئله را داشته باشند. همچنين تعامالت و كنش متقابل آنها با انسانها به شيوههاي گوناگون ميتواند بسط يابد و نقش مهمي در فرآيند تصميمگيري ايفا كند. به همين دليل كميسيون اتحاديه اروپا در تالش است تا چارچوبي اخالقي و قانوني را براي روباتها و ماشينهايي كه از هوش مصنوعي استفاده ميكنند، تعريف كند. 1. European Commission, Artificial Intelligence for Europe, Brussels, 2018,p:9-10. 2. Internet Of Things. ________________________________________ ش ه زژپو ك ي ر وراياسال م م جلسش م 8 اه كنشگران مصنوعي بهتر است بهجاي تعريف روباتها، كميسيون و مجامع قانونگذاري رويكرد وسيعتري را اتخاذكنند كه شامل الگوريتمها و هوش مصنوعي شود. همچنين در زمينه هوش مصنوعي و قانونگذاري الزم است كه به اهميت استفاده از واژگان صحيح در تصميمسازي و پيشنويسهاي قانونگذاري واقف بود. كلماتي كه در توصيف ماشينها بهكار برده ميشود بر سياستگذاري و قانونگذاري تأثير ميگذارد. ازآنجاييكه اين تكنولوژيها عميقاً با همه جنبههاي زندگي انساني آميخته شدهاند پس الزم است كه با احتياط جلو برويم. آيا ميتوان براي روباتها بهعنوان كنشگران مصنوعي قائل به شخصيت و مسئوليتپذيري شد؟ پارلمان اتحاديه اروپا بهعنوان باالترين مجمع قانونگذاري در اين اتحاديه، پيشنهاد ايجاد موقعيت خاصي براي روباتها بهعنوان »اشخاص الكترونيكي« را كرده است كه داراي يكسري حقوق و تعهدات خاص باشند. اين حقوق و تعهدات را ميتوان براساس پيشنهاد پارلمان اتحاديه اروپا در مواردي كه روباتها تصميم ميگيرند يا با طرف سوم وارد كنش متقابل ميشوند اجرايي كرد كه حداقل تاكنون در سيستم حقوقي و قانوني اروپا ناشناخته است. اين واقعيت كه تعدادي از روباتها، كاركردهايي مانند مديريت عملياتها، قبول يكسري وظايف، حل مسائل پيچيده و تصميمگيري را برعهده گرفتهاند، موجب ايجاد سؤالهايي در حوزه قانونگذاري ميشود. مطابق با پيشنهاد پارلمان، اطالق ويژگي 9 _____________________________________________________ )شخصيت الكترونيكي( به روباتهايي كه از هوش مصنوعي استفاده ميكنند ميتواند مشكالت حقوقي ذكر شده را تاحدودي حل كند، اگرچه مطابق با نظريههاي قانوني رايج، اطالق شخصيت حقوقي به كنشگران مصنوعي بسيار پيچيده و دشوار است. بههرحال بهرغم مشكالت، اتحاديه اروپا كوشيده است تا چارچوبي اخالقي را براي روباتها و ماشينهايي كه از هوش مصنوعي استفاده ميكنند تعريف كند. اين چارچوب اگر چه كامل نبوده و در آغاز راه است، اما قدم مهمي در سراسر جهان براي تعريف حدود و ثغور اخالقي بحث »هوش مصنوعي و قانونگذاري« حساب ميشود. اگرچه ميتوان ادعا كرد كه هنوز وحدت رويهاي در ميان اتحاديه اروپا براي تعريف حدود و ثغور اخالقي هوش مصنوعي پديدار نشده و نهادها و بخشهاي مختلف اين اتحاديه در كنار رهبران اروپايي مواردي را دراينباره بيان كردهاند، اما درمجموع ميتوان مواردي را ذكر كرد كه رهبران و نهادهاي اتحاديه اروپا به آن توجه داشتهاند: .1 استفاده از هوش مصنوعي نبايد آزاديهاي فردي را تهديد كند. .2 هوش مصنوعي بايد به ارزشهاي بنيادين اتحاديه اروپا مانند شفافيت و مسئوليتپذيري احترام بگذارد. .1 گشودگي نسبت به جامعه. .4 هوش مصنوعي بايد در راستاي منافع و عاليق عامه مردم باشد. .1 در هر حالت هوش مصنوعي نبايد بر زندگي انسانها تسلط داشته باشد و اين انسان است كه هوش مصنوعي را تحت كنترل خود داشته باشد. .6 دسترسي همگان به مزاياي هوش مصنوعي. .7 بهروزرساني قوانين در زمينه هوش مصنوعي به شكلي كه بتوان با مسائل و ________________________________________ ش ه زژپو ك ي ر وراياسال م م جلسش م 01 اه چالشهاي محتمل در آينده مواجه شد. .8 شروع تمركز بر مفهومي با عنوان توسعه و كاربرد هوش مصنوعي اخالقي. .9 آموزش مناسب شهروندان و كارگزاران براي استفاده بهينه از محصوالت و خدمات هوش مصنوعي. اما داللتهاي اين رويكرد اخالقي در برابر روباتها چه ميتواند باشد؟ شخصيت حقوقي به معناي داشتن حقوق و وظايف و قابليت انجام رفتارهاي مدني و مسئوليتپذيري در برابر آنهاست )اين مسئوليتپذيري، اعمال جنايي را نيز دربرميگيرد(. فرض بر آن است كه شخص حقوقي قادر به بيان ارزشهاي اخالقي بوده و ازنظر سياسي فعال است. وقتي كه به روباتها يا هر كنشگري كه از هوش مصنوعي استفاده ميكند، شخصيت حقوقي اعطا ميكنيم، آنها خودبهخود به سوژه )در برابر ابژه يا اشيا( بدل ميشوند و وارد جهان اشخاص حقوقي ميشوند. پس ضرورتاً بايد درباره ماهيت اين حقوق و وظايف و توانايي كنشگران مصنوعي مستقل بيشتر بحث و بررسي كرد. انسان با ورود به سن بلوغ واجد يكسري حقوق مانند حق رأي دادن، ازدواج و سربازي ميشود. الزمه انجام اين حقوق و يا وظايف براي روباتها وجود استقالل و توانايي انجام امور خويش و كنترل بر خود است كه براي كنشگران مصنوعي مستقل بهمعناي توانايي انجام كار بدون دخالت انساني است. از اينجاست كه سؤاالت متعددي درخصوص اليحه قانون اتحاديه اروپا پديدار ميشود: دقيقاً چه ميزان استقالل را ميتوان براي كنشگران مصنوعي كه از هوش مصنوعي استفاده ميكنند قائل شد؟ آيا آنها ميدانند مسئوليتپذير و درنتيجه قابل اعتماد بايد باشند؟ اگر جواب بلي است، پس بايد مسئوليتپذيري اخالقي 11 ____________________________________________________ را پذيرفته و با پسامدهاي اقتصادي ريسكها و يا تصادفات روبهرو شوند. بديهي است كه مسئله مسئوليتپذيري بسيار دشوار بوده و اعطاي »شخصيت« به كنشگران هوش مصنوعي نيازمند انقالبي در تفكر حقوقي است. در صورت رسيدن به اين مرحله، بازيگر جديدي به نام روباتها به چارچوب حقوقي موجودي كه تاكنون فقط بازيگران آن انسانها بودند، پاي نهاده است. انگيزههاي پارلمان اتحاديه اروپا براي وضع قوانين جديد در مورد تكنولوژيهاي پيچيدهاي كه پيامدهاي آن روشن نيست، ريسكهاي بالقوه آن نيز به همان اندازه نامشخص است. روباتها و هوش مصنوعي ميتوانند جايگزين انسانها شده و شغلها را دگرگون كنند، اما سؤال اين است كه به چه هزينهاي؟ بعضي از دانشمندان نگران 1 پتانسيل سوءاستفاده از اين مسئله بوده و نابودي انسان را پيشبيني ميكنند. درحاليكه افراد ديگري هستند كه خوشبينتر بوده و معتقدند كه نگرانهاي دراينباره ناموجه است زيرا 2 ماشينها موجودات ناآگاهي هستند كه قابليت فكر كردن و دانستن را ندارند. در تمامي موارد هدف تنظيمات قانوني جديد، محدود كردن سوءاستفاده با استفاده ابلهانه از قدرت است تا امكان به حداقل رساندن ريسكها و تأثيرات منفي تكنولوژيهاي جديد فراهم شود. دراينباره، طراحي سناريوهاي مختلف براي مواجه با ريسكهاي احتمالي و آمادهسازي براي مواجهه با آنها ضروري است. چنين نگاهي در برابر هوش مصنوعي نيز صحيح بوده و بيانگر آن است كه چرا چارچوب قانوني مناسب اكنون و در آينده الزم است؟ 1 . Hern, 2016. 2. Floridi,2016 . ________________________________________ ش ه زژپو ك ي ر وراياسال م م جلسش م 02 اه وضع قوانين الزم درباره روباتها و هوش مصنوعي ميتواند به ارتقاي رفتارهاي اخالقي كمك كرده و ارزشهاي خاص همراه با راهنماييهاي الزم براي افراد متخصص را بهدنبال داشته باشد. وضع قوانين راهنما درباره روباتها و هوش مصنوعي صرفاً بهدليل ترس از اينكه در آينده ممكن است قدرت تصميمگيري فراتر از انسان بيابند، صحيح نيست، بلكه هدف از وضع قوانين در اين مورد بايد تعامل بهتر ميان سازندگان با استفادهكنندگان آنها باشد كه قطعاً داراي روابط پيچيده و متقابلي با همديگر ميباشند. به همين منظور در 11 آوريل ،2117 21 عضو اتحاديه اروپا دور هم جمع شده و اعالميه »همكاري در زمينه هوش مصنوعي« را امضا كردند كه تحولي بسيار مهم در اروپا بود. اگرچه بعضي از اين كشورها عاليق خاص خودشان درباره هوش مصنوعي و چارچوبهاي اخالقي و قانوني آن را دارا بودند، اما تمايل زيادي براي پيوستن به رويكردي مشترك تحت نظارت اتحاديه اروپا براي مواجه با هوش مصنوعي نشان دادند، زيرا ازنظر آنها با كار تيمي و مشترك ميتوان فرصتهاي متعدد هوش مصنوعي براي كشورهاي اروپايي را تضمين كرده و با چالشهاي آن بهطور جمعي مواجه شد. اين اعالميه شامل كار دستهجمعي درباره مهمترين مسائل پديدار شده توسط هوش مصنوعي از رقابتپذيري در حوزه پژوهش و كاربرد هوش مصنوعي گرفته تا مواجه با پرسشهاي قانوني، اخالقي، اقتصادي و اجتماعي ميشود. پيدايش هوش مصنوعي چالشهايي را بهوجود آورده كه ازنظر كشورهاي اروپايي نيازمند مواجهه و مديريت است. در اين اعالميه بر رويكردي آيندهنگارانه براي مواجه با دگرگونيهاي عميق در بازار كار بهدليل رواج استفاده از هوش مصنوعي تأكيد شده است. همچين بر ضرورت مدرنيزه كردن سيستم آموزش اروپا انگشت نهاده شده است. توجه به پرسشهاي اخالقي و قانوني جديد درخصوص هوش مصنوعي در اين اعالميه گنجانده شده 11 ____________________________________________________ است. ازنظر امضاكنندگان اين اعالميه، محيط مبتنيبر اعتماد و مسئوليتپذيري پيرامون 1 استفاده و توسعه هوش مصنوعي براي استفاده كامل از فرضهاي آن ضروري است. پس كنشگران مصنوعي و انسانها بايد بتوانند همزيستي مسالمتآميزي را با يكديگر تعريف كنند به شرط آنكه كنشگران هوش مصنوعي در خدمت انسانها بوده و به ارزشهاي انساني و قوانين جامعه مردمساالر احترام بگذارند. چنين هدفي غايت بلندمدت اتحاديه اروپا بوده و كميسيون اروپا مسئول قانونگذاري دراينباره است. نتيجهگيري بررسي جنبههاي حقوقي و اخالقي روباتها و هوش مصنوعي، اخيراً شروع شده و گروههاي مختلف درحال مشاركت در بحثهاي ايجابي يا سلبي آن هستند. اين گزارش كوشيد تا مسائل بنيادي مربوط به مشكالت احتمالي در تعريف روباتها و هوش مصنوعي ازيكطرف و نگرانيهاي مربوط به اعطاي »شخصيت الكترونيك« به روباتها و ماشينهايي كه ازهوش مصنوعي استفاده ميكنند را ازطرفديگر مورد بحث و بررسي قرار دهد. همچنين مزايا و چالشهاي اخالقي و قانوني هوش مصنوعي ازنظر نهادهاي اتحاديه اروپا باالخص كميسيون آن مورد بررسي قرار گرفت. اما تأكيد بر اين است كه قبل از بحث درباره مسائل قانونياي مانند بيمه روباتها، راههاي سازماندهي روباتها در كشورهاي اروپايي و … بايد به پرسشهاي كليدي ناظر بر مسئوليتپذيري روباتها و ماشينهايي كه از هوش مصنوعي استفاده ميكنند پرداخت. ميل به تعويق انداختن مسئوليتپذيري براي سيستمهاي هوش 1. www.ec. Europa.eu/policies, information and sevvice. ________________________________________ ش ه زژپو ك ي ر وراياسال م م جلسش م 04 اه مصنوعي به مسئلهاي جدي در آينده براي جامعه و نظام حقوقي ما در سطح جهان بدل 1 به همين دليل با نگاهي به ضرورت تنظيمات و مصوبات قانوني براي روبات ميشود. ها و هوش مصنوعي در اين گزارش جنبههاي كليدياي كه قبل از ورود به بحث قانون و هوش مصنوعي شايان توجه است مورد بحث و بررسي قرار گرفتند. قوانين بايد بهطور واضح ابهاماتي كه درباره سازندگان، طراحان، تحليلگران داده و همه دستاندركاران كنشگراني كه از هوش مصنوعي استفاده ميكنند را مشخص كند. تضمين مسئوليتها و سهم هركدام از سازندگان و صاحبان ماشينهايي كه از هوش مصنوعي استفاده ميكنند، قدم نخست بهسوي مديريت و كنترل اتوماسيون »خودحركتي« و هوش مصنوعي است. بهعبارتديگر بايد دقيقاً در بحث قانون و هوش مصنوعي مشخص شود كه چه كسي و تا كجا مسئول ماشينهايي است كه از هوش مصنوعي استفاده ميكنند. بهمنظور رسيدن به چنين هدفي الزم است كه همه كساني كه با هوش مصنوعي و استفاده از آن سروكار دارند شناسايي شوند مانند: كارگران، كارمندان، مصرفكنندگان، بيماران و … هوش مصنوعي درحال ايجاد فضاي بزرگ جديدي است كه ماالمال از ماشينها و داده است كه ميرود محيط زندگي ما و سياستهاي آن را دگرگون كند. قوانين كامالً جديدي در پاسخ به اين جهان جديدي كه درحال متولد شدن است الزم ميباشد. 1. Bvoersen:2014. 11 ____________________________________________________ منابع و مآخذ 1. Aida Ponce Del Castillo, Alaw on Robatics and Artificial Intelligence in the EU? Foresight Brief, September 2017. 2. Hern A. The Guardian/ The Guardian. Com. 19 october 2016. 3. Floridi L. Should we be afraid of AI? www. aeon. Com/ essay. 2016. 4. www.ec. Europa.eu. 5. broersen j. responsible intelligent systems, the reins project,2014. شناسنامه گزارش شماره مسلسل: 36363 عنوان گزارش: هوش مصنوعي و قانونگذاري )7( )قانونگذاري و هوش مصنوعي در اتحاديه اروپا( ضرورتها و چشماندازهاي اخالقي و حقوقي نام دفتر: مطالعات بنيادين حكومتي )گروه بنيادين حكومتي( تهيه و تدوين: خالد شيخاالسالمي ناظر علمي: سيديونس ادياني ويراستار تخصصي: ـــــ ويراستار ادبي: ـــــ واژههاي كليدي: .1 هوش مصنوعي .2 انسان محوري .1 استانداردهاي اخالقي و حقوقي .4 اتحاديه اروپا .1 عدالت .6 مسئوليتپذيري .7روبات .8 پارلمان .9 قانون تاريخ انتشار: 3337/6/52