اخلاق فناوری اطلاعات

بحث در رابطه با نحوه تصمیم گیری روبات ها

در این پست می خوام یک مقایسه اجمالی از نحوه تصمیم گیری یک انسان در مقابل نحوه تصمیم گیری یک روبات هنگام مواجه با موضوعی خاص رو بحث کنم.

تصمیم گرفته شده توسط یک انسان نتیجه تفکرات و استدلال ها و دلایل روحی و روانی و عاطفی فرد در موقعیت مورد نظر است. برآیند به دست آمده از این عوامل سبب اخذ تصمیمی از طرف انسان می شود که خواه درست و منطقی است و خواه نادرست و غیر منطقی. علاوه بر این بهره گیری از تجربیات دیگران (مثلاً نظریات اخلاقی مطرح شده برای اخذ بهترین تصمیم) نیز در شرایط و و موقعت های پیچیده به منظور تصمیم گیری به کمک انسان خواهند آمد.

اما در مورد یک روبات

روبات توسط انسان برنامه ریزی می شود تا قادر به اخذ تصمیم باشد. قبلا طی یکی از نظراتم قوانین سه گانه ایزاک آسیموف را به منظور مدیرت برنامه ریزی رباتها بیان کردم. حال با توجه به این قوانین به این دو مثال توجه کنید:

1) روباتی را در نظر بگیرید که در شرایطی قرار گرفته است که باید جان یک انسان را نجات دهد مادامی که برای انجام این کار باید از خودش مراقبت کند.

2) خودروی بدون راننده ای را در نظر بگیرید که در شرایطی قرار گرفته است که یا باید برای حفظ جان سرنشین خود به مسیر خود ادامه دهد و 3 نفر دیگر را زیر بگیرد و یا با منحرف شدن از جاده موجب مرگ سرنشین خود شود.

نا گفته پیداست که نمی توان با استفاده از گزاره های "اگر....آنگاه....در غیر این صورت...." تمام شرایط و اتفاقات ممکن را برای یک روبات برنامه ریزی کرد. حال آنکه به دلیل پیچیدگی برخی شرایط ممکن است تناقضاتی هم در قوانین و گزاره ها پیش بیاید.

پس برای اینکه یک روبات بتواند یک تصمیم اخلاقی بگیرد، نمی توان با تجهیز کردن آن به قوانین از پیش تعیین شده به آن کمک کرد.

تنها راهی که برای حل این چالش به نظر می رسد این است که روبات هم از مغری متفکر شبیه به مغز انسان بهره ببرد.

مغزی که بتواند یاد بگیرد و برای اخذ تصمیم کلیه شرایط را بسنجد.

برای روشن تر شدن موضوع به این سناریو توجه کنید:

خودروی شما در یک جاده بیابانی بنزین تمام کرده است و شما پس از طی مسافتی طولانی به صورت پیاده بنزین تهیه کرده اید. در مسیر بازگشت با خودروی دیگری مواجه می شوید که در حالی بنزین تمام کرده که حامل یک بیمار اورژانسی است. تصمیم شما در مواجه با این صحنه چه خواهد بود؟

یک روبات هم باید بتواند دقیقاً مثل شما تصمیم بگیرد!

برای پی بردن به اینکه بشر تا چه جایی توانسته است به این مهم دست پیدا کند، پیشنهاد می کنم لینک های زیر رو مشاهده فرمایید.

Eugene_Goostman

princetonai

سعید خجسته سه‌شنبه 27 خرداد 1393 ساعت 23:58

نظرات 1 + ارسال نظر

حامد سلیمانی جمعه 6 تیر 1393 ساعت 20:08 http://itethics.blogsky.com/author/7124745692

فکر میکنم اینکه به زمانی برسیم که واقعا رباتها بتوانند در شرایط خاص اخلاقی ترین تصمیم را بگیرند و یا بطورکلی به گونه ای عمل کنند که امکان داشت یک انسان هم همان عمل را انجام دهد،بسیار بسیار بعید است.
درواقع روی سخنم برمیگردد به جریان هوش مصنوعی ضیعف و قوی.
نظر شخصی خودم اینه که امکان تحقق هوش مصنوعی قوی غیرممکن است.دلیل این ادعایم علاوه بر مسایل فنی، قدرت خالق همه ی ما است!
اگر بشر روزی به قدرتی برسد که واقعا یک ربات تمام عیار بسازد(کاملا دارای هوش و خردمندی انسانی) ، به نوعی میتواند ادعای یک خالق توانا را داشته باشد... حال آنکه با توجه به ضعف وجودی انسان این به نظرم غیرممکن است.
بنابراین حداکثر توانایی یک ربات این خواهد بود که نهایتا رفتارهای انسانی را تقلید کند نه اینکه خودش براساس دانش خودش استدلال و استنتاج کند...