5

 

جورج ده گفت: "فیلم­هایی که من تماشا کردم کاملاً مطابق با چیزهایی بودن که دیدم. آیا اونهایی که من برات انتخاب کردم رو دیدی، نُه"؟

جورج نه گفت: "بله". هر دو روبات به خشکی نشسته بودند. رو در رو، زانو به زانو، درست مثل تصویری در آینه. دکتر هاریمن می­توانست با یک نگاه آنها را از هم تشخیص دهد، زیرا او با تفاوت­های جزئی طراحی ظاهری آنها آشنایی داشت. اگر متوجه آن تفاوت­ها نمی­شد، اما می­توانست با آنها صحبت کند، باز هم می­توانست آنها را تشخیص دهد، اگر چه به نوعی، با اطمینان کمتری این کار را می­کرد. زیرا به این دلیل که بافت شیارهای مغزی جورج ده از ظرافت بیشتری برخوردار بود، پاسخ­های جورج نه به میزان اندکی با پاسخ­های جورج ده تفاوت داشت.

جورج ده گفت: "در این مورد می­خوام واکنش تو رو در مورد چیزی که میگم بدونم. اول اینکه انسان­ها از روبات­ها می­ترسن و بهشون اعتماد ندارن، چون اونها رو به چشم رقیب می­بینن. چطور میشه از این موضوع جلوگیری کرد"؟

جورج نه گفت: "این حس رقابت رو با تغییر شکل روبات به شکلی متفاوت از شکل انسان کاهش بدیم".

-: "اما سرشت روباتی، همانند سازی پوزیترونیک زندگیه. همانند سازی زندگی به شکلی که همخوانی­ای با زندگی نداره، ممکنه باعث افزایش وحشت بشه".

-: "دو میلیون گونه و شکل مختلف زندگی وجود داره. یکی از اونها رو انتخاب کنین که نسبتاً به انسان شبیه باشه".

-: "کدوم یکی از اون همه گونه­های موجودات زنده"؟

فرایند تفکر بی­صدای جورج نه در حدود سه ثانیه به طول انجامید و گفت: "یکی که به اندازۀ کافی بزرگ باشه که بشه مغز پویترونیک رو توش قرار داد، اما همخوانی ناخوشایندی با انسان­ها نداشته باشه".

-: "هیچ موجود زندۀ خشکی­زی­ای نیست که جمجمش برای جا دادن مغز پوزیترونیک به اندازۀ کافی بزرگ باشه، بجز فیل، که البته من تا به حال ندیدمش، اما به عنوان موجود بزرگی توضیف شده که باعث ترس انسان­ها میشه. با این تنگنا چطور برخورد می­کنی"؟

-: "از شکلی به اندازۀ انسان تقلید کنیم، اما جمجمش رو بزرگ کنیم".

جورج ده گفت: "پس در این صورت، یه اسب کوچیک، یا یه سگ بزرگ، منظورت این بود؟ هم سگ و هم اسب تاریخ همکاری طولانی ای با انسان داشتن"

 -: "پس همین خوبه".

-: "اما این رو در نظر بگیر، یه روبات با یه مغز پوزیترونیک باید هوش انسانی رو تقلید کنه. اگه برای این منظور یه سگ یا یه اسب رو در نظر بگیریم که مثل انسان دلیل میاره، در این صورت هم رقابت به وجود میاد. انسان­ها ممکنه به خاطر رقابت ناخواسته با شکلی از حیات که از خودشون پست­تر می­دونن، دچار عصبانیت و عدم اعتماد بشن".

جورج نه گفت: "مغز پوزیترونیک رو با پیچیدگی کمتری بسازیم و روبات رو کمی کمتر هوشمند کنیم".

-: "تنگنای پیچیدگی مغز پوزیترونیک بر اساس قوانین سه گانه قرار گرفته. مغزی که پیچدگی کمتری داره، نمی­تونه شامل یه قانون با حداکثر اندازه باشه".

جورج نه بلافاصله گفت: چنین چیزی نباید انجام بشه".

جورج ده گفت: "من هم در اینجا به بن­بست رسیدم. این یه ویژگی شخصی در خط فکری من و روش فکری من نیست. بیا از اول شروع کنیم... تحت چه شرایطی ممکنه که به قانون سوم نیازی نباشه"؟

جورج نه طوری خودش را سفت گرفته بود که گویی با پرسش دشوار و خطرناکی روبرو بود. اما گفت: "اگه یه روبات در موقعیت قرار بگیره که هیچ خطری براش وجود نداشته باشه، یا اگه جایگزینی یه روبات اونقدر آسون باشه که نابود شدن یا نشدنش اهمیتی نداشته باشه".

جورج ده گفت: "و تحت چه شرایطی ممکنه که به قانون دوم نیازی نباشه"؟

به نظر می­رسید که صدای جورج نه کمی خشدار شده است. او گفت: "اگه یه روبات طوری طراحی بشه که به انگیزه­های کاملاً اطمینان بخش با پاسخ­های مشخصی که بجز اون انتظار چیز دیگه­ای نره، به صورت ناخودآگاه پاسخ بده، در این صورت اصلاً حتی نیازی نیست که بهش دستوری داده بشه".

-: "و تحت چه شرایطی" جورج ده در اینجا مکثی کرد- "ممکنه که به قانون اول نیازی نباشه"؟

جورج نه مکث طولانی­تری کرد و صدایش آنقدر پایین آمد که به حد یک زمزمه رسید و گفت: "در صورتی که پاسخ­های مشخص به گونه­ای باشه که هرگز به انسان آسیب نرسونه".

-: "پس، مغز روباتیکی رو تصور کن که فقط می­تونه پاسخ­های اندکی به انگیزه­های کاملاً مشخص بده و بشه به آسونی و خیلی ارزون اون رو ساخت، به طوری که نیازی به قوانین سه گانه نداشته باشه. به نظرت لازمه که به چه اندازه باشه"؟

-: "به هیچ وجه بزرگ نیست. بر اساس پاسخ­های خواسته شده، می­تونه صد گرم، یا یک گرم، یا یک میلی­گرم باشه".

-: "افکارت با افکار من همخونی داره. من میرم که دکتر هاریمن رو ببینم".

 

5 الف

جوج نه در تنهایی نشسته بود.

او بارها و بارها، پرسش­ها و پاسخ­ها رو مرور کرد. هیچ راهی برای تغییر دادن هیچ کدام از آنها وجود نداشت. با این وجود، فکر کردن به یک روبات، از هر نوع، به هر اندازه، به هر شکل، و به هر هدف که ساخته شده باشد، بدون وجود سه قانون، حسی عجیب از پوچی به او می­داد.

 او متوجه شد که حرکت کردن مشکل است. مطمئناً جورج ده هم واکنش مشابهی داشت. با این حال به آسانی از روی صندلی­ اش برخواست.

ادامه دارد...