If AI has a goal and humanity just happens to be in the way, it will destroy humanity as a matter of course without even thinking about it. No hard feelings, It’s just like, if we’re building a road and an anthill just happens to be in the way, we don’t hate ants, we’re just building a road, and so, goodbye anthill.
Elon Musk
اگر هوش مصنوعی هدفی داشت و بشر به نحوی سر راهش بود، در راه هدف خودش بشریت را نابود می‌کند بدون اینکه حتی به آن فکر کند. سوء تفاهم نشود، فقط مثل این می‌ماند که مثلا ما انسان‌های می‌خواهیم راهی بسازیم و لانه‌ی مورچه‌ای هم به نحوی سر راه است، ما از مورچه‌ها متنفر نیستیم، فقط داریم راه می‌سازیم. پس بنابراین خداحافظ لانه‌ی مورچه‌ها.
ایلان ماسک
Really? No hard feelings Mr Musk?
سوء تفاهم نشود؟ واقعا آقای ماسک؟
حساب نکردن بدتر از تنفر
راه‌سازی انسان‌ها لانه‌ی مورچه‌ها را خراب می‌کند. چون ما انسان‌ها اصلا مورچه‌ها را حساب نمی‌کنیم. این حتی به نوعی یک مرحله از تنفر هم بالاتر است. انسان کسی که متنفر است را حداقل حساب و برایش وقعی می‌نهد. اما در مورد مورچه‌ها آن‌ها اصلا تا جایی که مشکلی برای ما نسازند اهمیتی ندارند و به حساب نمی‌آیند.
در مورد مورچه‌ها و به طور کلی حشرات چون به نظر می‌توان برای آن‌ها حق حیات را به طور کامل در نظر نگرفت و درد و رنجی هم احساس نمی‌کنند. خراب کردن لانه به خاطر راه مشکلی نباشد. هر چند باز هم به نظر من اگر لانه در هنگام ساخت و ساز مشخص است شاید جابجا کردن آن بهتر باشد. اما در مورد تمام حیوانات و موجودات به نظرم این درست نیست.
از زاویه حق حیات و حقوق مانند آن من اینجا به قضیه نگاه نمی‌کنم. چون نمی‌دانم برای یک موجود در چه شرایطی می‌توان حق حیات در نظر گرفت. در این نوشته می‌خواهم از زاویه درد و رنج نگاه کنم.
به حساب آوردن درد و رنج موجودات
به نظرم در کل باید درد و رنج تمامی موجودات را به حساب آورد و تا جای امکان نباید به موجوداتی که درد و رنج را حس می‌کنند، درد و رنج وارد کرد. این شامل حیوانات به عنوان زیرمجموعه‌ای از موجودات هم می‌شود.
در حالت خیلی شدید به نظرم نباید حیوانی که می‌دانیم از انسان می‌ترسد را صرفا همینطوری ترساند. یا لانه‌اش را صرف کنجکاوی تخریب کرد. در حالت‌های با شدت کمتر موقع ساخت و ساز و هر کاری که اکوسیستم حیوانات را تحت تأثیر قرار می‌دهد. باید رنج وارد شده به آن‌ها را به حساب آورده و با توجه به نتایج سبک سنگین کرد. اگر امکانش هست از درد و رنج وارد شده کم کرد.
بالاخره اعمال انسان حتی آن‌هایی که به قصد وارد کردن درد و رنج نیستند (مانند جنگ و دزدی و …) درد و رنج‌هایی به عنوان نتایج جانبی به دیگر موجودات از جمله انسان‌های دیگر وارد می‌کند. مثلا با ساخت برخی خیابان‌ها به ساکنان آن محل یا کسانی که خانه‌شان در مسیر خیابان قرار دارد درد و رنج وارد می‌کند. اما درد و رنج آن‌ها در نظر گرفته شده و تلاش می‌شود که از آن کم شود.
در مورد دیگر موجودات هم همین است. اینکه مثلا بگوییم به چوب نیاز داریم و بنابراین درخت‌ها را قطعی می‌کنیم. از قضا پرنده‌ها روی این درخت‌ها لانه کرده‌اند و جوجه‌ها و خانه‌شان از بین می‌رود. بعد بگوییم سوء تفاهم نشود ما فقط چوب لازم داشتیم. پرنده‌ها هم فقط آنجا بودند به نظرم به لحاظ اخلاقی درست نیست. مگر اینکه توجه کرده باشیم تا جای امکان درختانی را قطع کنیم که پرندگان در آن لانه نکرده باشند. یا اگر امکانش باشد در فصلی که پرندگان لانه نکرده‌اند درختان را قطع کنیم.
خوش‌خیالی
شاید با شرایط و کمبودهای حال حاضر انسان‌ها خوش‌خیالی به نظر برسد. اما به نظر من حتی صرف توجه داشتن هم مهم است. به علاوه اینکه برای من درستی گزاره‌هایی مانند «تا وقتی انسان‌ها در درد و رنج هستند، درد و رنج دیگر موجودات اهمیتی ندارد» روشن نیست. اول اینکه کلا همواره موقعیت اینگونه نیست که یا باید به آن اهمیت داد یا این، حداقل به این شدت نیست. دوم، به نظر من اینکه من درد و رنجی وارد نکنم یا در وارد کردنش مشارکت نداشته باشم شاید اولویت داشته باشد بر از بین بردن درد و رنجی که توسط من وارد نشده. در واقع اگر بخواهم در نگاه اول اولویت‌بندی کنم اینطور خواهد بود:
- جبران درد و رنجی که وارد کردم یا در آن مشارکت داشتم
- درد و رنجی وارد نکنم یا در وارد کردن مشارکت نکنم
- از بین بردن درد و رنجی که شامل ۱ و ۲ نباشد
در حال حاضر به نظرم دو مورد اول حتما باید اخلاقی هستند اما مورد سوم نه (حداقل به طور کلی).
انسان در مقابل قدرت‌های برتر
اگر هنوز به نظرتان درد و رنج دیگر موجودات موضوع اخلاقی نیستند. از تخیل که به نظرم یکی از کلیدهای درک حقایق اخلاقی است کمک می‌گیرم. فرض کنیم با موجودات دیگری مواجه شدیم یا سر راهشان قرار گرفتیم که قدرتشان به حدی بیشتر از ما بود که آسیبی که به آن‌ها می‌توانیم وارد کنیم قابل توجه نباشد. حالا آن‌ها زمین ما را برای تأمین انرژی و نوعی سوزاندن لازم دارند که انسان‌ها طی این سوزاندن از بین خواهند رفت. ما چه استدلالی برای جلوگیری از این تصمیم یا تعدیل آن می‌توانیم بیاوریم؟ اگر موجوداتی باشند که اخلاق برای آن موضوعیت پیدا کند. من چیزی جز ارجاع به حق حیات برای انسان‌ها و وارد نکردن درد و رنج تا جای امکان پیدا نمی‌کنم.
در کل منظور من این نیست که این‌ها در مقابل موجودات ضعیف‌تر از خودمان رعایت کنیم تا موجودات قوی‌تر از ما در برابر ما هم رعایت کنند. منظورم این است که با تصور این شرایط اینکه وارد نکردن درد و رنج تا جای ممکن یک باید اخلاقی است واضح‌تر می‌شود و همچنین اینکه قید آن در مورد تمام موجودات با قابلیت درد و رنج است نه فقط انسان.
هوش مصنوعی
منظورم از موضوعیت اخلاق این است که قابلیت درک حقایق اخلاقی را داشته باشند. ممکن است گیر موجودی بیفتیم که قابلیت درک اخلاق را نداشته باشد. مثلا یک حشره غول‌پیکر که حتی درد و رنج هم نمی‌فهمد.
هوش مصنوعی هم اگر اخلاق برای آن موضوعیت پیدا کند. نباید همینجوری بدون فکر بشر را نابود کند. اگر هم اخلاق برایش موضوعیت نداشته باشد که من فکر نکنم به راحتی بتوان به آن گفت هوش مصنوعی در حد یا بالاتر از انسان. حالا از قضا زورش خیلی بیشتر از انسان‌ها شده. الزامی نیست که حتما موجوداتی یا چیزی باهوش‌تر ما را نابود یا اذیت کنند. نابود کردن نیاز به قدرت دارد و هوشمندی هم فقط یکی از عوامل قدرت‌بخشی است.