مهربد گرامی، من در مورد خطرات پیش رو با شما مخالفتی ندارم، اما بدبینی شما نسبت به پشیتازان فناوری و نهادهای تصمیم گیرنده را درک نمی کنم. تکینگی، مهم ترین دستاورد بشر، یا شاید مهمترین دستاورد ماده در کائنات باشد، از همین رو بحثهای مربوط به عواقب و ریسکهای آن، از دستکم یک دهه پیش از دستیابی به آن، بالا خواهد گرفت. بنابراین در هنگام دستیابی به چنان پتانسیلی، خطرات آن به طور گسترده شناخته شده است، و گمان نمی کنم آنهایی که برای اولین بار به چنین پدیده ای دستیافته اند، آنقدر کله شق باشند که بدون یافتن راه حل قطعی برای کنترل آن، استارتش را بزنند.
اینکه چگونه میتوان هوش برتر را (بطور گارانتی شده) کنترل کرد، بیشتر به یک مسئله ریاضیاتی می ماند، اما به گمان من شدنی است. ریاضیدان نابغه ای را در نظر بگیرید، که در یک سلول با دیوارهای آهنی زندانی شده است. هرچقدر هم که او نابغه باشد، نخواهد توانست فرار کند، چون ابزار ندارد. یا بطور مشابه، فرض کنید یک ابررایانه دارد شما را در شطرنج شکست می دهد، شما به سادگی میتوانید با چکش بزنید ناکارش کنید! کوتاه سخن اینکه، هوش برتر الزاما به معنای توانایی بیشتر نیست. برای کارهای کارگری، ما نیاز به روباتهای خیلی باهوش نداریم، اما برای تئوری پردازی، اختراع ها و پیشبرد تکنولوژی، نیاز به هوش بالاتر هست، که می توان آن را ناتوان ساخت، بدون دست و پا/ابزار.
درمورد مهندسی ژنتیک، من متوجه نشدم که چگونه میخواهد فراگیر شود، بدون فراگیر شدن تکینگی. اما آنهم بمانند مورد قبلی، مستلزم حماقت گسترده از سوی تکنولوژیستها خواهد بود.
پاسخ با گفتآورد