گفت‌آورد نوشته اصلی از سوی Nilftrondheim نمایش پست ها
برای رسیدن به قطار فکری که مطرح کردید اصلا هوش مصنوعی لازم نیست، هر عقل سلیمی میتواند به نتیجه ای مشابه برسد. البته با اخته کردن اکثر انسان ها، نه هولوکاست. ناگهان دیگر ترسناک نیست، هست؟


ماشین ساخت دست بشر میتواند خود اصلاح گر باشد و به مدد فیدبک مثبت (Bootstrapping) به درجه ای از توانایی برسد که قابل تصور نیست. با این وجود، قبلا هم گفته ام که بشری که بتواند AI بسازد، خیلی پیشتر به mind uploading و neural augmentation دست یافته و جای نگرانی نیست.
لازم نیست همه را اخته کرد تا هلوکاستی اتفاق نیوفتد! کافیست افسار دست دیوانگان نیوفتد! در مورد ساخت ماشین مورد نظر، پیدا کنید کلی دانشمند دیوانه که بتوانند همزمان با هدفی شوم جهت نابودی بشر روی پروژه ای مشترک کار کنند! پیدا کردید به ما هم بگویید کجایند بهشان بپیوندیم دیدن آن همه کُس خُل یک جا حال میدهد
همچنین میشود ماشینی ساخت که هرگز قواعد بنیادین خودش را نتواند نقض کند!