همینطور است که میگویی. ما باید دقیقا بدانیم چه سناریویی به بوجود آمدن یک یا
دستهای از موجودات هوشمند میشود که میتواند کنترل حیات بشر را در دست بگیرد.
این بسیار اهمیت دارد، چرا که آنچه که هیچ احتمالی برای رخ دادناش نیست، این است
که هوش مصنوعیای بسازیم که در عین اینکه قدرتهای اجرایی کامل دارند، آنقدر
دارای خطا و باگ باشند که دقیقا برعکس اهدافی که از پیش برایشان تعریف شده تصمیمگیری
و عمل کنند.
من اگرچه با دست کم گرفتن مشکلاتی که از طرف پیشرفتهای تکنولوژیک متوجه ماست
مخالفم، فکر میکنم که خیلی از چیزهایی که در مورد هوش مصنوعی و امثالهم میگویند
مبالغهآمیز و غیرواقعیست. دستگاههای سوپرهوشمندی که بتوانند در سطح جهانی
حتی مورد سوءآستفاده قرار گیرند و علیه جهان استفاده شوند، واقعا خیلی بعید هستند.
در جهانی که ما هنوز برای توافق جهانی برای کاهش آلایندههای زیستمحیطی این اندازه
درگیری داریم، تصور اینکه همهی کشورها به پروتکلهایی تن دهند که منجر به اعطای کنترل
زیرساختهای کشورشان میشود، تصوریست هالیوودی و شاید هم بالیوودی!
ضمن اینکه در مورد ماشین وقتی میگوییم از هوشمندی سخن میگوییم، از تواناییایی
حرف میزنیم که به دارندهاش این امکان را میدهد که بتواند در شرایط بدیع، تصمیمگیری
کند. هوشمندی البته با توان اجرایی متفاوت است؛ یک دستگاه میتواند هوشمندترین
موجود روی کرهی زمین باشد، خطر و فایدهی آن زمانیکه توانایی اجرایی نداشته باشد
تقریبا صفر است!