پیشرفت روزافزون فندآوری: به کجا می‌رویم؟

[Mehrbod]

1- برای اینکه همان یکبار تکلیف را روشن خواهد کرد: انقراض حیات یا یوتوپیا. انقراض که هیچ اما در حالت یوتوپیا اگر هم نیازی به ساخت هوش مصنوعی دیگری احساس شد یا پژوهش های رقیب به زباله دانی انداخته نشده بودند، کج نخواهند رفت زیرا یک superintelligence پروسه را پاسداری میکند.

آرمانشهر چیست؟
یکی از پرسشهای پیش پا افتاده‌ای که بسیاری از مشتاقان تکینگی همواره ناخودآگاه نادیده میگیرند همین است
که آرمانشهر یکی, میتواند دوزخ‌شهر دیگری باشد و زمانیکه نیاز به "تعریف" این آرمانشهر میرسد نمیتوانند آنرا فرمولیزه کنند.

برای دریافت سُتُرگی پرسمان خوانده شود: Coherent Extrapolated Volition - Machine Intelligence | intelligence.org


چه بر سر پژوهش‌هایِ همروند میآید؟
در تکینگی فندین همیشه پایه بر این است که با دستیابی به یک ابرهوشواره‌یِ خوب — که روشن خوب
چگونه — دیگر همه چیز بهشت میشود و ابرهوشواره‌یِ خوب نمیگذارد هیچ سازمان و پژوهشگاه دیگری به ابرهوشواره دست‌یابد.

پرسش: چگونه نمیگذارد, با کنترل مغزی؟

کلا مانند این است که بپرسید چرا انسان یک بار از میمون تکامل یافت.

طبیعت در جایگاه فرگشتار (evolver) یکسان‌انگار میباشد, ولی ابرسازواره‌یِ تکنولوژیک در راستای
سود خود پیش میرود که بباید, برابر با سود سازوارگان خود (آدمیان) نیست: نبود یکسان‌انگاری (بی‌تفاوتی).

و از دیدگاهی دیگر, آری میمون‌ها خودآگاهی آنچنانی ندارند و نمیدانند چه کاری آنها را نابود میسازد. آدمی در جایگاه گونه‌ای باهوشتر,
هنگامیکه میداند قرار است "تکامل زوری به هوشواره‌ها" پیدا کند و با آنها جایگزین و پس نیست و نابود بشود, آیا نبایستی میمون‌وارانه رفتار نکند؟

همچنین پایداری و "خوب" بودنش قبلا در شبیه سازی اثبات شده است.

چگونه خوب بودنش روشن شده؟
و چگونه روشن شده که برای همیشه خوب میماند؟

2- ساخت هوش مصنوعی کاری تیمی، پیچیده، چند مرحله ای و تحت نظارت ارگانی بزرگتر است. چنین نیست که یک برنامه نویس در زیر زمین خانه اش بنشیند آن را انجام دهد و بدون آزمایش آن را آزاد کند!

و این در حقیقت بخش ناخواستنی و بد آن به شمار میرود. چنانکه میدانند, اگر راستادهی آینده در دستان یک تن دو کس
تنها میبود, آنگاه امیدواری بسیار بسیار بالاتری میرفت که آینده دستکم,‌ دورنمای بهتری داشته باشد, ولی هنگامیکه آینده
به دستان ابرسازواره‌هایی سپرده میشود که اراده‌یِ بزرگتر از چند تن بر آنها استوار است, کارها از کنترل آدمی بیرون میایند.

در یک تیره‌یِ نخستینی برای نمونه, کس توان راستادهی بسیار بالایی بر سرنوشت خود دارد و میتواند در
فرایند‌هایِ تصمیم‌گیری نقشی بسزا داشته باشد, ولی در یک مردم‌سالاری صد میلیون تنه, توان راستادهی کس هتّا
زمانیکه به خواست و رای وی ارجی راستین نهاده شود, به یک در صد میلیونی بسیار ناچیز و چشم‌پوشیدنی کاهش میابد:

=>

من که سال هاست رای نمیدم . واقعا رای دادن ما چه فایده ای داره ؟ نظام به نظر من هماهنگ تر از هر زمان دیگه ای داره عمل میکنه و همه جناح ها به خوبی با هم در تعامل هستن ... بقیه مسائل نمایش و بازی هست !!

گیریم که رای شما را هم میشمردند. ١:٧٠٠٠٠٠٠٠ اهمیّتی دارد؟

3- چه خوب! اگر کار مفیدی بلد نیست حداقل در آگاهی رسانی عمومی کاری را پیش میبرد.

و در زمانیکه ابرهوشواره‌یِ نیک دارد آگاهی‌رسانی میکند,
پژوهشگران و دانشمندان دیگر درین زمینه آیا از نوآوری بازایستاده‌اند؟

4- دموکراتیزاسیون بی طرف است، زیرا هم آفند و هم پدافند را در اختیار عموم میگذارد. این شما بودید که قبل از حضور من تنها روی " خطر آفند در دست همگان" تمرکز کرده بودید، البته اسمی روی آن نگذاشته بودید. دموکراتیزه شدن پس از تولید تکنولوژی روی آنکه به دست چه کسی و چرا میرسد تاثیر میگذارد نه روی روند و خواستنی بودن تولید آنها.

و ازینرو, ابزاری سراسر ناکارآمد در جلوگیری از پیدایش و نوآوری تکنولوژی‌هایِ ویرانگر و نیست کننده است.

5- ما هم اکنون در جهانی زندگی میکنیم که هک شدن رایانه ها بی اندازه خطرناک است، بی زحمت بلاک باستر تولید نفرمایید!

هک شدن رایانه ≠ هک شدن مغز

6- AI نباید با محقق صحبت کند، اصلا نباید متوجه شود که درون شبیه سازی است! شما اختیار تام روی سرعت و محتوای فکر آزمایشتان دارید! AI in box یعنی باید مانند نئو در ماتریکس سرگردان باشد، چطور این نوابغ آن به هانیبال و کلاریس تبدیل میکنند اسپاگتی اعلم! از اینها بگذریم، از آنجایی که این استعداد های کشف نشده محتوای مکالمه شان را علنی نمیکنند، ادعاهایشان به درد عمه شان میخورد! افزون بر این، در دنیایی که اجازه دهند یک راس ننه قمر از اهریمن نگهبانی کند، هر چه به سرشان بیاید حقشان است. این سناریو به قدری مضحک است که نشستن یک شامپانزه جلوی چمدان اتمی آمریکا! هرگز یک نفر را به این کار نمیگمارند، و نه هر کسی را. بالاخره باید بگویم تصمیم با شماست که این ایده باسیلیسک هک چه اندازه تخمی تخیلی است. و بله، از تشنج حساس به نور اطلاع دارم.

درست است, و برای پیشگیری از این آینده‌یِ بیمناک, راه روشن است.



نکته‌یِ گیرا: روشن نیست چرا «یک راس قمر» ناخواستنی‌تر از «یک انبوهه قمر» است.







.