پیشرفت روزافزون فندآوری: به کجا می‌رویم؟

[Unknown]

به نظر می رسد که انسان دارد به مرز ظرفیت مغزی خود نزدیک می شود. اکنون در ریاضیات مسائلی را داریم، که چند دهه (یا بعضا قرن) از مطرح شدنشان می گذرد، هزاران تن از برجسته ترین ریاضیدانان روی آن کار کرده اند، اما هنوز حل نشده اند. در فیزیک نیز دهه هاست که جهش بزرگی رخ نداده، و مسائلی کماکان لاینحل باقی مانده اند. در هر رشته ای، در نهایت عامل متوقف کننده، پیچیدگی خواهد بود. بنابراین، به نظر می رسد که بدون بکارگیری هوش برتر (هوش مصنوعی، یا مهندسی ژنتیک) پیشرفت دانش به تدریج کند و در نهایت متوقف خواهد شد.

حال پرسش اینجاست که از کجا معلوم این نقطه توقف، قبل از دستیابی به هوش برتر نباشد؟

[Mehrbod]

به نظر می رسد که انسان دارد به مرز ظرفیت مغزی خود نزدیک می شود. اکنون در ریاضیات مسائلی را داریم، که چند دهه (یا بعضا قرن) از مطرح شدنشان می گذرد، هزاران تن از برجسته ترین ریاضیدانان روی آن کار کرده اند، اما هنوز حل نشده اند. در فیزیک نیز دهه هاست که جهش بزرگی رخ نداده، و مسائلی کماکان لاینحل باقی مانده اند. در هر رشته ای، در نهایت عامل متوقف کننده، پیچیدگی خواهد بود. بنابراین، به نظر می رسد که بدون بکارگیری هوش برتر (هوش مصنوعی، یا مهندسی ژنتیک) پیشرفت دانش به تدریج کند و در نهایت متوقف خواهد شد.

حال پرسش اینجاست که از کجا معلوم این نقطه توقف، قبل از دستیابی به هوش برتر نباشد؟

روند پیشرفت هوش مصنوعی تا حدود زیادی قابل برونیابی است، همانطور که تاکنون بوده، و زمانی هم که کامپیوترها به توانایی های انسان نزدیک شوند، و اولین کامپیوتر بتواند از آزمون تورینگ موفق بیرون آید، فاصله چندانی با تکینگی نخواهیم داشت. قضیه تکینگی هم با بمب اتم متفاوت است، از این جهت که مسئله کنترل هوش برتر، یک مسئله تئوریست، که بیشتر به رشته هایی مانند تئوری بازیها مربوط می شود.

اینکه کله شق ها هم به تکینگی دست پیدا کنند و منجر به نابودی حیات شوند، محتمل است، اما چقدر میتوان مطمئن بود؟ به گمان من حتی نمی توان با اطمینان بالایی گفت که انسان حتما روزی به تکینگی دست خواهد یافت، چنانچه در پست بعد دلایلم را خواهم آورد.

در این جستار هم چیزی بجز این نگفتیم, که با روند کنونی دیر یا زود به تکینگی^[1] میتوانیم برسیم.

دشواری اینجاست که گفتیم نمیتوانیم آن را کنترل کنیم, نمیدانیم چه کسانی نخستی به آن دست میابند و میدانیم که
با کوچکترین لغزش — که نشان دادیم پیشگیری ناپذیر است — نژاد بشر نابود, برده یا هر سرنوشت ناخواستنیِ شایند^[2] دیگری خواهد شد.

اینکه پیشرفت دارد کُند میشود پس بیایید هوشواره^[3] بسازیم و به تکینگی برسیم هم درست است, ولی سودی برای ما ندارد. پیشرفت برای
خودِ پیشرفت که خوب نیست, پیشرفت برای این خوبه که مایه‌یِ آسایش و بهزیستی^[4] ما آدمهای زنده شود, اگر این پیشرفت بخواهد همچون
تکینگی مایه‌یِ ساخت ابرهوشواره‌هایِ^[5] باهوشتر از خود امان شود که دیرتر جای ما را گرفته و نابود شویم دیگر به درد نمیخورد و باید با آن ستیزید.

اینکه شما تاکنون از تکنولوژی چیزی جز خوبی نداده‌اید مایه‌یِ اینکه تا همیشه چیزی خوب برای شما بماند نیست, نسیم طالب این را «پرسمان^[6] بوقلمون» مینامد:

— یک بوقلمون با نگرش به گذشته (آمار, etc.) میبینید که هر روز برای او خوراک میاورند و در ناز و نعمت‌ و آسودگی زندگی میکند و هر روزی که میگذرد به نیکسرشی این
آدمهای مهربان که از وی نگهداری میکنند بیشتر و بیشتر باورمند میشود, مگر تا روزیکه شب سالِ نو فرارسیده و همین آدمهای مهربان او را گرفته و برشته (بریان کرده) و نوش^[7] جان میکنند!





----
1. ^ tak+in+eg+i::Takinegi || تکینگی: نقطه‌یِ تکین Ϣiki-En, Ϣiki-Pâ singularity
2. ^ šây+and::Šâyand || شایند: ممکن Ϣiki-En possible
3. ^ huš+vâr+e::Hušvâre || هوشواره: هوش مصنوعی Ϣiki-En artificial intelligence Künstliche Intelligenz
4. ^ beh+zist+i::Behzisti || بهزیستی: رفاه Ϣiki-En, Ϣiki-Pâ welfare
5. ^ abar+huš+vâre::Abarhušvâre || ابرهوشواره: super intelligence
6. ^ pors+mân::Porsmân || پرسمان: مساله Dehxodâ, Ϣiki-En problem
7. ^ Navidan || نویدن: وعده دادن Ϣiki-En, Ϣiki-En to give good news; to promise; to augur; to fortell

[مزدك بامداد]

یک بوقلمون با نگرش به گذشته (آمار, etc.) میبینید که هر روز برای او خوراک میاورند و در ناز و نعمت‌ و آسودگی زندگی میکند و هر روزی که میگذرد به نیکسرشی این
آدمهای مهربان که از وی نگهداری میکنند بیشتر و بیشتر باورمند میشود, مگر تا روزیکه شب سالِ نو فرارسیده و همین آدمهای مهربان او را گرفته و برشته (بریان کرده) و نوش[7] جان میکنند!

خب، هر باشنده ای یک زمان زیست دارد. ژن های خود ما هم به فرمان مرگ میدهند تا جا برای پیشرفت و فرگشت خودشان در کالبد زادمان نو، باز شود. بر این پایه ، این بوقلمون، زیانی ندیده چرا که به هرروی بایستی میمرد، ولی دستکم دچار خانه ی سالمندان و گرگ بیابان نشده!

[Mehrbod]

خب، هر باشنده ای یک زمان زیست دارد. ژن های خود ما هم به فرمان مرگ میدهند تا جا برای پیشرفت و فرگشت خودشان در کالبد زادمان نو، باز شود. بر این پایه ، این بوقلمون، زیانی ندیده چرا که به هرروی بایستی میمرد، ولی دستکم دچار خانه ی سالمندان و گرگ بیابان نشده!

از دید من هم برای بوقلمون بد نیست, ولی اگر خود امان را همین بوقلمون ببینیم که داریم با دست خود امان باشندگانی^[1] بهتر از خود امان درست میکنیم که جای ما را بگیرند, دیگر به هیچ روی خوب نیست!

به دید من فندآوری^[2] بد نیست, اگر که میتوانستیم آنرا راستا دهیم. برای نمونه, در همین پرسمان^[3] «باشندگان بهتر», اگر روند پیشرفت فندآوری براستی دست هومنی^[4]
بود و میتوانستیم نخست بسویی برویم که خودِ ما بشویم آن «باشندگان برتر و بهتر», آنگاه پیشرفت آن نه تنها خواستنی که بایسته هم بود, ولی در نگاه کنونی
میبینید که با چه شور و انگیزه‌ای^[5] برخی آن بیرون دارند بسوی ساخت هوشواره‌ای^[6] باهوشتر, بهتر, توانمندتر از آدم میروند, بی آنکه به پیامد‌هایِ آن, یا هتا چراییِ خوبی یا بدی آن بیاندیشند.






----
1. ^ baš+ande::Bâšande || باشنده: موجود being
2. ^ fand+âvar+i::Fandâvari || فنداوری: تکنولوژی Ϣiki-En technology
3. ^ pors+mân::Porsmân || پرسمان: مساله Dehxodâ, Ϣiki-En problem
4. ^ human+i::Humani || هومنی: بشریت mankind || هومنی: یک هومن a human
5. ^ an+gix+tan::Angixtan || انگیختن: به جنبش افتادن; تحریک شدن MacKenzie, ϢDict-Pâ, Dehxodâ to be stimulated stimuliert werden
6. ^ huš+vâr+e::Hušvâre || هوشواره: هوش مصنوعی Ϣiki-En artificial intelligence Künstliche Intelligenz

[مزدك بامداد]

از دید من هم برای بوقلمون بد نیست, ولی اگر خود امان را همین بوقلمون ببینیم که داریم با دست خود امان باشندگانی[1] بهتر از خود امان درست میکنیم که جای ما را بگیرند, دیگر به هیچ روی خوب نیست!

همچنان که جای بوقلمون را نگرفته ایم، آن ها نیز جای مارا نخواهند گرفت
و همچنان که ما در نوکری بوقلمون ها هستیم، انها در نوکری ما خواهند بود
گرچه به نگر برسد که آنها کنترل را بدست گرفته اند: اینجا پرسمان بخش کردن
خویشکاری هاست. هر تیره و سامانه ای جایگاه خود را بسته به توانایی ها
و سودمندی هایش می یابد. چون دیگر مگز ما در کارهای پیچیده تر ناتوان
خواهد شد،، روشن است که بایستی رایانه های آینده بایستی خویشکاری
گـُزیرش (تصمیم) و کنترل را در دست بگیرند و اینگونه هوشمندی برتر آنها،
به از میان رفتن جنگ و تبهکاری و .. خواهند انجامید که از"کودنی" ما
سرچشمه می گرفته است.

پس داستان، داستان جایدهی (Integration) است و نه زدایش (حذف removement) و جایگزینی(replacement)


•

[Unknown]

در این جستار هم چیزی بجز این نگفتیم, که با روند کنونی دیر یا زود به تکینگی میتوانیم برسیم.

دشواری اینجاست که گفتیم نمیتوانیم آن را کنترل کنیم, نمیدانیم چه کسانی نخستی به آن دست میابند و میدانیم که
با کوچکترین لغزش — که نشان دادیم پیشگیری ناپذیر است — نژاد بشر نابود, برده یا هر سرنوشت ناخواستنیِ شایند دیگری خواهد شد.

اینکه پیشرفت دارد کُند میشود پس بیایید هوشواره بسازیم و به تکینگی برسیم هم درست است, ولی سودی برای ما ندارد. پیشرفت برای
خودِ پیشرفت که خوب نیست, پیشرفت برای این خوبه که مایه‌یِ آسایش و بهزیستی ما آدمهای زنده شود, اگر این پیشرفت بخواهد همچون
تکینگی مایه‌یِ ساخت ابرهوشواره‌هایِ باهوشتر از خود امان شود که دیرتر جای ما را گرفته و نابود شویم دیگر به درد نمیخورد و باید با آن ستیزید.
.
.
.

مهربد گرامی، من چنین چیزی نگفتم. تنها میخواستم بدانم شما چگونه اینهمه از نابودی نسل انسان اطمینان دارید، در حالی که نمی توان از تحقق تکینگی هم آنهمه مطمئن بود؟

[Mehrbod]

[undead_knight]

مهربد
آیا تو انسانی که مهندسی ژنتیک شده، سایبورگ و یا روباتی که ذهن یک انسان روش آپلود شده رو جزئی از انسان ها میدونی یا نه؟(با این فرض که ذهنشون در اختیار خودشون باشه نه سیستمی دیگه)
جوابت هر چی هست دلیلش رو هم بگو

[Mehrbod]

مهربد
آیا تو انسانی که مهندسی ژنتیک شده، سایبورگ و یا روباتی که ذهن یک انسان روش آپلود شده رو جزئی از انسان ها میدونی یا نه؟(با این فرض که ذهنشون در اختیار خودشون باشه نه سیستمی دیگه)
جوابت هر چی هست دلیلش رو هم بگو

مهم نیست من چه نظری دارم, ولی این نکته, اینکه اگر ما تکنولوژی را رها کنیم تکنولوژی میخواهد همه‌یِ
ما را به سایبورگ‌هایی نامیرا و جاودان و باهوش و همه‌کاره و همه‌چیز‌دان و ... بدل بسازد, چیزی بیشتر از سراب نیست.

ژاک الول در واپسین کتاب از سه‌گانه‌یِ خود به نام The Technological Bluff — که به نسبت به
بتازگی هم نوشته شده — بخوبی به این بلوف‌ها و وعده و وعید‌هایِ سر خرمن تکنولوژی پرداخته
است و این را واپسین میخ و ترفندی میداند که تکنولوژی از گذر آن, به پیشروی‌ خود دنباله خواهد داد.

بیشتر ستیزگران تکنولوژی هتّا زمانیکه این را به آشکاری اذعان نکنند, ولی تنها علّتی که در برابر کوهی از مشکل‌ها و
بدبختی‌های بسیار آشکار و پیش رو همچنان به تکنولوژی میچسبند, بدرستی همین "وعده‌های ظریف و پنهانی"‌ست که
تکنولوژی به آنان داده است, بویژه و بیشتر از همه چیرگی بر مرگ و هراس بی اندازه از میرایی‌ای که امروزه فرمانروا است.

[sonixax]

مهم نیست من چه نظری دارم, ولی این نکته, اینکه اگر ما تکنولوژی را رها کنیم تکنولوژی میخواهد همه‌یِ
ما را به سایبورگ‌هایی نامیرا و جاودان و باهوش و همه‌کاره و همه‌چیز‌دان و ... بدل بسازد, چیزی بیشتر از سراب نیست.

ژاک الول در واپسین کتاب از سه‌گانه‌یِ خود به نام The Technological Bluff — که به نسبت به
بتازگی هم نوشته شده — بخوبی به این بلوف‌ها و وعده و وعید‌هایِ سر خرمن تکنولوژی پرداخته
است و این را واپسین میخ و ترفندی میداند که تکنولوژی از گذر آن, به پیشروی‌ خود دنباله خواهد داد.

بیشتر ستیزگران تکنولوژی هتّا زمانیکه این را به آشکاری اذعان نکنند, ولی تنها علّتی که در برابر کوهی از مشکل‌ها و
بدبختی‌های بسیار آشکار و پیش رو همچنان به تکنولوژی میچسبند, بدرستی همین "وعده‌های ظریف و پنهانی"‌ست که
تکنولوژی به آنان داده است, بویژه و بیشتر از همه چیرگی بر مرگ و هراس بی اندازه از میرایی‌ای که امروزه فرمانروا است.

تکنولوژی وعده میدهد ؟!