پیشرفت روزافزون فندآوری: به کجا می‌رویم؟

[Mehrbod]

به نظر می رسد که انسان دارد به مرز ظرفیت مغزی خود نزدیک می شود. اکنون در ریاضیات مسائلی را داریم، که چند دهه (یا بعضا قرن) از مطرح شدنشان می گذرد، هزاران تن از برجسته ترین ریاضیدانان روی آن کار کرده اند، اما هنوز حل نشده اند. در فیزیک نیز دهه هاست که جهش بزرگی رخ نداده، و مسائلی کماکان لاینحل باقی مانده اند. در هر رشته ای، در نهایت عامل متوقف کننده، پیچیدگی خواهد بود. بنابراین، به نظر می رسد که بدون بکارگیری هوش برتر (هوش مصنوعی، یا مهندسی ژنتیک) پیشرفت دانش به تدریج کند و در نهایت متوقف خواهد شد.

حال پرسش اینجاست که از کجا معلوم این نقطه توقف، قبل از دستیابی به هوش برتر نباشد؟

روند پیشرفت هوش مصنوعی تا حدود زیادی قابل برونیابی است، همانطور که تاکنون بوده، و زمانی هم که کامپیوترها به توانایی های انسان نزدیک شوند، و اولین کامپیوتر بتواند از آزمون تورینگ موفق بیرون آید، فاصله چندانی با تکینگی نخواهیم داشت. قضیه تکینگی هم با بمب اتم متفاوت است، از این جهت که مسئله کنترل هوش برتر، یک مسئله تئوریست، که بیشتر به رشته هایی مانند تئوری بازیها مربوط می شود.

اینکه کله شق ها هم به تکینگی دست پیدا کنند و منجر به نابودی حیات شوند، محتمل است، اما چقدر میتوان مطمئن بود؟ به گمان من حتی نمی توان با اطمینان بالایی گفت که انسان حتما روزی به تکینگی دست خواهد یافت، چنانچه در پست بعد دلایلم را خواهم آورد.

در این جستار هم چیزی بجز این نگفتیم, که با روند کنونی دیر یا زود به تکینگی^[1] میتوانیم برسیم.

دشواری اینجاست که گفتیم نمیتوانیم آن را کنترل کنیم, نمیدانیم چه کسانی نخستی به آن دست میابند و میدانیم که
با کوچکترین لغزش — که نشان دادیم پیشگیری ناپذیر است — نژاد بشر نابود, برده یا هر سرنوشت ناخواستنیِ شایند^[2] دیگری خواهد شد.

اینکه پیشرفت دارد کُند میشود پس بیایید هوشواره^[3] بسازیم و به تکینگی برسیم هم درست است, ولی سودی برای ما ندارد. پیشرفت برای
خودِ پیشرفت که خوب نیست, پیشرفت برای این خوبه که مایه‌یِ آسایش و بهزیستی^[4] ما آدمهای زنده شود, اگر این پیشرفت بخواهد همچون
تکینگی مایه‌یِ ساخت ابرهوشواره‌هایِ^[5] باهوشتر از خود امان شود که دیرتر جای ما را گرفته و نابود شویم دیگر به درد نمیخورد و باید با آن ستیزید.

اینکه شما تاکنون از تکنولوژی چیزی جز خوبی نداده‌اید مایه‌یِ اینکه تا همیشه چیزی خوب برای شما بماند نیست, نسیم طالب این را «پرسمان^[6] بوقلمون» مینامد:

— یک بوقلمون با نگرش به گذشته (آمار, etc.) میبینید که هر روز برای او خوراک میاورند و در ناز و نعمت‌ و آسودگی زندگی میکند و هر روزی که میگذرد به نیکسرشی این
آدمهای مهربان که از وی نگهداری میکنند بیشتر و بیشتر باورمند میشود, مگر تا روزیکه شب سالِ نو فرارسیده و همین آدمهای مهربان او را گرفته و برشته (بریان کرده) و نوش^[7] جان میکنند!





----
1. ^ tak+in+eg+i::Takinegi || تکینگی: نقطه‌یِ تکین Ϣiki-En, Ϣiki-Pâ singularity
2. ^ šây+and::Šâyand || شایند: ممکن Ϣiki-En possible
3. ^ huš+vâr+e::Hušvâre || هوشواره: هوش مصنوعی Ϣiki-En artificial intelligence Künstliche Intelligenz
4. ^ beh+zist+i::Behzisti || بهزیستی: رفاه Ϣiki-En, Ϣiki-Pâ welfare
5. ^ abar+huš+vâre::Abarhušvâre || ابرهوشواره: super intelligence
6. ^ pors+mân::Porsmân || پرسمان: مساله Dehxodâ, Ϣiki-En problem
7. ^ Navidan || نویدن: وعده دادن Ϣiki-En, Ϣiki-En to give good news; to promise; to augur; to fortell

[مزدك بامداد]

یک بوقلمون با نگرش به گذشته (آمار, etc.) میبینید که هر روز برای او خوراک میاورند و در ناز و نعمت‌ و آسودگی زندگی میکند و هر روزی که میگذرد به نیکسرشی این
آدمهای مهربان که از وی نگهداری میکنند بیشتر و بیشتر باورمند میشود, مگر تا روزیکه شب سالِ نو فرارسیده و همین آدمهای مهربان او را گرفته و برشته (بریان کرده) و نوش[7] جان میکنند!

خب، هر باشنده ای یک زمان زیست دارد. ژن های خود ما هم به فرمان مرگ میدهند تا جا برای پیشرفت و فرگشت خودشان در کالبد زادمان نو، باز شود. بر این پایه ، این بوقلمون، زیانی ندیده چرا که به هرروی بایستی میمرد، ولی دستکم دچار خانه ی سالمندان و گرگ بیابان نشده!

[Mehrbod]

خب، هر باشنده ای یک زمان زیست دارد. ژن های خود ما هم به فرمان مرگ میدهند تا جا برای پیشرفت و فرگشت خودشان در کالبد زادمان نو، باز شود. بر این پایه ، این بوقلمون، زیانی ندیده چرا که به هرروی بایستی میمرد، ولی دستکم دچار خانه ی سالمندان و گرگ بیابان نشده!

از دید من هم برای بوقلمون بد نیست, ولی اگر خود امان را همین بوقلمون ببینیم که داریم با دست خود امان باشندگانی^[1] بهتر از خود امان درست میکنیم که جای ما را بگیرند, دیگر به هیچ روی خوب نیست!

به دید من فندآوری^[2] بد نیست, اگر که میتوانستیم آنرا راستا دهیم. برای نمونه, در همین پرسمان^[3] «باشندگان بهتر», اگر روند پیشرفت فندآوری براستی دست هومنی^[4]
بود و میتوانستیم نخست بسویی برویم که خودِ ما بشویم آن «باشندگان برتر و بهتر», آنگاه پیشرفت آن نه تنها خواستنی که بایسته هم بود, ولی در نگاه کنونی
میبینید که با چه شور و انگیزه‌ای^[5] برخی آن بیرون دارند بسوی ساخت هوشواره‌ای^[6] باهوشتر, بهتر, توانمندتر از آدم میروند, بی آنکه به پیامد‌هایِ آن, یا هتا چراییِ خوبی یا بدی آن بیاندیشند.






----
1. ^ baš+ande::Bâšande || باشنده: موجود being
2. ^ fand+âvar+i::Fandâvari || فنداوری: تکنولوژی Ϣiki-En technology
3. ^ pors+mân::Porsmân || پرسمان: مساله Dehxodâ, Ϣiki-En problem
4. ^ human+i::Humani || هومنی: بشریت mankind || هومنی: یک هومن a human
5. ^ an+gix+tan::Angixtan || انگیختن: به جنبش افتادن; تحریک شدن MacKenzie, ϢDict-Pâ, Dehxodâ to be stimulated stimuliert werden
6. ^ huš+vâr+e::Hušvâre || هوشواره: هوش مصنوعی Ϣiki-En artificial intelligence Künstliche Intelligenz

[مزدك بامداد]

از دید من هم برای بوقلمون بد نیست, ولی اگر خود امان را همین بوقلمون ببینیم که داریم با دست خود امان باشندگانی[1] بهتر از خود امان درست میکنیم که جای ما را بگیرند, دیگر به هیچ روی خوب نیست!

همچنان که جای بوقلمون را نگرفته ایم، آن ها نیز جای مارا نخواهند گرفت
و همچنان که ما در نوکری بوقلمون ها هستیم، انها در نوکری ما خواهند بود
گرچه به نگر برسد که آنها کنترل را بدست گرفته اند: اینجا پرسمان بخش کردن
خویشکاری هاست. هر تیره و سامانه ای جایگاه خود را بسته به توانایی ها
و سودمندی هایش می یابد. چون دیگر مگز ما در کارهای پیچیده تر ناتوان
خواهد شد،، روشن است که بایستی رایانه های آینده بایستی خویشکاری
گـُزیرش (تصمیم) و کنترل را در دست بگیرند و اینگونه هوشمندی برتر آنها،
به از میان رفتن جنگ و تبهکاری و .. خواهند انجامید که از"کودنی" ما
سرچشمه می گرفته است.

پس داستان، داستان جایدهی (Integration) است و نه زدایش (حذف removement) و جایگزینی(replacement)


•

[Unknown]

در این جستار هم چیزی بجز این نگفتیم, که با روند کنونی دیر یا زود به تکینگی میتوانیم برسیم.

دشواری اینجاست که گفتیم نمیتوانیم آن را کنترل کنیم, نمیدانیم چه کسانی نخستی به آن دست میابند و میدانیم که
با کوچکترین لغزش — که نشان دادیم پیشگیری ناپذیر است — نژاد بشر نابود, برده یا هر سرنوشت ناخواستنیِ شایند دیگری خواهد شد.

اینکه پیشرفت دارد کُند میشود پس بیایید هوشواره بسازیم و به تکینگی برسیم هم درست است, ولی سودی برای ما ندارد. پیشرفت برای
خودِ پیشرفت که خوب نیست, پیشرفت برای این خوبه که مایه‌یِ آسایش و بهزیستی ما آدمهای زنده شود, اگر این پیشرفت بخواهد همچون
تکینگی مایه‌یِ ساخت ابرهوشواره‌هایِ باهوشتر از خود امان شود که دیرتر جای ما را گرفته و نابود شویم دیگر به درد نمیخورد و باید با آن ستیزید.
.
.
.

مهربد گرامی، من چنین چیزی نگفتم. تنها میخواستم بدانم شما چگونه اینهمه از نابودی نسل انسان اطمینان دارید، در حالی که نمی توان از تحقق تکینگی هم آنهمه مطمئن بود؟

[Mehrbod]

[undead_knight]

مهربد
آیا تو انسانی که مهندسی ژنتیک شده، سایبورگ و یا روباتی که ذهن یک انسان روش آپلود شده رو جزئی از انسان ها میدونی یا نه؟(با این فرض که ذهنشون در اختیار خودشون باشه نه سیستمی دیگه)
جوابت هر چی هست دلیلش رو هم بگو

[Mehrbod]

مهربد
آیا تو انسانی که مهندسی ژنتیک شده، سایبورگ و یا روباتی که ذهن یک انسان روش آپلود شده رو جزئی از انسان ها میدونی یا نه؟(با این فرض که ذهنشون در اختیار خودشون باشه نه سیستمی دیگه)
جوابت هر چی هست دلیلش رو هم بگو

مهم نیست من چه نظری دارم, ولی این نکته, اینکه اگر ما تکنولوژی را رها کنیم تکنولوژی میخواهد همه‌یِ
ما را به سایبورگ‌هایی نامیرا و جاودان و باهوش و همه‌کاره و همه‌چیز‌دان و ... بدل بسازد, چیزی بیشتر از سراب نیست.

ژاک الول در واپسین کتاب از سه‌گانه‌یِ خود به نام The Technological Bluff — که به نسبت به
بتازگی هم نوشته شده — بخوبی به این بلوف‌ها و وعده و وعید‌هایِ سر خرمن تکنولوژی پرداخته
است و این را واپسین میخ و ترفندی میداند که تکنولوژی از گذر آن, به پیشروی‌ خود دنباله خواهد داد.

بیشتر ستیزگران تکنولوژی هتّا زمانیکه این را به آشکاری اذعان نکنند, ولی تنها علّتی که در برابر کوهی از مشکل‌ها و
بدبختی‌های بسیار آشکار و پیش رو همچنان به تکنولوژی میچسبند, بدرستی همین "وعده‌های ظریف و پنهانی"‌ست که
تکنولوژی به آنان داده است, بویژه و بیشتر از همه چیرگی بر مرگ و هراس بی اندازه از میرایی‌ای که امروزه فرمانروا است.

[sonixax]

مهم نیست من چه نظری دارم, ولی این نکته, اینکه اگر ما تکنولوژی را رها کنیم تکنولوژی میخواهد همه‌یِ
ما را به سایبورگ‌هایی نامیرا و جاودان و باهوش و همه‌کاره و همه‌چیز‌دان و ... بدل بسازد, چیزی بیشتر از سراب نیست.

ژاک الول در واپسین کتاب از سه‌گانه‌یِ خود به نام The Technological Bluff — که به نسبت به
بتازگی هم نوشته شده — بخوبی به این بلوف‌ها و وعده و وعید‌هایِ سر خرمن تکنولوژی پرداخته
است و این را واپسین میخ و ترفندی میداند که تکنولوژی از گذر آن, به پیشروی‌ خود دنباله خواهد داد.

بیشتر ستیزگران تکنولوژی هتّا زمانیکه این را به آشکاری اذعان نکنند, ولی تنها علّتی که در برابر کوهی از مشکل‌ها و
بدبختی‌های بسیار آشکار و پیش رو همچنان به تکنولوژی میچسبند, بدرستی همین "وعده‌های ظریف و پنهانی"‌ست که
تکنولوژی به آنان داده است, بویژه و بیشتر از همه چیرگی بر مرگ و هراس بی اندازه از میرایی‌ای که امروزه فرمانروا است.

تکنولوژی وعده میدهد ؟!

[kourosh_iran]

مهم نیست من چه نظری دارم, ولی این نکته, اینکه اگر ما تکنولوژی را رها کنیم تکنولوژی میخواهد همه‌یِ
ما را به سایبورگ‌هایی نامیرا و جاودان و باهوش و همه‌کاره و همه‌چیز‌دان و ... بدل بسازد, چیزی بیشتر از سراب نیست.

ژاک الول در واپسین کتاب از سه‌گانه‌یِ خود به نام The Technological Bluff — که به نسبت به
بتازگی هم نوشته شده — بخوبی به این بلوف‌ها و وعده و وعید‌هایِ سر خرمن تکنولوژی پرداخته
است و این را واپسین میخ و ترفندی میداند که تکنولوژی از گذر آن, به پیشروی‌ خود دنباله خواهد داد.

بیشتر ستیزگران تکنولوژی هتّا زمانیکه این را به آشکاری اذعان نکنند, ولی تنها علّتی که در برابر کوهی از مشکل‌ها و
بدبختی‌های بسیار آشکار و پیش رو همچنان به تکنولوژی میچسبند, بدرستی همین "وعده‌های ظریف و پنهانی"‌ست که
تکنولوژی به آنان داده است, بویژه و بیشتر از همه چیرگی بر مرگ و هراس بی اندازه از میرایی‌ای که امروزه فرمانروا است.

دوست عزیز یخورده قدیمی فکر نمیکنی؟
بنظرم این حرفها و داستانها مال یخورده قدیم تر بوده ها!
مثلا اون فیلمی که چارلی چاپلین بازی میکه که گویای اعتراضی نسبت به این واقعیته که انسانها دارن به چرخ دنده ها و مهره های بی ارزش و بی اراده ای در دنیای صنعتی تبدیل میشن. اون فیلم که توی کارخونه کار میکنه!
ولی میدونیم که اون زمانها هراس از این روند و پدیده ها خیلی بیشتر و جدی تر بوده و خب معقول هم بوده.
الان هم نه بگم چنین پدیده ها و خطرات و عوارضی وجود ندارن، اما بنظر میرسه روند تاریخ نمیتونست اونطور هم بمونه و نسبت به وضعی که در اینطور فیلم ها و افکار بیان میشد در کل خیلی تغییرات و پیشرفت ها و بهبودها رو داشته.
الان علم و فناوری از خیلی جهات هم به آزادی و افزایش کیفیت زندگی و اوقات فراقت و فرصت ها و اختیارها و انتخاب های انسان ها میشه گفت کمک کرده.
البته از کشور به کشور تفاوت میکنه. مثلا در چین کارگرهای زیادی مجبورن در کارخانه ها با حقوق کم و شرایط کاری سخت کار کنن. ولی خب مثلا خیلی جاهای دیگه هم اینطور نیست. خیلی آدمها هم از رفاه و زندگی راحت تری بهره مند شدن. به هوش و ارادهء خود آدم هم بستگی داره خب. نه؟

البته منم این تفکر رو که فناوری مثلا به زودی ما رو به ابرانسان تبدیل خواهد کرد و همه یا اکثر انسانها خوشبخت خواهند شد و این حرفا، احمقانه می یابم، ولی احتمالی هست که در آینده ممکنه، اما در حال حاضر تا اینجا باید گفت که پیشرفت علم و فناوری وضعیتی بینابین رو ایجاد کرده که میزان بهره برداری مفید ازش به خود آدمها هم بستگی داره. از شخص به شخص متفاوته. شما اگر سعی کنی فناوری رو مسلط بشی، اگر هوشت خوب باشه، دانشمند باشی، دانشجو و محقق باشی، با اراده باشی، در دنیای امروز میتونی جایگاه و کیفیت زندگی بهتری بدست بیاری. بهرصورت اگر میخواستی در گذشته و در طبیعت هم زندگی کنی، هزینه ها و محدودیت ها و زحمت ها و یادگیری و قدرت و مهارت و نیازها و خطرات خودش رو داشت. در حال حاضر میبینیم که میانگین عمر بشر هم از 40 سال به 80 سال رسیده، که البته بطور کلی و به این راحتی نمیشه گفت قطعا یعنی میزان خوشبختی همه هم به همین نسبت زیاد شده، اما بهرحال خودش گویای قدرت و پتانسیل فناوری برای در خدمت انسان بودنه.

بهرحال بنده دلایل کافی برای مخالفت با پیشرفت فناوری نمیبینم. این مخالفت بیهوده، ناممکن، و حتی خطرناک و مضره. در این شرایط بهرحال چاره ای جز همراه شدن با این مسیر نیست و تنها میتونیم تاحدی کنترل و هدایت و شکل دهی نسبت بهش داشته باشیم و خودمون رو بهش مسلط کنیم و باهاش تطبیق بدیم. در هر زمانی هم انسان باید همین کار رو بکنه و اون تطبیق دادن و سازگار کردنه و کنترل کردن فقط تاحد ممکن و بر اساس آگاهی و خرد، نه از روی ترس و توهم و افسانه.