پیشرفت روزافزون فندآوری: به کجا می‌رویم؟

[مزدك بامداد]

خوب چنان که دیدید من پایان
پیکهایم خال قرمز نمیگذارم، پس به گفته شما مغز من چنان ساخته شده و در بستر فرهنگی که استخر ژنتیک هم در آن کارگر بوده، چنان پرداخته شده که دوست ندارد خال قرمز پایان پیک بگذارد...
خب برای پوچ کردن این گزاره و انقلاب بر حکومت شیطانی ژن ها من پایان این پیک یک خال قرمز میگذارم!
(فراموش نکنید که اگر بچه همان آلمانی را بدزدیم و به ایران بیاوریم و خورشت بادنجان به خوردش بدیم وقتی بزرگ شد دوست خواهد داشت، ژن ها چه کاره هستند؟
آیا ژن ها تعیین میکنند که در مسابقه رئال و بارسا مسی در دقیقه چندم گل بزند؟!! از نگر من این قدری مضحک است.)

آری همه ی فرهنگ ما روساختی است که برروی زیر ساخت ژنتیک ساخته شده است.
اینکه اکنون شما خال سرخ میگذارید برای این است که رفتار من با رفتار شما همکنشی
(تعامل) داشته و شما این رفتار را از من پذیرفته (آداپته) کرده اید. اگر من نبودم، شما هرگز
میدانستید که خال قرمزی هم میتوان در پایان نوشتار نهاد؟

داستان بچه ی آلمانی هم همین است، چرا که آنگاه ژن ما بر ژن او چیره شده و فرهنگ
خود را به او اندر میریزیم و بدینگونه او را به پیشکاری کشور و تیره ی خودمان در میاوریم.
اینکه در جنگها زن ها و بچه ها نمیکشتند هم درست همین است که آنها و ژن های آنان
را به استخر ژنتیک خود میافزودند و آنهارا به نوکری فرهنگ خویش میگرفتند. برای نمونه
مردم عراق از دید ژنتیک بیشتر ایرانی اند ولی در نوکری فرهنگ عرب.

اگر هم تیمی بر تیم دیگر چیره میشود از ساخت پیکر آنها و نرزش آن ماهیچه هاست که
با کـُد ژنتیک پدید امده اند. برای نمونه سیاسپوستان لنگ دراز تر اند و در کلان، بهتر از
سفید پوستان میدوند. اکنون تیم های "ملی" کشور های اروپایی، کم کم دارد از سیاهان پر میشود!

.

[مزدك بامداد]

همان شیر هم چنان که شیر ایرانی منقرض شد، روزی منقرض میشود و از دست ژن هایش هیچ کاری ساخته نیست!
ژن انسان هم چیز ویژه ای نیست و از بین میرود!

نادرست است، شیر ها برافتادند چرا که آدمیان جا و جان آنهارا گرفتند.
پس آنها در هماوردی با ژنی برتر کنار رفتند. در میان آدمیان هم این
هماوردی هست، شمایی که در کنکور بهتر از بهمان کس نمره میاورید،
جایگاه بهتر و پیشه ی پول آور تر و برتری بر او پیدا میکنید ، به زبان دیگر،
ژن شما که خوبی خود را اینگونه نشان داده، بخت بیشتری برای فرازیست
پیدا میکند چرا که اگر شما دو تن ( به انگار اینکه هر چیز دیگرتان یکی باشد)
به خواستگاری یک دختر خوشگل و پولدار بروید، جایگاه همبودین (اجتماعی)
شما که از پذیرش در کنکور پدید امده، شانس شمارا بالا میبرد و آنکس باید با
دختر کمتر پولدار و کمتر زیبایی جفت گیری نماید و به لایه های فرودست فروافتد.


•

[مزدك بامداد]

ما هم چیزی جز این نگفتیم،
فردید این بود که هیچ کس و هیچ چیز تضمین نکرده که ژن نابود نمیشود.(مانند خورشید که حالا هست و روزی دیگر نه!)

ژن در ساخت رفتار و فرهنگ و تاریخ ما همه کاره است و نه اینکه همه کاره ی جهان باشد!
روشن است که فردا میتوان دیک سنگ آسمانی سترگ، همه زیندگان روی زمین را بکش دیا
اینکه تنها، موش هارا بجای نهد. خب آنگاه روند فرگشت از همانجا پیگیری میشود و یا باز از
اسید های امینه از سر نو میآغازد!

پس سخن ما این است که این فرایند از گوشت به آهن، با خواسته ی ژنها سازگار نیست
و برای همین ما داوخواهانه، فرمانروایی خود را به روباتها واگذار نمیکنیم و یامغز و ویر خو
د را داوخواهانه به رایانه نمیسپاریم و آنهارا همچو فرزند نخواهیم دانست.

.

[مزدك بامداد]

اگر ایتدا نیمی از پرتقال برده و نیمی از سیب را جایگزین کنیم
سپس نیمی از نیم دیگر و... به همین ترتیب...
در ابتدا پرتقال و در انتها سیب خواهیم داشت.
پس این هم میشود!

درسته، اینکار را "شما" میکنید ولی به چه انگیزه خود سیب باید به این کار تن دهد
تازه هم سیب و پرتقال ژن دارند ولی روبات ندارد!

[Unknown]

درود ناشناخته‌یِ گرامی,

دشواری مهادین شما همینجاست که میاندیشید یک "ما"یی آنجا هست. پرسش این است, کدام ما؟ آیا شما تک تکِ ٧
میلیارد و خرده‌ای آدم زنده را میشناسید و میدانید هر کدام هماکنون دارند روی پیشرفت چه چیزی کار میکنند که میگویید ما؟

سپس اینکه میگویید ١٠ سال پیش از رسیدن به تکینگی تکنوفایل‌ها (technophiles) ناگهان به خطرهای آن آگاه میشوند, چند پرسش اینجا به میان میایند:

١. چگونه خواهیم دانست که ١٠ سال دیگر بهمان تکنولوژی نوآورده میشود؟ آیا ١٠ سال پیش از ساخت بمبِ اتم, کسی میدانست ١٠ سال دیگر بمب اتم ساخته خواهد شد؟ (یا ١٠ سال پیش از رویداد جنگ جهانی یکم کسی میدانست جنگ جهانی یکم رویمیدهد؟ درباره‌یِ جنگ جهانی دوم چه؟)

٢. چگونه پس از آگاهی از خطرهای یک تکنولوژی, آن را کنترل میکنند؟ بگوییم تکنوفایلها ١٠ سال پیش از تکینگی دریافتند که نمیتوانند تکینگی را کنترل کنند و چیز خوبی نیست, اکنون چه میکنند, چگونه از پیشرفت بیشتر در راستای رسیدن به آن پیش میگیرند؟ (با هم پیمان میبندند که بیایید در این یک زمینه پیشرفت نکنیم!؟)

٣. ما درباره‌یِ تکنولوژیِ پیش پا افتاده‌ای همچون بمب اتم میبینیم که تنها پس از آزمایش چندباره اش بود که توانستند به ژرفای آسیب‌های پنهان و ناپنهان اش پی ببرند, چگونه درباره‌یِ تکنولوژی همچون تکینگی که آزمودنی هم نیست — یکبار بیشتر نمیتوانید به تکینگی برسید — میخواهند از آسیب‌هایِ شناخته و مهندتر, ناشناخته‌ اش پی ببرند؟

٤. اگر کسانیکه نخست به تکینگی دست یافتند باهوش بوده و کله شق نبودند هم به کاری نمیاید, زیرا اگر این تکنوفایل‌هایِ باهوش بیش از اندازه منتظر بمانند کم کم کله شق‌ها هم به ساخت آن توانا میشوند (همانجور که امروز کره‌یِ شمالی شده و ایرانِ کله شق هم دارد به بمب اتم مجهز میشود): تکنولوژی در دست من یا شما یا شماری برگزیده ابرباهوشِ همه چیزدان نیست, دیر یا زود فراگیر میشود.

روند پیشرفت هوش مصنوعی تا حدود زیادی قابل برونیابی است، همانطور که تاکنون بوده، و زمانی هم که کامپیوترها به توانایی های انسان نزدیک شوند، و اولین کامپیوتر بتواند از آزمون تورینگ موفق بیرون آید، فاصله چندانی با تکینگی نخواهیم داشت. قضیه تکینگی هم با بمب اتم متفاوت است، از این جهت که مسئله کنترل هوش برتر، یک مسئله تئوریست، که بیشتر به رشته هایی مانند تئوری بازیها مربوط می شود.

اینکه کله شق ها هم به تکینگی دست پیدا کنند و منجر به نابودی حیات شوند، محتمل است، اما چقدر میتوان مطمئن بود؟ به گمان من حتی نمی توان با اطمینان بالایی گفت که انسان حتما روزی به تکینگی دست خواهد یافت، چنانچه در پست بعد دلایلم را خواهم آورد.

[Unknown]

به نظر می رسد که انسان دارد به مرز ظرفیت مغزی خود نزدیک می شود. اکنون در ریاضیات مسائلی را داریم، که چند دهه (یا بعضا قرن) از مطرح شدنشان می گذرد، هزاران تن از برجسته ترین ریاضیدانان روی آن کار کرده اند، اما هنوز حل نشده اند. در فیزیک نیز دهه هاست که جهش بزرگی رخ نداده، و مسائلی کماکان لاینحل باقی مانده اند. در هر رشته ای، در نهایت عامل متوقف کننده، پیچیدگی خواهد بود. بنابراین، به نظر می رسد که بدون بکارگیری هوش برتر (هوش مصنوعی، یا مهندسی ژنتیک) پیشرفت دانش به تدریج کند و در نهایت متوقف خواهد شد.

حال پرسش اینجاست که از کجا معلوم این نقطه توقف، قبل از دستیابی به هوش برتر نباشد؟

[Mehrbod]

به نظر می رسد که انسان دارد به مرز ظرفیت مغزی خود نزدیک می شود. اکنون در ریاضیات مسائلی را داریم، که چند دهه (یا بعضا قرن) از مطرح شدنشان می گذرد، هزاران تن از برجسته ترین ریاضیدانان روی آن کار کرده اند، اما هنوز حل نشده اند. در فیزیک نیز دهه هاست که جهش بزرگی رخ نداده، و مسائلی کماکان لاینحل باقی مانده اند. در هر رشته ای، در نهایت عامل متوقف کننده، پیچیدگی خواهد بود. بنابراین، به نظر می رسد که بدون بکارگیری هوش برتر (هوش مصنوعی، یا مهندسی ژنتیک) پیشرفت دانش به تدریج کند و در نهایت متوقف خواهد شد.

حال پرسش اینجاست که از کجا معلوم این نقطه توقف، قبل از دستیابی به هوش برتر نباشد؟

روند پیشرفت هوش مصنوعی تا حدود زیادی قابل برونیابی است، همانطور که تاکنون بوده، و زمانی هم که کامپیوترها به توانایی های انسان نزدیک شوند، و اولین کامپیوتر بتواند از آزمون تورینگ موفق بیرون آید، فاصله چندانی با تکینگی نخواهیم داشت. قضیه تکینگی هم با بمب اتم متفاوت است، از این جهت که مسئله کنترل هوش برتر، یک مسئله تئوریست، که بیشتر به رشته هایی مانند تئوری بازیها مربوط می شود.

اینکه کله شق ها هم به تکینگی دست پیدا کنند و منجر به نابودی حیات شوند، محتمل است، اما چقدر میتوان مطمئن بود؟ به گمان من حتی نمی توان با اطمینان بالایی گفت که انسان حتما روزی به تکینگی دست خواهد یافت، چنانچه در پست بعد دلایلم را خواهم آورد.

در این جستار هم چیزی بجز این نگفتیم, که با روند کنونی دیر یا زود به تکینگی^[1] میتوانیم برسیم.

دشواری اینجاست که گفتیم نمیتوانیم آن را کنترل کنیم, نمیدانیم چه کسانی نخستی به آن دست میابند و میدانیم که
با کوچکترین لغزش — که نشان دادیم پیشگیری ناپذیر است — نژاد بشر نابود, برده یا هر سرنوشت ناخواستنیِ شایند^[2] دیگری خواهد شد.

اینکه پیشرفت دارد کُند میشود پس بیایید هوشواره^[3] بسازیم و به تکینگی برسیم هم درست است, ولی سودی برای ما ندارد. پیشرفت برای
خودِ پیشرفت که خوب نیست, پیشرفت برای این خوبه که مایه‌یِ آسایش و بهزیستی^[4] ما آدمهای زنده شود, اگر این پیشرفت بخواهد همچون
تکینگی مایه‌یِ ساخت ابرهوشواره‌هایِ^[5] باهوشتر از خود امان شود که دیرتر جای ما را گرفته و نابود شویم دیگر به درد نمیخورد و باید با آن ستیزید.

اینکه شما تاکنون از تکنولوژی چیزی جز خوبی نداده‌اید مایه‌یِ اینکه تا همیشه چیزی خوب برای شما بماند نیست, نسیم طالب این را «پرسمان^[6] بوقلمون» مینامد:

— یک بوقلمون با نگرش به گذشته (آمار, etc.) میبینید که هر روز برای او خوراک میاورند و در ناز و نعمت‌ و آسودگی زندگی میکند و هر روزی که میگذرد به نیکسرشی این
آدمهای مهربان که از وی نگهداری میکنند بیشتر و بیشتر باورمند میشود, مگر تا روزیکه شب سالِ نو فرارسیده و همین آدمهای مهربان او را گرفته و برشته (بریان کرده) و نوش^[7] جان میکنند!





----
1. ^ tak+in+eg+i::Takinegi || تکینگی: نقطه‌یِ تکین Ϣiki-En, Ϣiki-Pâ singularity
2. ^ šây+and::Šâyand || شایند: ممکن Ϣiki-En possible
3. ^ huš+vâr+e::Hušvâre || هوشواره: هوش مصنوعی Ϣiki-En artificial intelligence Künstliche Intelligenz
4. ^ beh+zist+i::Behzisti || بهزیستی: رفاه Ϣiki-En, Ϣiki-Pâ welfare
5. ^ abar+huš+vâre::Abarhušvâre || ابرهوشواره: super intelligence
6. ^ pors+mân::Porsmân || پرسمان: مساله Dehxodâ, Ϣiki-En problem
7. ^ Navidan || نویدن: وعده دادن Ϣiki-En, Ϣiki-En to give good news; to promise; to augur; to fortell

[مزدك بامداد]

یک بوقلمون با نگرش به گذشته (آمار, etc.) میبینید که هر روز برای او خوراک میاورند و در ناز و نعمت‌ و آسودگی زندگی میکند و هر روزی که میگذرد به نیکسرشی این
آدمهای مهربان که از وی نگهداری میکنند بیشتر و بیشتر باورمند میشود, مگر تا روزیکه شب سالِ نو فرارسیده و همین آدمهای مهربان او را گرفته و برشته (بریان کرده) و نوش[7] جان میکنند!

خب، هر باشنده ای یک زمان زیست دارد. ژن های خود ما هم به فرمان مرگ میدهند تا جا برای پیشرفت و فرگشت خودشان در کالبد زادمان نو، باز شود. بر این پایه ، این بوقلمون، زیانی ندیده چرا که به هرروی بایستی میمرد، ولی دستکم دچار خانه ی سالمندان و گرگ بیابان نشده!

[Mehrbod]

راسل گرامی درباره‌یِ کتابِ تازه‌ای از Steven Pinker به من گفت به نام «The Better Angels of Our Nature: Why Violence Has Declined» که ٧٠٠ برگ
آمار و نوشته است در این باره که از ٧٠ سال و اندی پیش با نگرش به آمار آگاشته^[1] شده, از شمار خشونت در همه‌یِ چهره‌هایِ آن در سرتاسر جهان کاسته شده است.

«نسیم نیکولاس طالب» در پاسخ نوشتاری به فرنام^[2] «The “Long Peace” is a Statistical Illusion» را داده که بسادگی نشان میدهد این «آشتیِ دراز» چیزی
بیشتر از یک سراب نمیباشد و آمار آورده شده کوچکترین ارزشی ندارند و بساکه پادارزش میباشند, زیرا به ما چهره‌ای نادرستی از واقعیت را نشان میدهند.

همچنین رهگذری نیز به این واقعیت زده که چرا ریسکِ میرایی بسیار بیشتر از گذشته نیز شده است:

١. از دست رفتگی «هنودِ^[3] آبخُستین {اثر جزیره‌ای}»: گستره‌یِ جنگها از تیره‌ها با تیره‌ها, به ابرکشورها به ابرکشورها رفته است.

٢. افزایش شکنندگی: فندآورهای^[4] نو دامنه‌یِ آسیب بالاتری دارند و به شکنندگی سیستم می‌افزایند; اگرچه سازوکارهای بازدارنده‌ای آنجا هستند, ولی با نگرش به پیشگیری ناپذیری‌ها لغزش‌ها (i.e. Fait Tails) زمانیکه به لغزش بروند, آسیب بسیار بسیار بزرگتری دربر خواهند داشت.

اگر ما یک رویگرایندی^[5] را x بدانیم, هنود (دامنه‌یِ آسیب) آن خواهد بود: f(x)

برای نمونه, x میتواند یک زمین‌لرزه باشد, f(x) میتواند شمار کسانی باشد که از زمین لرزه خواهند بود.

در جهان امروز و بیشتر از همه در گفتمانهای آکادمیک, بنادرستی x را همان ریسک میدانند: رویگرایندی اینکه بهمان x چه اندازه گرایندیِ^[6] رخداد دارد.

ریسک از دیدگاه جاافتاده‌یِ امروزین: در این نیروگاه اتمی, چه رویگراندی‌ای هست که لغزشی = x پیش بیاید؟
ریسک از دیدگاه فربودگرایانه: در این نیروگاه اتمی, به گاه رخداد یک لغزش, چه آسیبی =f(x) خواهیم داشت؟

----
1. ^ â+gâštan::Âgâštan || آگاشتن: ثبت کردن ϢDict-Pâ, Ϣiki-En to register
2. ^ far+nâm::Farnâm || فرنام: عنوان; سرنام Dehxodâ, Ϣiki-En title
3. ^ Hanud || هنود: اثر, تاثیر effect
4. ^ fand+âvar::Fandâvar || فنداور: Ϣiki-En technician
5. ^ ruy+ger+ây+and+i::Ruygerâyandi || رویگرایندی: احتمال رویدادن Ϣiki-En likelihood Möglichkeit
6. ^ ger+ây+and+i::Gerâyandi || گرایندی: احتمالمندی Ϣiki-En probability

[Mehrbod]

خب، هر باشنده ای یک زمان زیست دارد. ژن های خود ما هم به فرمان مرگ میدهند تا جا برای پیشرفت و فرگشت خودشان در کالبد زادمان نو، باز شود. بر این پایه ، این بوقلمون، زیانی ندیده چرا که به هرروی بایستی میمرد، ولی دستکم دچار خانه ی سالمندان و گرگ بیابان نشده!

از دید من هم برای بوقلمون بد نیست, ولی اگر خود امان را همین بوقلمون ببینیم که داریم با دست خود امان باشندگانی^[1] بهتر از خود امان درست میکنیم که جای ما را بگیرند, دیگر به هیچ روی خوب نیست!

به دید من فندآوری^[2] بد نیست, اگر که میتوانستیم آنرا راستا دهیم. برای نمونه, در همین پرسمان^[3] «باشندگان بهتر», اگر روند پیشرفت فندآوری براستی دست هومنی^[4]
بود و میتوانستیم نخست بسویی برویم که خودِ ما بشویم آن «باشندگان برتر و بهتر», آنگاه پیشرفت آن نه تنها خواستنی که بایسته هم بود, ولی در نگاه کنونی
میبینید که با چه شور و انگیزه‌ای^[5] برخی آن بیرون دارند بسوی ساخت هوشواره‌ای^[6] باهوشتر, بهتر, توانمندتر از آدم میروند, بی آنکه به پیامد‌هایِ آن, یا هتا چراییِ خوبی یا بدی آن بیاندیشند.






----
1. ^ baš+ande::Bâšande || باشنده: موجود being
2. ^ fand+âvar+i::Fandâvari || فنداوری: تکنولوژی Ϣiki-En technology
3. ^ pors+mân::Porsmân || پرسمان: مساله Dehxodâ, Ϣiki-En problem
4. ^ human+i::Humani || هومنی: بشریت mankind || هومنی: یک هومن a human
5. ^ an+gix+tan::Angixtan || انگیختن: به جنبش افتادن; تحریک شدن MacKenzie, ϢDict-Pâ, Dehxodâ to be stimulated stimuliert werden
6. ^ huš+vâr+e::Hušvâre || هوشواره: هوش مصنوعی Ϣiki-En artificial intelligence Künstliche Intelligenz