پیشرفت روزافزون فندآوری: به کجا می‌رویم؟

[Nilftrondheim]

سخن آنجا این بیشتر بود که دامن‌گیری (دامنه‌یِ آسیبرسانی)
تکنولوژی رو به افزایش است; به دیگر زبان, تیغ‌ها دارند هر چه تیز میشوند:


Lao Tzu: the sharper the tools, the darker the times.

این پیوندی به نظارت ندارد.

این از یکسو, از سوی دیگر دسترسی‌پذیری به این ابزارها روز به روز بیشتر و آسانتر میشود و نمونه‌وار با پیشرفت کنونی
دور نیست روزیکه هر کس با هوش نسبتا بالا بتواند نمونه‌وار جنگ‌افزارهای بیولوژیکی را در زیرزمین خانه‌اش بسازد.

بله میتواند، اما اول باید برای پلیس توضیح دهد که ماشین PCR ی که خریده و در زیر زمین گذاشته را برای چه لازم دارد!

اگر این دور از باور میاید, میتوان به این نمود از پیشرفت پرداخت که چند دهه پیش رایانه‌ها اندازه‌یِ
یک ساختمان بودندو تُندای پردازشیِ کمتر از یک گوشی موتورولای به درد نخور امروزین را داشتند, یا
همه‌یِ دستگاه چاپی که گوتنبرگ با هزار کبکبه و دبدبه درست کرده بود را امروز یک چاپگر
لیزری بهترش را فراهم ساخته است و چاپگرهای سه بُعدی نیز رو به پیشرفت‌ روزافزون‌اند.

یا نمونه‌یِ باز دم دست‌تر, میتوان به این پرداخت که امروز هرکس با اندکی هوشمندی و
پژوهمندی (resourcefulness) میتواند با جستجوی اینترنت راه بمب‌سازی را یاد بگیرد.



نکته در همه اینها این است, اگر تا دیروز تنها ابزارهایی مانند کارد و چاقو در دسترس بودند, آسیب‌رسانی
آنها نیز بسیار مرزمند بود. این مرز و نیز دسترس‌پذیری آنها, هر دو رو به افزایش‌اند.

باز برای پلیس باید توضیح دهد که با چند تن آمونیوم نیترات کدام باغ را میخواهد کود دهد!

در مورد تکنولوژی های در دسترس مجاز در مقابله به مثل موثر بحث خواهد شد، اما چون زیاد آن را در بحث نظارت پیش میکشید مجبورم به آن بپردازم: با همین IT پیشرفته و همگانی هنوز هکرهایی نداریم که بانک ها را خالی کنند، هواپیماها را به کوه بکوبانند و شبکه برق را از کار بیندازند. بمب های کثیف نیز از همین دسته اند. من ژنراتور تکنسیوم را بغل هم گرفته ام! اما کسی را ندیده ام که آن را بدزدد و زیرش فیزا کپسولی بگذارد.

١- ابزار نظارت همگانی بازدارندگی بسیار پایین داشته و بیشتر کارکرد پیگیری قانونی دارد.

نوپ! اتوریته موجود عقب ماندگی ذهنی ندارد و در صورت امکان سو استفاده از یک تکنولوژی نظارت و سخت گیری متناسب را نشان خواهد داد. وگرنه در ایران و آمریکا هر روز شاهد انفجار بودیم. پیگرد؟! خبر دارید آمریکا سر همین WoT چقدر مسلمانان مشکوک را دستگیر و شکنجه کرد؟

٢- ابزار نظارت همگانی بسختی فرزام (perfect) است زیرا از سوی نیروی آدمی کنترل میشود و خطاپذیری بالا دارد.

اتوماسیون هم رفته ددر دیگه؟ کارهایی که اسنودن فاش کرد دستی انجام نمیشدند. جرم الگوی خاصی دارد و با شناختن آن میتوان از آن پیشگیری کرد. خطایی در کار نیست.

٣- نظارت همگانی همچون دیگر راهکارها تنها در جایگاه یک "واکنش" به پدیده‌یِ بزرگتری از خود پدید آمده و همراه با خود, بمانند دیگر تکنولوژی‌ها, بدی‌هایِ بسا بزرگتری نیز به همراه آورده است, یک نمونه‌یِ آن کاهش حریم شخصی و آزادی‌هایِ کس باشد.

هر آینه, روشن است که شرایط اینگونه نمیتواند بمانند. با پیشرفته‌تر شدن تکنولوژی‌ها و نمونه‌وار چاپگر‌هایِ سه‌بعدی
و ابزارهای دستکاری ماده در ترازهای اتمی و رایانه‌هایِ تندتر و پیشرفته‌تر, نظارت همگانی نیز می‌نیازد که پیشرفته‌تر
و پیشبینی‌گرانه‌تر بشود و خب اگر ما امروز داریم رفتار مردم را از بیرون نگاه میکنیم, چرا با ابزارهای مغز‌خوانی مغز و اندیشه‌یِ
آنان را از درون ننگریم و تفتیش فکر نکنیم؟ یا چرا بهتر از آن, با ابزارهای کنترل مغزی از وقوع جرم و جنایت اصلا پیش نگیریم؟
و درست همانگونه که امروزه "نظارت همگانی" چندش‌آوری بسیار پایینی برای آدم امروزین دارد (چیزیکه برای
بسیاری از تیره‌هایِ نخستینی نابرتافتنی‌ست که کسی بخواهد آنان را بپاید و به حریم و دامنه‌یِ
آزادی آنان دست بدرازاند), فرداروز برای آدم فردائین هم چندش‌آوریِ بسیار پایینی خواهد داشت
که کسی بخواهد مغز و اندیشه‌یِ او را تفتیش کند تا مبادا او اندیشه‌هایِ "بد" و "سیستم‌ستیز" در سر داشته باشد.

پس این راه "نظارت همگانی" اگر چه واکنشی در جای خود سودبخش,
ولی در دیرزمان تنها به بار آمدن مشکلاتی باز بزرگتر و راهکار‌ناپذیرتر خواهد انجامید.

قرار نیست آینده 1984ی باشد که فکر ناجور منجر به مجازات شود! همانطور که گفتم پرداختن به جرم پروسه ای مشخص دارد که در طی آن مداخله و ممانعت ممکن است. اینطور نیست که یکی صبح از خواب برخیزد و تا صبحانه نانوماشین هایی بسازد که زمین را بخورند!

نابودی حریم شخصی بهایی است که بشر برای زندگی آرام و دراز (دامپروری مانند) میپردازد. سفسطه ای نیز وجود دارد که هرگز کسی به آن اشاره نمیکند: "حریم شخصی زیر مجموعه آزادی قرار میگیرد." خیر! شما آزادید هر کار مجازی بکنید، زیر نظر 100 دوربین بودن این آزادی را از شما صلب نمیکند.

اینجا ما دیگر به این نمیپردازیم که این گفته چه اندازه خام و ساده‌انگارانه است,
و نیز به این گره فلسفیک و کهن نمیپردازیم که پس «چه کسی ناظران را نظارت کند؟»

Quis custodiet ipsos custodes? - WiKi

قانون، روانشناسان و ناظران همتراز دیگر. فکر میکنید تسلیحات اتمی کشور های صاحب توسط فرشتگان معصوم تعمیر، بازدید، نگهداری و آماده میشوند؟

[Nilftrondheim]

اینها در این رده میافتند که هر کنشی, یک بازکنشی (reaction) دربر دارد و این سخن نادرستی نیست, ولی کارآمدی ندارد.
برای نمونه, شما آنجا دامنه‌یِ آسیب به میان آمده را با یک ابزار دفاعی پاسخ داده بودید, برای نمونه در سخن آمده بود
که چاقو میتواند آسیب‌رسان هم باشد, ولی دامنه‌یِ آسیب مرزمند دارد, و در همین راستا, تفنگ هم میتواند آسیبرسان باشد (اگر
چیز دیگری از بیخ بتواند باشد!) ولی همزمان دامنه آسیبرسانی باز بزرگتری را دارد; به دیگر زبان:


Lao Tzu: the sharper the tools, the darker the times.



هر آینه, شما تنها آوردید که برای هر کدام از اینها یک ابزار واکنشی هم پدید آمده, ولی پرسش این است که این ابزار
واکنشی به چه درد میخورند؟

همانطور که گفته شد AI و Nanotech تفاوت اساسی دارند. این که با توجه به برنامه ریزی و کنترل روی آنها، نوع بد (Malevolent) میتواند توسط نوع خوب (Benevolent) خنثی و نابود شوند.

نمونه‌وار, در برابر تفنگ شما جلیقه‌یِ ضد گلوله را آورده و بسیار هم خوب, تا یک اندازه‌یِ بالایی
این کار میکند, ولی اکنون باید چه کنیم, در خیابان با جلیقه‌یِ ضد گلوله راه برویم تا قربانی تیر اندازی‌ها نشویم؟ این شمار
کسانیکه در آمریکا کشته میشوند هم اگر جلیقه‌یِ ضد گلوله به تن داشتند خب نمیمردند, ولی این بروشنی یک راهکار
به درد نخور است و در اینجا, هر دو, چه ابزار (تفنگ), چه پادافزار (جلیقه) مایه‌یِ رنج آدمی بوده‌اند و در نبود هر دو آسوده‌تر است.

با خرس ها که قبل از انسان بودند چه کنیم؟ جنگل نرویم؟
Project Grizzly (film) - WiKi
Bear spray - WiKi
Smith Wesson Model 500 - WiKi

نمونه‌یِ بزرگتر هم بروشنی کار نمیکند, در یک جنگ اتمی چه شمار کسانی
دسترسی به این سوت (suit)‌هایِ پاد-رادیواکتیو دارند؟ و آن شماری هم که دارند چه,
بایستی شباروز به تن کنند یا خودشان را در زیرزمین‌هایِ حفاظت شده زندانی؟

.If the danger is imminent, yes

[Nilftrondheim]

- نخست آنکه یا سرانجام 0=Sn است یا S≠0

به دلیل گفته شده، S≠0 درست است.

٢- n را ما نه بیکران, بساکه بزرگ گرفته‌ایم (روشنگری).

بهتر، بر پاد استدلال شماست!

٣- در برخی جاها S ایستا (ثابت) است, در برخی جاها نه: ابرهوشواره ایستا است (یکبار بختی بیشتر نیست), نانوتکنولوژی شاید سه بار گندی بالا بتواند بیاید و آدمی جان سالم به در ببرد.

بخت به کام بودگی همان بار اول را به 100% نزدیک کردن شرط لازم و کافی برای جان به در بردن ازلی است:
یک بار قمار سرنوشت ساز بار اول ≠ فقط یک بار اشتباه فاجعه بار در هر زمانی

اکنون, نکته‌یِ یکم, در اینجا نمیتوان بدلخواه S را ایستا (static) یا ناایستا انگاشت,
بساکه بایستی به دورنما و زمینه‌یِ تکنولوژی نامبرده نگریست و دید که یک لغزش چه بهایی در بر دارد.

S ها را اشتباه گرفته اید. S حالت اول (شما) بی شک ایستا نیست، n بار تکرار خود احتمال را تغییر میدهند و هیچ گونه کنترلی روی آن همه اقدام نمیتوان اعمال کرد. اما تا زمانی که S صفر نیست این موضوع اهمیت ندارد.

S حالت دوم (من) احتمال یک بار (بار اول) است: ایستا یا حداقل قابل کنترل و تعیین است، زیرا قماریست که سرنوشت حیات به آن وابسته است!

سپس, نکته‌یِ دوم:
کافی است که بار اول خطا صورت نگیرد تا خطا های بعدی سرکوب شوند.
این نیز یک پیش‌انگاشت نادرست است که اگر خطا انجام نگرفت پس دیگر هرگز خطایی رخ نخواهد داد. در یک نمونه, بگوییم
ابرهوشواره, با بختی نزدیک به ∞, اگر بار یکم خطایی انجام نپذیرد آنگاه برایند کار برای آدمی براستی خواستنی خواهد بود,
ولی نکته روشن اینجا همین است که ما نه همچو بختی نزدیک به بیکران داریم و نه توان انجام دادن و کوشیدن چندباره.

در راستای بحث اینجانب.

این پیش‌انگاشت در زمینه‌های دیگر دیگر نیز نادرست است. اگر در ساخت نانوتکنولوژی پژوهشگر یا برنامه‌نویس یک روتین را
آنجور که باید درست و دوراندیشانه پیاده نکرد, نیمی از بشریت میرود که نابود بشود ولی همچنان با نبوغ بالا و کمی بخت میتوان
آنرا درست نمود, ولی این درست شدن به این معنی نیست که بار دوم دیگر همه چیز بخوبی و خوشی انجام خواهد پذیرفت.

دفعه اول Blue Goo بسازید تا دفعات بعد بشر نابود نشود!

از زمانیکه هواپیماها ساخته شدند و ایده‌یِ "جعبه‌یِ سیاه" مطرح شد, با هر بار سقوط یک هواپیما
شانس اینکه هرگز هواپیمایی دوباره بیافتد کم شده است, زیرا در هر سقوط با بررسی و واکاوی جعبه‌یِ سیاه
لغزش‌ را دریافته و آنرا در ساخت هواپیمای پسین از میان برمیدارند. این روند ولی پیروی قانون آنتروپی است
که راه‌هایی که یک چیز میتواند کار نکند همواره بیشتر — بسیار بیشتر — از راههایی هستند که میتواند کار کند و
ازینرو در اینجا, در این تکنولوژی بسیار ساده‌تر هم آدمی هنوز نتوانسته با چند بار لغزش به فرزامش (perfection) دست یابد, زیرا راه‌هایِ به خطا رفتن بسیار‌اند (از روی قانون‌هایِ آنتروپی + آمایشیکان {combinatorics})


ازهمینرو, جاییکه آدمی پس از دهه‌ها کوشش هنوز نمیتواند هواپیمایی بسازد که ریسک افتادنش 0 باشد, این چندان مایه‌یِ "دلگرمی" نیست که بخواهد بیاید در این میان به یکبار و بی هیچگونه لغزشی ابرهوشواره‌ای میلیارد‌ها بار!
هوشمندتر از خودش را بسازد که بخوبی در کنترل و دامنه‌یِ پیشبینی‌پذیری او باشد و همانی را بکند که او میخواهد.

تا جایی که من میدانم اکثر موارد در اثر خطای انسانی رخ داده اند و حتی خودروی خودران گوگل نیز تا کنون حادثه ای غیر عامل انسانی نداشته است.

شما طوری وانمود میکنید گویا همین فردا قرار است AI یا نانوماشین واقعی بسازند! کسانی که این کار را خواهند کرد به افزونه های عصبی و هوش برتر مجهز خواهند بود و طراحانی که سرشان به تنشان میارزد همه حالات ممکن را پیشگویی خواهند کرد و موانع لازم را در برابر خطا قرار خواهند داد. اگر فرگشت چنگار و بیماری روانی را با سیستم هایی که میدانیم سرکوب میکند، چیزی که توسط طراحی هوشمندانه به وجود آمده چگونه راه خطا را در پیش خواهد گرفت؟

[Nilftrondheim]

در راستای جُستار, سخن هرگز این نبوده که نامیرایی ناشدنی‌ست, یا گرمایش زمین ناراهکارپذیر, بساکه
سخن این بوده که تکنولوژی یک نیروی افسارگریخته است و در کنار اینها, هزاران چیز دیگر
هم دارند نوآوری میشوند که اینها همدیگر را می‌پوچانند (they cancel out one another).

من این را در جُستار دیگر هم در پاسخ به شما از «ژاک
الول» آوردم ولی به درونمایه‌یِ سخن او پُرننگریستید:


something that we cannot do, for example, cure cancer or create life ex nihilo. But this brings us
under the radical judgment that if everything is possible then nothing is
possible. Nothing is possible for the self because it is the object that is
possible. As Castoriadis put it, absolute power is impotence.




به نوشته‌یِ آمده درباره‌یِ بلوف‌هایِ تکنولوژی بازنگرید.

گفت‌آورد نوشته اصلی از سوی Mehrbod

اینها همان بلوف‌هایِ تکنولوژی هستند.

آیا تکنولوژی میتواند شما را نامیرا کند؟ بی هیچ گمانی.
آیا تکنولوژی میتواند شما را به اسپاش ببرد؟ میتواند و هماکنون تا ماه برده.

...

بله درست است، they cancel out one another. آینده این شکلی است:
یکی از ده ها تکنولوژی خطرناک بشر و حیات را از بین میبرد، اما مهم نیست در جایی دیگر بشر و حیات توسط بک آپی که از ژنوم جانداران و مغز انسان ها گرفته شده بازسازی میشوند!






در ضمن شما هم به کس و شعر خواندن نویدهای تکنولوژی توسط الول اعتقاد داری هم از AI و نانو مایه میگذاری؟؟؟

[Mehrbod]

گفتم که هر رویکردی جز قتل و ترور! نکنه شما با ترور کردن و کشتن موافقی؟ حالا خوبه که اون بمب گذاری های کازینسکی باعث شد چهار تا دانشجوی بدبخت کشته بشن! که بود و نبودشون تو روند تکنولوژی تاثیر گذار نبود.

بگذارید پرسش را جور دیگری بیاوریم. بیانگارید دانشمندانی آن بیرون هستند که دارند دستگاهی
درست میکنند که میتوانند ازراه آن همه‌یِ اندیشه‌هایِ شما را خوانده و مغز شما را بدلخواه, کنترل کنند.

در برابر این دسته بایستی چه رویکردی در پیش گرفت؟

[Transcendence]

بگذارید پرسش را جور دیگری بیاوریم. بیانگارید دانشمندانی آن بیرون هستند که دارند دستگاهی
درست میکنند که میتوانند ازراه آن همه‌یِ اندیشه‌هایِ شما را خوانده و مغز شما را بدلخواه, کنترل کنند.

در برابر این دسته بایستی چه رویکردی در پیش گرفت؟

مشکل همین جاست که سیستم تکنولوژی در دراز مدت تمام آزادی های بیرونی و درونی آدمیان را از بین خواهد برد.درفیلم Transcendence این مسئله به خوبی نمایش داده شده.

[Agnostic]

یکی از بزرگترین معایب دانش و فندآوری این است که جمعیت انسانهای زمین که باید زیر 300میلیون باشد دارد بیشتر از 7میلیارد میشود.

[یه نفر]

یکی از بزرگترین معایب دانش و فندآوری این است که جمعیت انسانهای زمین که باید زیر 300میلیون باشد دارد بیشتر از 7میلیارد میشود.

این عدد 300 از کجا آوردی؟؟

[Agnostic]

این عدد 300 از کجا آوردی؟؟

انسان نوعی حیوان است و تعادل جمعیت آن باید تابع آن زمانی باشد که فاقد علم و تکنولوژی بود. چون با علم و تکنولوژی دارد بر خلاف جهت اکوسیستم و خلاف جریان طبیعت می رود.
جمعیت جهان در سال 1350 میلادی 370میلیون نفر بوده است.
افزابش جمعیت به
1-آلودگی شدید زیست محیطی مثل آلودگی هوا و آب می انجامد
2-کاهش ذخایر آب شیرین
3-نابودی خاک کشاورزی به علت کاشت محصول بیش از حد و به علت تخریب جهت ساخت و ساز ابنیه
4-نابودی گونه های جانوری به علت تخریب محیط زیست و شکار توسط انسان

[Secular]

بگذارید پرسش را جور دیگری بیاوریم. بیانگارید دانشمندانی آن بیرون هستند که دارند دستگاهی
درست میکنند که میتوانند ازراه آن همه‌یِ اندیشه‌هایِ شما را خوانده و مغز شما را بدلخواه, کنترل کنند.

در برابر این دسته بایستی چه رویکردی در پیش گرفت؟

گرامی ! بگذار منم جور دیگه ای بگم! فرض کنیم شما همه دانشمندانی که دارن روی اون دستگاه کار می کنند رو کشتین! آیا بازم تضمینی هست که دانشمندای دیگه ای جایگزین اونا نشن؟ و اگه کشتن تنها راه حل این مسئله باشه پس باید یک بکش بکش تمام نشدنی راه بیفته!