پیشرفت روزافزون فندآوری: به کجا می‌رویم؟

[Nilftrondheim]

داریوش جان کافیست اندکی این تعریف را دستکاری کرد :

اگر زمین نابود شود، انسان نیز نابود میشود.
انسان نباید نابود شود.
پس نباید گذاشت زمین نابود شود
+
باید عوامل نابود کننده زمین را نابود یا مهار کرد تا زمین نابود نشود!

با یک شرط اضافی به راحتی میشود اکثریت مطلق انسانهای زمین را به دست ماشین کُشت باقی را هم تا سر حد بردگی تحت کنترل درآورد!!!!!

ولی هوش مصنوعی بسیار بسیار پیچیده تر از این تعریف ساده هستش! همین الان ما به انواعی از هوش مصنوعی دسترسی داریم که میتونه تصمیمهایی بر خلاف برنامه هایی که پیش برایش تعریف شده بگیرد. یا بهتر است بگویم میتواند بسته به شرایط از خود واکنش مناسب نشان دهد. منتها همه چیز به هدفی که تعریف شده بستگی دارد و خیلی وقت از مرحله ی برنامه از پیش تعریف شده گذشته ایم.
به طور مثال در جدید ترین تکنولوژی نظامی انگلیس، هدف انجام عملیات و سالم بازگشتن به پایگاه است! در این بین سعی میشود هیچ برنامه از پیش تعریف شده ای وجود نداشته باشد و تصمیمهای ماشین همگی بسته به شرایط خواهد بود.

حالا فرض کنید روزی هوش مصنوعی ساخته شود که هدفش! بقای خودش و پیشرفته تر شدن و مجهز تر شدنش به هر قیمتی باشد.

البته من مثل مهربد به داستان ترمیناتور و اینکه ماشین میزنه دخل بشر رو میاره عقیده ای ندارم و فقط خواستم این نکات رو یاد آوری کنم. چون ماشین هر چه قدر هم که باهوش باشد و هر چه قدر هم که سریع پردازش کند باز هم ساخته دست بشر است! همین عامل ساده باعث میشود ماشین همیشه یک قدم از انسان عقب تر باشد.

برای رسیدن به قطار فکری که مطرح کردید اصلا هوش مصنوعی لازم نیست، هر عقل سلیمی میتواند به نتیجه ای مشابه برسد. البته با اخته کردن اکثر انسان ها، نه هولوکاست. ناگهان دیگر ترسناک نیست، هست؟


ماشین ساخت دست بشر میتواند خود اصلاح گر باشد و به مدد فیدبک مثبت (Bootstrapping) به درجه ای از توانایی برسد که قابل تصور نیست. با این وجود، قبلا هم گفته ام که بشری که بتواند AI بسازد، خیلی پیشتر به mind uploading و neural augmentation دست یافته و جای نگرانی نیست.

[Transcendence]

اسپاگتی بیامرزد پیامبران رو ،فکر کنم این فیوچریست ها ژن پیامبری دارند.
همه چی درست می شه ، دلنگرانی نداره،تکنولوژی بزرگ ،توکلت به تکنولوژی باشه.

درنوشته های پیامبران مدرن پیشگویی شده که پس از چند دهه نابسامانی ناگهان تکنولوژی رحمتش ما را در بر خواهد گرفت

و ما به بهشت می رویم .
ذهنمون رو (روح مان را)از بدنمان جدا می کنیم و توی این فضای مجازی upload می کنیم . و جاودانه در اون جا

زندگی می کنیم ، آزاد و رها از همه محدودیت های مادی ، هرجا که بخواهیم می توانیم با یک اشاره حرکت کنیم ،دیگه زمان و

مکان معنایی نداره.هرچی بخوای سریع برات آماده می شه .اصلا همه اون موقع بیدار می شن همه دانا می شن همه زیبا می شن.مثلا

شما فرض کن می خوای سکس کنی ، یه کس ردیف برات ایکی ثانیه ای آماده می شه .تازه یه بند هم می تونی بکنی آبت هم بند

نمی آید.به به چه دنیای زیبایی ،چه امیدواری قشنگی .

این است رحمت تکنولوژی ،باشد که سپاسگزار باشید.ما شما فیوچریست ها رونفرستادیم مگر بشارت دهنده و بیم دهنده ، و هر آن کس

که ایمان آورد به خودش نیکی کرده است .
(راست گفت تکنولوژی بزرگ و بلند مرتبه)

[Mehrbod]

عقاید مهربد الاستیسیته فوق العاده ای دارند. به خانه اول برمیگردند.

اینجور نیست, بویژه من زمانیکه سوی دیگر را خواستنی میبینم به هیچ روی انگیزه‌ای روی پافشاری بیجا نمیبینم, یعنی درست مانند
پنداشتن آفریدگاری خوب و مهربان که پس از مرگ همه‌یِ ما را بخواهد میفرستد بهشت و پس حوری و حال و هول, و پس انگیزه‌ای برای
خداناباوری چون من نمی‌ماند که بخواهم از روی لجبازی یا چون نمیپسندم — چه را نمیپسندم, حوری را؟ — بگویم نه نیست, بهمانند اینور هم
چیزهاییکه شما میپندارید مانند نامیرایی و جاودانگی و "آپلود شدن در نرم‌افزار" و بهمان و بیسار چیز بدی در خودشان ندارند, بجز اینکه ایندو هر دو, پیوندی به واقعیت‌های امر ندارند.


و نیز جدای آن, نکته‌یِ دیگر در گفتمان این است که چیزهاییکه به دید شما نو و تازه میایند را نمونه‌وار خود من به ده‌ها ریخت و نگارش گوناگون درباره اشان
تاکنون خوانده ام و اندیشیده ام و هیچ چیز آنچنان نویی درخود ندارند. هتّا بخشهایی که از سخن که اندکی بسوی طعنه و ریشخند میکشیدند هم چند دهه‌ای کهنه‌اند:

با خرس ها که قبل از انسان بودند چه کنیم؟ جنگل نرویم؟
Project Grizzly (film) - WiKi
Bear spray - WiKi
Smith Wesson Model 500 - WiKi

همسنجی شود با این:

Discours sur l'origine et les fondements de l'inégalité parmi les hommes
...
Qu'on daigne nous expliquer une fois ce qui avait pu produire ces nuées de barbares
qui durant tant de siècles ont inondé l'Europe, l'Asie et l'Afrique ? Était-ce à
l'industrie de leurs arts, à la sagesse de leurs lois, à l'excellence de leur police, qu'ils
devaient cette prodigieuse population ? Que nos savants veuillent bien nous dire
pourquoi, loin de multiplier à ce point, ces hommes féroces et brutaux, sans lumières,
sans frein, sans éducation, ne s'entr'égorgeaient pas tous à chaque instant, pour se
disputer leur pâture ou leur chasse ? Qu'ils nous expliquent comment ces misérables
ont eu seulement la hardiesse de regarder en face de si habiles gens que nous étions,
avec une si belle discipline militaire, de si beaux codes, et de si sages lois ? Enfin,
pourquoi, depuis que la société s'est perfectionnée dans les pays du Nord et qu'on y a
tant pris de peine pour apprendre aux hommes leurs devoirs mutuels et l'art de vivre
agréablement et paisiblement ensemble, on n'en voit plus rien sortir de semblable à
ces multitudes d'hommes qu'il produisait autrefois ? J'ai bien peur que quelqu'un ne
s'avise à la fin de me répondre que toutes ces grandes choses, savoir les arts, les
sciences et les lois, ont été très sagement inventées par les hommes, comme une peste
salutaire pour prévenir l'excessive multiplication de l'espèce, de peur que ce monde,
qui nous est destiné, ne devint à la fin trop petit pour ses habitants.
...

Quoi donc ? Faut-il détruire les sociétés, anéantir le lien et le mien, et retourner
vivre dans les forêts avec les ours ? Conséquence à la manière de mes adversaires,
que j'aime autant prévenir que de leur laisser la honte de la tirer.
...

گفتمانی درباره‌یِ خاستگاه و بـُنیاد‌هایِ نابرابری میان آدمیان

...
...
≈ که چه؟ آیا میگویید که باید جامعه را نابود کرده, خود و شما را نیست نموده و بازگردیم به جنگل‌ها و با خرسها زندگی کنیم؟
پیامد گفتگویی که مخالفان من به آن میرسند و ...





خرس و جنگل و اینها تنها به ذهن من و شما نرسیده‌اند, به ذهن دیگران و هر کس دیگری که خردی داشته و به گفتمان فندآوری و
تمدّن پرداخته است, نیز رسیده‌اند; اینور بسادگی خرس‌ و جنگل و آنور بهشت و جاودانگی مادّی و upload شدن در رایانه‌ها نیست, شوربختانه.

[sonixax]

برای رسیدن به قطار فکری که مطرح کردید اصلا هوش مصنوعی لازم نیست، هر عقل سلیمی میتواند به نتیجه ای مشابه برسد. البته با اخته کردن اکثر انسان ها، نه هولوکاست. ناگهان دیگر ترسناک نیست، هست؟


ماشین ساخت دست بشر میتواند خود اصلاح گر باشد و به مدد فیدبک مثبت (Bootstrapping) به درجه ای از توانایی برسد که قابل تصور نیست. با این وجود، قبلا هم گفته ام که بشری که بتواند AI بسازد، خیلی پیشتر به mind uploading و neural augmentation دست یافته و جای نگرانی نیست.

لازم نیست همه را اخته کرد تا هلوکاستی اتفاق نیوفتد! کافیست افسار دست دیوانگان نیوفتد! در مورد ساخت ماشین مورد نظر، پیدا کنید کلی دانشمند دیوانه که بتوانند همزمان با هدفی شوم جهت نابودی بشر روی پروژه ای مشترک کار کنند! پیدا کردید به ما هم بگویید کجایند بهشان بپیوندیم دیدن آن همه کُس خُل یک جا حال میدهد
همچنین میشود ماشینی ساخت که هرگز قواعد بنیادین خودش را نتواند نقض کند!

[Mehrbod]

اخلاقیات دوگانه

در چهار اکتبر, در پایان‌هایِ سال ٢٠١٣ یک بالگرد ارتشی آمریکایی از فراز زمین‌هایِ ییلاقی نزدیک جلال‌آباد افغانسان پرواز میکرد. در یک دهکده, آنجورکه CNN و دیگر
سرچشمه‌هایِ خبری گزارش داده‌اند, پنج تن که برای خودشان بیرون نشسته اند «تا از گرمای جانسوز دمی آسوده باشند», در چشم بر هم زدنی قربانی تیراندازی‌هایِ
بالگرد شده و جان میسپارند. یک سخنگوی NATO تازش را یک «عملیات از پیش برنامه‌ریزی شده دقیق» مینامد و میافزاید که گزارش‌هایِ آغازین از "نبود
هرگونه مرگ و میر شهروندی" خبر میدهند. مسئولان محلی هر آینه میگویند که هر پنج کشته شهروندان ساده, و دو تن از آنان کودک بوده‌اند.

«ما همچنان داریم وضعیت را بررسی میکنیم», Will Griffin سرهنگ آمریکایی میگوید.

در یک چشم بر هم زدن, یک سرباز کارکشته و ناشناس آمریکایی, یک آدمکش حرفه‌ای, با کاربُرد یکی از پیشرفته‌ترین ماشین‌افزارهای
تکنولوژیک بر روی زمین, مرگ بیشتری را از همه‌یِ آنچه تئودور کازینسکی در ١٧ سال از چنانکه-میگویند, حملات تروریستی ‌اش, رقم میزند.

بروشنی همه‌یِ جزئیات و شرایط بر ما روشن نیستند و به احتمال بالا هرگز نخواهند بود. ولی این چه درباره‌یِ احساس جمعی ما میگوید, هنگامیکه
سخن از مرگ پنج تن در افغانسان میرود و هیچگونه یا واکنش اخلاقیِ بسیار اندکی برانگیخته میشود, و کشته شدن سه تن — که واپسین آن ٢٠
و اندی سال پیش باشد — سر و صدای اعتراض‌‌های محکوم‌آمیزانه و پر از خشم را درمیآورد. چگونه است که پذیرفته است اگر نهاد مسئول
آدمکشی‌ باشد, ولی کس نه؟ خلبانی ماشه را کشیده, ولی احتمالا تصمیم کشتن ازسوی ماموری خود پدافند-نامیده‌یِ تنها و ناشناس بالادست
آمده است. ولی هنگامیکه یک کس همچون کازینسکی — یک ناشناس و خود پدافند-نامیده و ناشناس دیگر, کسیکه خردورزیده و دوراندیشانه
بیمی سهمگین در تیررس به خود, به طبیعت و به همه‌یِ آدمی میبیند — باید همچون قاتلی روانی و روانپریش به تصویر کشیده بشود.

اگر نه هیچ چیز دیگر, اخلاقیات دستکم باید پیوستگی داشته باشد. زندگی ارزشمند است, چنانکه بیشتریان میگویند: همه‌یِ کشتارها
نادرست‌اند, ولی اگر باید, میتوانند, تحت شرایطی بسیار استثنایی و کمیاب, توجیه‌پذیر باشند. کشته شدن پنج افغان بیهوده,
دلبخواه و بسختی دفاع‌ناپذیر است; براستی هیچ از مرگ آنان بدست نیامده. کُنش‌های کازینسکی در سوی دیگر, هر اندازه اسفناک که
بخواهند بوده باشند, یکراست به چاپ آرمان‌نامه‌یِ بدنام او, و به چرخیدگی چشمان جامعه به سوی پرسمان تکنولوژی انجامیدند.




On the Question of Technological Slavery: A Reply to Campbell and Lipkin The Wildernist

[Rustin]

بعضی‌ها سخت شیفته قدما هستند و بعضی دیگر به شدت هواخواه تجدد می‌باشند؛ فقط عدهٔ معدودی هستند که می‌توانند حد وسط را نگاه‌ دارند؛ نه آرای درست قدما را به دور می‌اندازند و نه اختراعات صحیح نوین را مسخره می‌کنند. فرانسیس بیکن

[Transcendence]

احساس می کنم که مسئله تکنولوژی ،بیشتر غربی است تا شرقی...فکر کنم یک جایی تد کازینسکی از ثبات فرهنگ های شرقی مثل چین و ثبات فرهنگ اسلامی صحبت کرده بود.

[Mehrbod]

بعضی‌ها سخت شیفته قدما هستند و بعضی دیگر به شدت هواخواه تجدد می‌باشند؛ فقط عدهٔ معدودی هستند که می‌توانند حد وسط را نگاه‌ دارند؛ نه آرای درست قدما را به دور می‌اندازند و نه اختراعات صحیح نوین را مسخره می‌کنند. فرانسیس بیکن

اینجا سخن تنها این نبوده که آیا کهنه‌گرایی (سنّت) بهتر است یا نوین‌گرایی (modernism), بساکه سخن بیشتر از همه این بوده که آیا
پیشرفت تکنولوژی با روند کنونی خود دورنمایی خواستنی برای آدمی دربر دارد یا نه, که پاسخ به آن از کمابیش هر نگاه, نه بوده است.

پس اینکه کسی بگوید آنوری‌ها فندپرست و اینوری فندگریز‌اند و راه میانه از همه بهتر است گرچه در جای خود درست, ولی پیوندی به اینکه
آیا نمونه‌وار تکنولوژی سرانجام روبات‌هایِ هوشمندتر از آدمی میسازد یا ابزارهای شستشوی مغزی چه اندازه پیشرفته میشوند دیگر نخواهد داشت.

[Mehrbod]

احساس می کنم که مسئله تکنولوژی ،بیشتر غربی است تا شرقی...فکر کنم یک جایی تد کازینسکی از ثبات فرهنگ های شرقی مثل چین و ثبات فرهنگ اسلامی صحبت کرده بود.

فرهنگ چیزی بیشتر از آموزه‌ها و رفتارهای فراگیر میان شماری از مردم نیست و فرهنگ‌هایِ امروزین, هتّا شرقی‌ترین آن در سایه‌یِ تکنولوژی می‌بالند
و جاییکه ستیزی میان فرهنگ و تکنولوژی باشد, تکنولوژی همواره برنده است و چرایی آن از «گزینش طبیعی / natural selection» ریشه میگیرد.


برای نمونه, فرهنگ خاوری چیزی مانند ژاپن را دارد که کوشیده رسم و آیین‌هایِ کهن را با تکنولوژی بیامیزد و تا اندازه‌‌یِ خوب و هتّا بامزّه‌ای هم
در این زمینه کامیاب بوده است, ولی در هر چهره‌ای برآیند آن این است که آیین تنها و تنها تا زمانی بجا میماند که در ستیز با "تکنولوژی" و "پیشرفت"
نباشد و اگر باشد, خود به خود نیست خواهد شد. ازینرو, در بدترین چهره‌یِ خود, فرهنگ یک فاکتور دست و پاگیر و کند کننده است و در
بهترین چهره‌یِ خود یک فاکتور شتابدهنده و تند کننده. برای نمونه فرهنگ‌هایی که ریسک‌پذیر‌اند (آمریکایی) نوآوری و پیشرفت‌هایِ آنچنانی دارند
ولی بجایش آسیب بالایی هم بجا میگذارند, فرهنگ‌هایی که ولی ریسک‌گریز و گام-خُرد‌ اند (آلمانی) پیشرفت آهسته‌ ولی پیوسته‌تر دارند.



پس باری دیگر, پُرسْمان تکنولوژی اینجا این بوده که خب این iPhone‌ها و این روبات‌ها و این ابزارهایی که برای کنترل و
خواندن مغز ساخته میشوند و این چاپگرهای 3D و دیگر ابزارها چه دورنمایی دربر دارند و آینده‌یِ آدمی را
چگونه رقم خواهند زد, و بسیار کمتر اینکه کدام فرهنگ و کدام نگاه, شرقی یا غربی, بهتر و بدتر است.


سرانجام اینکه, آنچه از کازینسکی آورده‌اید سخنی بسیار بدخوانده شده است, به گمان بسیار بالا شما به بخشی
از نوشته‌هایِ کازینسکی اشاره میکنید که به چرایی پیدایش تکنولوژی‌هایِ نوین پرداخته است و اینکه
چرا پس از صدها هزاران سال که در سرتاسر زمین نیازی به هیچکدام از تکنولوژی‌ها نوین
نمیرفته و دیده نمیشده, در غرب ناگهان نخستین رگه‌هایِ آن پدیدار شده‌اند, که در
حقیقت پرسشی‌ست که خود کازینسکی نیز پاسخ آنرا بدرستی نمیداند چنانکه خود وی نیز اشاره میکند, و
تاریخ‌شناسان نیز تفسیر‌هایِ بسیار گوناگون و دگرستیز ازآن دارند و رویهمرفته کسی بخوبی و درستی نمیداند چرا.

[folaani]

فک کنم صد هزار سال دیگه هم برگردم تو هنوز داری این بحث رو میکنی

بابا ول کن این بحث روبات های آدمکش و چرت و پرت ها رو.

کسی نمیتونه از پیشرفت فناوری جلوگیری کنه.

فقط میشه تاحدی هدایت و کنترلش کرد.

بقیش دیگه شانس هرچی میخوای اسمش رو بذار.

حداقل برو کنگفو کار کن خیلی مفیدتره بیشتر به دردت میخوره.

راستی مث اینکه یادتون رفته بوده این آیدی قدیمی من زمان بن اش محدوده