توجه کنید به سال ها درس خواندن ،دانشگاه رفتن،پرداختن به مقالات و پژوهش های علمی در برابر روند رو به کاهش ازدواج و فرزند آوری ،بالا رفتن سن بارداری و......
توجه کنید به سال ها درس خواندن ،دانشگاه رفتن،پرداختن به مقالات و پژوهش های علمی در برابر روند رو به کاهش ازدواج و فرزند آوری ،بالا رفتن سن بارداری و......
کتاب رو به شکل جست و گریخته خوندم ..خوب از شما چند تا سوال دارم.
آیا شما خودتان یک مبارز می باشید مثلا آیا گروهی دارید که با سیستم در حال مبارزه می باشد؟
چرا بازگشت به دوره نخستینی و نه سنت؟
آیا سقوط سیستم باعث آنارشیسم نمی شود؟
آیا قبول دارید که هیچ راه حل عملی قابل اعتنایی برای توقف سیستم وجود ندارد؟
مشکل اینجاست که در سیستم های فاقد مرکزیت یا فاقد نمایندگی یا به نوعی پخش(واژه ها از خودم است تخصصی نیستند ) کس نمی داند که با چه کسی و با چه سازمانی یا چه گروهی باید مبارزه کند و از طرفی دیگرسبب می شود که هیچ درک منسجمی نسبت به نحوه عملکرد سیستم وجود نداشته باشد این باعث می شود که شخص موضع منفعل بگیرد .
(مثلا در سیستم اسلامی ما نمایندگانی مثل روحانیون یا روشن فکران مذهبی را داریم یا سازمان هایی مثل بسیج وغیره..)
تکنولوژی از یک آستانهای فراتر خواه ناخواه به همین تراز از پیشرفتگی کنونی میرسد, پس سنت راهکار
نیست و نمیتوان چشمداشت این را داشت که سرتاسر مردم جهان ناگهان به سنت روی آورده و تنها
به تکنولوژیهای کنونی سرسختانه پایبند شده و از هرگونه پیشروی و پیشرفت آن جلوگیری نمایند.
بی هیچ گمانی پس از فروریزی ابرسازوارهیِ تکنولوژی آشوبی سخت و پیآمدهایِ سنگین و مرگباری در پی خواهند بود و شمار کشتگان
و قربانیان میتواند هتّا به آستانههایِ میلیاردی نیز نزدیک بشود, چه که در هیچ بازهای از تاریخ بشریت این اندازه آدمی به اجتماع خود وابسته نبوده است.
برای نمونه تنها بسنده است به این یک نکته برنگریسته شود که در نبود تکنولوژیهایِ نوین در کشاورزی و دامداری,
هیچ راهی برای سیر نمودن این شمار آدم زنده در کار نخواهد بود و خود این میتواند به مرگ میلیونها تن بیانجامد.
--
هر آینه, این بازهای گرچه بسیار مرگبار, ولی همچنان گذرا خواهد بود و با آرام گرفتن توفان و پستوفانهای در پی,
خواه ناخواه همه چیز به سادهترین چهرهیِ خود درخواهد آمد. در این زمینه کازینسکی در کتاب بیشتر نوشته است, و
نکتهای که نبایستی فراموش نمود این است که هتّا پس از فروریزی سیستم نیز دانشمندان, پژوهشگران و فندسالاران
پُرشماری آن بیرون خواهند بود که بی هیچ درنگی در پی بازسازی زیرساختها خواهند رفت و خواهند کوشید
همه چیز را به شرایط پیشین بازگردانند, که پرداختن به این دسته نیز خود بخشی از انقلاب به شمار میرود.
اگر فَردید از "توقف" یا بازایستاندن این باشد که تکنولوژی از اینی که هست پیشرفتهتر نشود
و فرا نرود, آری چنین چیزی یک رویاپردازی خام بیشتر نیست و در کنش بی ارزش است.
اگر فردید از بازایستاندن نابود کردن سیستم باشد, نه, چه که اگر این را پذیرفته بودیم اینجا نبودیم.
بی هیچ گمانی دریافت شما درست است. کازینسکی به این نیز پرداخته است, فصل The System’s Neatest Trick | The Anarchist Library را بخوانید.
بویژه https://theanarchistlibrary.org/libr...where-it-hurts.
.
ویرایش از سوی Mehrbod : 02-18-2016 در ساعت 08:05 PM
بجای وادادن در برابر واقعیت تلخ، بهتر است آدمی بكوشد كه واقعیت را بسود خود دگرگون كند و اگر بتواند حتی یك واژه ی تازی را هم از زبان شیرین مادری خود بیرون بیندازد بهتر از این است كه بگوید چه كنم ! ناراحتم! ولی همچنان در گنداب بماند و دیگران را هم به ماندن در گنداب گول بزند!!
—مزدک بامداد
اینجور نیست, بویژه من زمانیکه سوی دیگر را خواستنی میبینم به هیچ روی انگیزهای روی پافشاری بیجا نمیبینم, یعنی درست مانند
پنداشتن آفریدگاری خوب و مهربان که پس از مرگ همهیِ ما را بخواهد میفرستد بهشت و پس حوری و حال و هول, و پس انگیزهای برای
خداناباوری چون من نمیماند که بخواهم از روی لجبازی یا چون نمیپسندم — چه را نمیپسندم, حوری را؟ — بگویم نه نیست, بهمانند اینور هم
چیزهاییکه شما میپندارید مانند نامیرایی و جاودانگی و "آپلود شدن در نرمافزار" و بهمان و بیسار چیز بدی در خودشان ندارند, بجز اینکه ایندو هر دو, پیوندی به واقعیتهای امر ندارند.
و نیز جدای آن, نکتهیِ دیگر در گفتمان این است که چیزهاییکه به دید شما نو و تازه میایند را نمونهوار خود من به دهها ریخت و نگارش گوناگون درباره اشان
تاکنون خوانده ام و اندیشیده ام و هیچ چیز آنچنان نویی درخود ندارند. هتّا بخشهایی که از سخن که اندکی بسوی طعنه و ریشخند میکشیدند هم چند دههای کهنهاند:
همسنجی شود با این:
Discours sur l'origine et les fondements de l'inégalité parmi les hommes
...
Qu'on daigne nous expliquer une fois ce qui avait pu produire ces nuées de barbares
qui durant tant de siècles ont inondé l'Europe, l'Asie et l'Afrique ? Était-ce à
l'industrie de leurs arts, à la sagesse de leurs lois, à l'excellence de leur police, qu'ils
devaient cette prodigieuse population ? Que nos savants veuillent bien nous dire
pourquoi, loin de multiplier à ce point, ces hommes féroces et brutaux, sans lumières,
sans frein, sans éducation, ne s'entr'égorgeaient pas tous à chaque instant, pour se
disputer leur pâture ou leur chasse ? Qu'ils nous expliquent comment ces misérables
ont eu seulement la hardiesse de regarder en face de si habiles gens que nous étions,
avec une si belle discipline militaire, de si beaux codes, et de si sages lois ? Enfin,
pourquoi, depuis que la société s'est perfectionnée dans les pays du Nord et qu'on y a
tant pris de peine pour apprendre aux hommes leurs devoirs mutuels et l'art de vivre
agréablement et paisiblement ensemble, on n'en voit plus rien sortir de semblable à
ces multitudes d'hommes qu'il produisait autrefois ? J'ai bien peur que quelqu'un ne
s'avise à la fin de me répondre que toutes ces grandes choses, savoir les arts, les
sciences et les lois, ont été très sagement inventées par les hommes, comme une peste
salutaire pour prévenir l'excessive multiplication de l'espèce, de peur que ce monde,
qui nous est destiné, ne devint à la fin trop petit pour ses habitants.
...
Quoi donc ? Faut-il détruire les sociétés, anéantir le lien et le mien, et retourner
vivre dans les forêts avec les ours ? Conséquence à la manière de mes adversaires,
que j'aime autant prévenir que de leur laisser la honte de la tirer.
...
گفتمانی دربارهیِ خاستگاه و بـُنیادهایِ نابرابری میان آدمیان
...
...
≈ که چه؟ آیا میگویید که باید جامعه را نابود کرده, خود و شما را نیست نموده و بازگردیم به جنگلها و با خرسها زندگی کنیم؟
پیامد گفتگویی که مخالفان من به آن میرسند و ...
خرس و جنگل و اینها تنها به ذهن من و شما نرسیدهاند, به ذهن دیگران و هر کس دیگری که خردی داشته و به گفتمان فندآوری و
تمدّن پرداخته است, نیز رسیدهاند; اینور بسادگی خرس و جنگل و آنور بهشت و جاودانگی مادّی و upload شدن در رایانهها نیست, شوربختانه.
بجای وادادن در برابر واقعیت تلخ، بهتر است آدمی بكوشد كه واقعیت را بسود خود دگرگون كند و اگر بتواند حتی یك واژه ی تازی را هم از زبان شیرین مادری خود بیرون بیندازد بهتر از این است كه بگوید چه كنم ! ناراحتم! ولی همچنان در گنداب بماند و دیگران را هم به ماندن در گنداب گول بزند!!
—مزدک بامداد
Transcendence (04-10-2016)
سراسر درسته. نژاد آدم در زیستبومی فرگشته که گرفتاریها بسیار سادهتر بوده و اجتماع بسیار کوچکتر.
چنانکه نسیم نیکولاس طالب در این زمینه بخوبی روشنگری کرده, کوچکی و بزرگی روندی نارژگین (nonlinear) دربر دارند, بدین
معنی که یک سیستم میتواند تا یک آستانهای بزرگ و بزرگتر شود, ولی از یک نقطهی معمولا ناروشنی به آنور, ویژگیهای کیفی
آن سیستم تغییر پیدا میکنند. نمونهی فیزیکی این پدیده را نمونهوار در تغییر ایستار (حالت) آب از گرمی به جوشش
میتوان دید: مولکولهای آب گرم میشوند گرم میشوند, ولی درست از یک آستانهای به آنور از ایستار گرمی به ایستار
جوشش میپّرند. در فیزیکی به این quantum leap یا جهش کوانتومی میگویند, چرا که از این ایستار به
آن ایستار درجه بندیای در کار نیست و سیستم حقیقتا از یک ایستار به ایستاری دیگر میپّرد.
اجتماع نیز, در جایگاه یک سیستم یا ابرسازواره (superorganism) همین ویژگی را دارد. نسیم طالب به نمونههای
پیش پا افتادهای همچون فروشگاهها اشاره میکند. یک خواربارفروشی کوچک در کوچهی خانهی شما رفتاری - کیفتی
- با شما دارد و هتّا میتواند دوست شما باشد, نسیه بدهد, به سلیقه شخصی شما اهمیت بدهد, با شما نشست
و برخواست داشته باشد. ولی زمانیکه شما به یک ابرخواربارفروشی (supermarket) بزرگ میروید که ۳۰ تن در آن
کار میکنند و هر بار که آنجایید کسی دیگر را پشت صندوق میبینید, بهمان فراخور نیز شیوهی رفتار و برخورد و برهمکنش شما دگرگون میشود.
ازینرو, امروز آدمی کشش و توان رویارویی با گرفتاریهای ابراجتماعهای امروزین را در خود نهادینه ندارد. اگر آدمی
را به یک تیرهی نخستینی بیفکنید, سازوکارهای فرگشتین نهادینه در او بخوبی او را آمادهی رویارویی و زندگی در
آن اجتماع میکنند, زیرا اندازهی آن اندازهای است که نژاد آدمی بیشترین زمان فرگشت خود را در آن سپری کرده است.
کازینسکی بخوبی به این نکته پی برده و رفتارهایی که نامبردید, همان واکنش آدم و کوششهای بیفرجام
او برای کنترل زندگی خود در سیستمیست که بسیار بسیار بزرگتر و پیچیدهتر از توان او در رویارویی است.
دریافت همهی اینها زمانی شدنی میشود که آدم بخوبی به این نکته پی ببرد که رفتار یک ابرسازواره (superorganism)
متفاوت از رفتار تک تک سازوارههای همانش است. درست همانجور که تک تک یاختههای آدمی رفتاری بسیار جداگانه
از رفتار همهی آنها با هم در جایگاه ابرسازوارهای به نام آدم پیدا میکنند, ابرسازوارهی اجتماع نیز رفتار و نیازهای
بسیار متفاوتی از رفتار و نیاز تک تک سازوارههای خود که آدمها باشند میتواند و پُرگاه, پیدا میکند.
نیازهای یک اجتماع برابر با جمع نیازهای تک تک آدمهای آن اجتماع نیست,
بساکه چیزی فراتر و متفاوتتر است, و آدمی در زیستبومی فرگشته که اجتماع آن
بسیار کوچکتر و نیازها و خواستههای آن اجتماع بسیار نزدیکتر به اوی شخصی بوده است.
آماج کازینسکی در کنار کینهجویی, پدید آوردن یک جنبش سیستمستیز و فندستیز بوده است. رفتارهای او
از روی کینهجویی و خونگرفتی جلوی چشمانش نبودهاند. او نخست میکوشد زندگی خودش را از سیستم جدا کرده و برای
خودش از این زمانی که در جهان دارد بیشترینهی بهره را برده و در طبیعت سبز و به شیوهی نخستینی, که بیشترین آرامش
و خوشنودی از زندگی را به آدمی طبیعتا میدهند, سپری کند. ولی در این راستا بارها پی میبرد که چنین چیزی
در حقیقت شدنی نیست و به دید من, در کنار آن همچون هر کس دیگری, وژداندرد و «گور بابای دیگران» برای
او بخوبی کار نمیکنند و به این اندیشه میافتد که آیا راهی برای دگرگونی اوضاع براستی در دست میباشد یا نه.
راهکار او سودجویی از شکنندگی سیستم و بدل شدن به «یاختهی سرطانی» است. یاختهها بوارونهی آنچه
شما گفتید توان بسیار بالایی برای نابودی و شکستن سیستم دارند, ناتوانی آنها تنها در «راستادهی» و
کنترل سیستم است. یک یاخته بتنهایی میتواند ۴۰ تریلیون یاختهی سیستم را با سرطانی شدن خود از پا درآورد.
کازینسکی با بمبگذاریها و واداشتن سیستم به چاپ آرماننامهی خود از این شکنندگی سودجسته و ریسک
گیر افتادن خود را میپذیرد و همینکه خود ما امروز اینجا گفتمانی در این زمینه داریم را میتوان برآمدهی این تصمیم دانست.
راهکاری که کازینسکی در پیش مینهد, نابود کردن تکنولوژیهای نوین و بازگشت به طبیعت سبز از دید من هم
شدنی, هم اخلاقی و هم منطقی است. ولی برای خود من, کوچکترین گیراییای ندارد.
بدید من, این خودآگاهی که من و شما داریم بختی نزدیک به ۰ برای پیدایش داشته, با این همه امروز پیدا شده است.
آنچه از دید من منطقیتر میاید, گرچه شاید کمتر اخلاقی, ریسک کردن همهی آنچه هست و نیست برای رسیدن به
نامیرایی میباشد. بخت بسیار اندکی در دست است, که ما بتوانیم بجای پدید آوردن هوشوارههای باهوشتر از خودمان,
هوش خودمان را از گذر تکنولوژی افزایش بدهیم, و یکی از ویژگیهای ابرسازوارهی اجتماع که نایکسنجی (asymmetry)
آن باشد این را شدنی میکند; به این بیاندیشید که کمتر از ۱% مردم بیش از ۸۰% بنمایهها را در دست دارند و پراکندگی
دارایی و ثروت در اجتماع با مِهاد Pareto - معمولا هشتاد به بیست - سازگاری دارند.
از این دیدگاه, هر کس, بسنده باهوش و تُندهوش (smart), میتواند خودش را به جایگاه آن ۱% بالا برده و از
آنجا بیشترین کنترل و اثرگذاری را روی سیستم داشته باشد. به این بیاندیشید که تنها
یک Elon Musk بتنهایی چه اندازه توان راستادهی دارد و چه اندازه میتواند در فرجام سرنوشت آدمی اثرگذار باشد.
ازینرو, راهکاری که من برای خود یافتم همین بوده که جایگاه خودم را به بالاترین جایگاه شدنی رسانده
و بیشترین اثرگذاری + و فربودین (real) خودم را داشته باشم. هیچگونه پایندانی (guarantee) نیست که من
کامیاب باشم, ولی این شایندی (possibility) آنجاست و بستگی به خود من و هوش من دارد که بتوانم به آن دست یابم.
شناخت ابرسازوارهها و واکاوی آنها یک پیشنیاز میباشد. زمانیکه کس پیمیبرد یک ابرسازواره چگونه کار میکند
و سازوکار درونی آن چیست, آنگاه بجای هرز دادن انرژی خود در چیزهایی که بیهوده و بیاثر اند, آن را در زمینهای
بکار میبندد که با کمترین کوشش بیشترین بهره را به او بدهند. نمونهوار بجای پرداختن به جنبش نمیدانم برابری
جنسیتی یا بهمان و بیسار, به جنبشهایی میپیوندد و خود را درگیر فعالیتهایی میکند که به او توان
راستین و فربودین برای راستادهی به سرنوشت خود و در اینجا, آدمی را میبخشند.
نبایستی فراموشید, که آماج بزرگ و والا بخودی خود «انگیزه» نمیدهند و اگر هم بدهند, انگیزهای زودگذر میدهند.
کسیکه بخواهد جایگاه خودش را بالا ببرید نیاز به هوش و توش و کوش بسیار و سنجیده دارد. شما بایستی در زندگی
خود خوشنودیای پایهای داشته باشید تا انگیزه برای رسیدن به چیزی والاتر پیدا کنید. بایستی تندرستیای خوب
و ماندگار داشته باشید اگر میخواهید به چیزی والا دست پیدا کنید. و سرانجام روز, بایستی رویکرد, رفتار و
ذهنیتی نرمشپذیر, آشتیجو و سازوارپذیر در خود بپرورید تا گرفتاریهای پیش رویتان را یک به یک از میان بردارید.
راه بسیار ناهموار, با این همه راهی پیمودنیست.
بجای وادادن در برابر واقعیت تلخ، بهتر است آدمی بكوشد كه واقعیت را بسود خود دگرگون كند و اگر بتواند حتی یك واژه ی تازی را هم از زبان شیرین مادری خود بیرون بیندازد بهتر از این است كه بگوید چه كنم ! ناراحتم! ولی همچنان در گنداب بماند و دیگران را هم به ماندن در گنداب گول بزند!!
—مزدک بامداد
Thanks (11-13-2018)
بیان یک تفاوت بین سیستم های انسانی با سیستم تکنولوژی:
به عنوان مثال سیستم اسلامی را در نظر بگیرید .همانند سیستم تکنولوژی سیستم اسلامی هم نیازهای خاص خودش را دارد که لزوما هم راستا با نیازهای ما آدمیان نیست. به عنوان مثال سیستم اسلامی برای بقای خودش نیاز به میزانی از خشونت دارد(مثلا عده ای باید شهید بشوند یا عده ای باید کشته بشوند(کفار)). جهاد یک ارزش در سیستم اسلامی می باشد که با قربا نی کردن ما باعث بقای سیستم می شود.در سیستم اسلامی هم ما (surrogate activities) را مشاهده می کنیم(عرفان وتصوف )ولیکن سیستم اسلامی هیچگاه بدون دین مداران وجود نخواهد داشت اگر هزار سال هم بگذرد اسلام نیاز به پیروانی دارد. ولی سیستم تکنولوژی(industrial technological system) می تواند بدون آدمیان هم وجود داشته باشد.این تفاوت را برای این گفتم که چرا سیستم تکنولوژی قابل اصلاح(reform) نیست .از طرف دیگر آنچه که امیر در جستار در خود فرومانده گفته بود پوچ سازی می شود.چرا که امیر سیستم تکنولوژی را گونه ای از سیستم انسانی در نظر گرفته بود.
Mehrbod (02-17-2016)
درست است.
میتوان به پیکر آدم خود یک سیستم به شمار میرود نیز پرداخت, که سود ابرسازواره (آدم) همواره با سود سازوارهها (یاختگان) یکسان نیست.
برای نمونه, سیگار کشیدن یک چیزیست که به آدم احساس خوب میدهد, ولی به مرگ و آسیب یاختهها میانجامد. یا سوزشی
که هنگام نوشیدن ویسکی دست میدهد, همان کشته شدن/آسیب دیدن هزاران یاخته در نای است که سیگنال میفرستند.
--
این نکتهای است که در نگرستیزی با سرکار مزدک نیز به میان آورده شده بود:
نگرستیزی پیرامون فندآوری و هومنی, در پرتویِ آن
نوشته اصلی از سوی Mehrbod
بجای وادادن در برابر واقعیت تلخ، بهتر است آدمی بكوشد كه واقعیت را بسود خود دگرگون كند و اگر بتواند حتی یك واژه ی تازی را هم از زبان شیرین مادری خود بیرون بیندازد بهتر از این است كه بگوید چه كنم ! ناراحتم! ولی همچنان در گنداب بماند و دیگران را هم به ماندن در گنداب گول بزند!!
—مزدک بامداد
چه جالب من عینا این جستار را در تارنمای دیگری دیده ام!!! نمی دانم شاید این تارنما همان تارنما باشد چون همه چیز اینجا برایم آشناست! اینجا کاربری است که امضایش دقیقا بی هیچ کم و کاستی شبیه کاربر دیگری در تارنمای دیگر است ! حتی نوع نگارش و نوشته هایش هم همینطور!
گیج شده ام!
+
حال که اینهمه از تکنولوژی بدگویی کردید می شود راهکاری هم برای رفع آن ارائه دهید.
سارا (02-17-2016)
برای نخستین بار تا چه بازهیِ زمانی مهم است؟
به دیگر زبان,
١. چرا ابرهوشواره بایستی یکبار که درست کار کرد دیگر برای همیشه درست کار کند؟
٢. در کنار آن, چه بر سر پژوهشگاههایِ دیگری میاید که همزمان در رسیدن به ابرهوشواره میکوشند؟
٣. و نکتهیِ سوم, دستیابی درست چیست, هنگامیکه هتّا امروز هم خود پژوهشگران این دسته معترفاند که نمیدانند
چگونه میشود بدرستی ارزشهایِ آدمی را به چهرهیِ الگوریتم در آورد و گفت, ابرهوشوارهیِ خوب کدام است, بد کدام است.
نکته گرفته نشد. گفته نشد پژوهشگر نمیداند دارد چه کار میکند, گفته شد برای اینکه کارش را بداند نیازی
نیست اخلاقگرا (moralist), فیلسوف و یا جامعهشناس باشد. ساخت ابرهوشواره یک پرسمان تکنیکی
است و هر آنکس که دانش برنامهنویسی و تکنیکی خوبی داشته باشد, میتواند با داشتن بنمایههایِ بسنده به آن دست یابد.
ازینرو, هتّا زمانیکه تنها بهترین و داناترین و خردمندترین کسان در این زمینه میپژوهیدند احتمال دستیابی به ابرهوشوارهای که در
کنترل آدمی باشد نزدیک به 0 میبود, هنگامیکه این فاکتور درون محسابه میشود که برای دستیابی بدان نه پیشنیازی به دانایی و نه
خردمندیست, بساکه تنها دانش ناب از سازوکار مغز و برنامهنویسی, آنگاه احتمالات از آنچه بودند نیز چند مرتبهیِ بزرگی (order of magnitude) پایینتر میایند.
و از همینرو از او نام برده شد!
همچنان پاسخی به این پرسش داده نشد,
آیا فرایند دموکراتیزه شدن میتواند از نوآوری تکنولوژیهایِ ناخواستنی جلوگیری کند؟
زندگی در جهانی که مغز آدم میتواند هک بشود بی اندازه خطرناک است,
بویژه زمانیکه این نکته دریافت شود که هک شدن همیشه شدنیست,
چنانکه امروز هم راهی ١٠٠% برای جلوگیری از هک شدن در کار نیست.
آفرین, اکنون که این پژوهش را یافتید, ولی چرا نتیجههای آنرا درست و روشن نیاوردید؟
در این آزمایش اندیشیک, که Yudkowsky نیز آنرا آزموده است, دو آدم در دو سوی گفتگو
نقش زندانبان و زندانی را به خود میگیرند, که زندانی همان ابرهوشوارهیِ انگارینیست که میخواهد
خود را از زندان مجازی نجات بدهد و زندانبان تنها کاری که باید بکند, همین نگشودن در بر زندانی است و بس.
هر آینه, هتّا در این آزمایش بی اندازه ساده که زندانبان پیشاپیش میداند برای بُردن (و گرفتن ٢٠ دلار)
هیچ کاری نباید بکند جز نگشودن در, کاربر دیگری Tuxedage در جایگاه زندانی توانسته خودش را از زندان برهاند:
و برای رسیدن به این پیروزی او تنها نیاز به اندکی پژوهش و شخصیتسنجی ِ زندانبان خود داشته است:
I'm reluctant to talk about this experiment, but I'll try to give as detailed a summary as possible, -- short of revealing what methods of attack I used.
I spent a long time after my defeat theory-crafting and trying to think of methods of attack as well as 'Basilisks' I could have used to win. When I was contacted and asked to play this experiment, I was initially incredibly reluctant to do so, since not only did my tactics involve incredibly unethical things that I didn't like to do, I also found playing as AI incredibly cognitivily draining, in addition to the fact that I simply hated losing. (Un)fortunately for both of us, he offered me money to play, which changed my mind.
So once I decided to win as an AI, I proceded to spend some time doing research on SoundLogic and both his reasoning and personality type. For instance, I had to gather information like: Was he a utilitarian? What kind? What were his opinions on AI? How could I convince him that an AI was friendly as opposed to unfriendly? I also relied on a lot of second hand information to create a model of him, in order to refine my arguments to specifically suit him.
--
چند نکته که نبایستی از یاد بُرد:
١. در این آزمایش, دو آدم که هوشی نزدیک و همتراز دارند توانستهاند همدیگر را بفریبند و از زندان بیرون بیاورند,
آنگاه جاییکه سخن از ابرهوشواره ای با هوشی میلیاردها میلیارد برابر بیشتر از آدم میرود, اینکه نتواند خود را بیرون بیاورد دور از باور¹ است.
٢. خطای انسانی در ساخت و کنترل زندان فراموش شده است. درست همانجور که میبینیم سیستمهایی که امروزه بیشترین پول
و سرمایه و مغزها روی آنها گذاشته میشود نیز در سرانجام روز, از یک راهی که به مغز هیچکس نرسیده هک میشوند, همانگونه نیز ساخت زندانی
مجازی بی هیچ راه دررویی ,فرایندی بسیار خطاپذیر میباشد و ابرهوشوارهای با هوشی میلیاردها بار بیشتر از آدمی را نمیتواند برای همیشه زندانی کند.
٣. هر ابرهوشوارهای برای آنکه کارکرد سودمندی داسته باشد دیر یا زود بایستی بیرون بیاید و در جهانی که یک آدم نمیتواند به آدمی با
هوشی همتراز نیز اعتماد کامل داشته باشد, اعتماد پایهمندانه به ابرهوشوارهای میلیاردها بار هوشمندتر از خودش, امری ناشو میباشد.
روشن نیست چنین ابرهوشوارهای چرا نمیتواند چند تا آدم که در همسنجی با او هوشی بی اندازه ناچیز دارند را فریفته و اعتماد آنها را به خود جلب کند.
٤. در همهیِ اینها, پیشانگاشت بر این گذاشته شده است که بیشمار پژوهشگر و پژوهشگاهی که آن بیرون میباشند
همگی خواهند کوشید بی چون و چرا نخست هوشواره را در یک زندان مجازی پدید بیاورند, که این چیزی بیشتر
از یک پیشانگاشت نیست. در کُنش, هر پژوهشگاهی راهها و روالها و ایدههایِ خودش را دارد و هیچ
بایدی در هیچ قانونی نیست —و نمیتواند در کُنش باشد — که پژوهشگاه را به این روش کم-ریسکتر سوق بدهد.
ازینرو, واقعبینانهتر فرایند رسیدن به هوشواره میتواند سراسر تصادفی و کنارهُنود / side-effect ای از دستیابی به چیزی
دیگر باشد. برای برشمردن یک نمونهیِ خوب آن, Wall-street برای ساخت ابررایانههایِ هوشمندتر که در بورس تصمیمهایِ بهتر
میتوانند بگیرند سرمایهیِ کلانی در این زمینه میتواند بگذارد, چُنانکه هماکنون نیز گذاشته است, و در این راستا آن اندازه روند بهکرد هوشوارهها
را به پیش براند که با رسیدن به یک آستانه روشنی از هوش, هوشواره بی آنکه در تصمیم یا ارادهیِ سازندگانش باشد به خودآگاهی دستیابد.
¹ برای دریافت اینکه یک ابرهوشواره در چه ترازی میاندیشید, میتوان از این همانندی ساده بهره گرفت که چگونه یک نرمافزار هک میشود.
ذهن آدمی خود نرمافزاری میباشد که روی سختافزار مغز فرگشته است و همچون هر نرمافزاری دیگر, دارای لغزشها و خطاهای پوشیدهیِ خود میباشد.
چیزهایی مانند خطای چشم از نمونههایِ بیآزار آن میباشند که ما خودآگاهانه آنها را درمیابیم, ولی برای نمونه میتواند الگویی بصری
آن بیرون باشد که مغز پس از تنها دیدن آن از کار بیافتاد, درست بمانند رایانهای که پس از انجام یک عملیات برنامهریزی شده crash میکند.
یکی از نویسندگان داستانهایِ علمی-تخیلی در همین زمینه داستانی دارد که در آن
الگوهای برخالینی (fractal) یافت شدهاند که میتوانند با یک نگاه نگرنده را به مرگ دچار کنند:
اینکه چنین چیزی واقعیت دارد یا نه, هنوز روشن نیست, ولی آنچه بی هیچ گمانی روشن است تاثیرپذیر و خطاپذیری ذهن (نرمافزار) میباشد.
یک نمونهیِ پیش پا افتادهیِ اینرا میتوان همین امروز در بازاریابان یافت که ز
روشها و ترفندهای پُر-فریبندهای آگاهاند که در عمل نیز بخوبی کار میکنند و شمار
خریداران را افزایش میدهند; ذهن خریدار را به آشفتگی افکنده و تاثیرپذیر میسازند.
بجای وادادن در برابر واقعیت تلخ، بهتر است آدمی بكوشد كه واقعیت را بسود خود دگرگون كند و اگر بتواند حتی یك واژه ی تازی را هم از زبان شیرین مادری خود بیرون بیندازد بهتر از این است كه بگوید چه كنم ! ناراحتم! ولی همچنان در گنداب بماند و دیگران را هم به ماندن در گنداب گول بزند!!
—مزدک بامداد
1- برای اینکه همان یکبار تکلیف را روشن خواهد کرد: انقراض حیات یا یوتوپیا. انقراض که هیچ اما در حالت یوتوپیا اگر هم نیازی به ساخت هوش مصنوعی دیگری احساس شد یا پژوهش های رقیب به زباله دانی انداخته نشده بودند، کج نخواهند رفت زیرا یک superintelligence پروسه را پاسداری میکند. کلا مانند این است که بپرسید چرا انسان یک بار از میمون تکامل یافت. اگر هم منظورتان از همیشه درست کار کردن تضمین پایداری اولی است، باید گفت که رشد و توسعه تصاعدی هوش محدود به منابع است و تکلیف اینکه AI چه خواهد شد در زمان کوتاهی روشن میشود. همچنین پایداری و "خوب" بودنش قبلا در شبیه سازی اثبات شده است.
2- ساخت هوش مصنوعی کاری تیمی، پیچیده، چند مرحله ای و تحت نظارت ارگانی بزرگتر است. چنین نیست که یک برنامه نویس در زیر زمین خانه اش بنشیند آن را انجام دهد و بدون آزمایش آن را آزاد کند!
3- چه خوب! اگر کار مفیدی بلد نیست حداقل در آگاهی رسانی عمومی کاری را پیش میبرد.
4- دموکراتیزاسیون بی طرف است، زیرا هم آفند و هم پدافند را در اختیار عموم میگذارد. این شما بودید که قبل از حضور من تنها روی " خطر آفند در دست همگان" تمرکز کرده بودید، البته اسمی روی آن نگذاشته بودید. دموکراتیزه شدن پس از تولید تکنولوژی روی آنکه به دست چه کسی و چرا میرسد تاثیر میگذارد نه روی روند و خواستنی بودن تولید آنها.
5- ما هم اکنون در جهانی زندگی میکنیم که هک شدن رایانه ها بی اندازه خطرناک است، بی زحمت بلاک باستر تولید نفرمایید!
6- AI نباید با محقق صحبت کند، اصلا نباید متوجه شود که درون شبیه سازی است! شما اختیار تام روی سرعت و محتوای فکر آزمایشتان دارید! AI in box یعنی باید مانند نئو در ماتریکس سرگردان باشد، چطور این نوابغ آن به هانیبال و کلاریس تبدیل میکنند اسپاگتی اعلم! از اینها بگذریم، از آنجایی که این استعداد های کشف نشده محتوای مکالمه شان را علنی نمیکنند، ادعاهایشان به درد عمه شان میخورد! افزون بر این، در دنیایی که اجازه دهند یک راس ننه قمر از اهریمن نگهبانی کند، هر چه به سرشان بیاید حقشان است. این سناریو به قدری مضحک است که نشستن یک شامپانزه جلوی چمدان اتمی آمریکا! هرگز یک نفر را به این کار نمیگمارند، و نه هر کسی را. بالاخره باید بگویم تصمیم با شماست که این ایده باسیلیسک هک چه اندازه تخمی تخیلی است. و بله، از تشنج حساس به نور اطلاع دارم.
I am a degenerate
هماکنون 2 کاربر سرگرم دیدن این جُستار است. (0 کاربر و 2 مهمان)