همیشه قبل خواب دو تا شات بزن راحت بخواب!
دکتر ساسی
بجای وادادن در برابر واقعیت تلخ، بهتر است آدمی بكوشد كه واقعیت را بسود خود دگرگون كند و اگر بتواند حتی یك واژه ی تازی را هم از زبان شیرین مادری خود بیرون بیندازد بهتر از این است كه بگوید چه كنم ! ناراحتم! ولی همچنان در گنداب بماند و دیگران را هم به ماندن در گنداب گول بزند!!
—مزدک بامداد
sonixax (04-02-2016)
باری دیگر, گرفتاری چیست, آیا میگویید هرگز نمیتوان هوشوارهای درست کرد که به اندازهیِ آدم هوشمند باشد؟نوشته اصلی از سوی sonixax
نمونهیِ شترنگ در دنبالهیِ کارهاییست که رایانهها میتوانند انجام دهند, نه چراغ جادو. اینکه رایانهها امروز میتوانند بخوانند,
بنویسند, ترجمه بکنند, شترنگ بازی کنند, راهیابی کنند و ... همه کارهایی میباشند که تا دویست سال پیش باورناپذیر
بودند, پس به دنبال اینکه همین روند برونیافته (extrapolated) و گفته شود که رایانهها میتوانند
تصمیمهایِ باز بزرگتری نیز بگیرند و کارهای باز پیچیدهتری نیز انجام دهند, یک فرجامیابی خردپذیر خواهد بود.
تکینگی فندین به هوش آدمی محدود نیست, زمانیکه یک هوشوارهیِ بسیار نخستینی بتواند خود خودش
را به اندازهیِ ناچیزی هم که شده, بهتر بسازد, آنگاه تکینگی فندین (technological singularity) رخ خواهد داد
و هوشی که [ابر]هوشواره به آن دست خواهد یافت فراتر از هر آن چیزیست که بتوان پنداشت.
اینکه یک ابرهوشواره با هوشی بگوییم میلیاردها میلیارد بار بیشتر از همهیِ آدمها روی
هم, نتواند برای نمونه به تواناییهایِ اجرایی دست یابد باز گونهای خودفریبی به شمار میرود.
در گفتگوهایِ چند برگ پیش بنگرید, دربارهیِ ساخت کنترلشدهیِ
ابرهوشوارهها در virtual box و چرایی ناشدنی بودن آن گفتگو شده بود.
سخن اینجا از پیدایش هوشوارهای که با انگیزهیِ کشتار آدمی پدید آمده باشند نبوده, بساکه
سرکار @sonixax و @nifrondheim و چندی دیگر نزد خود پنداشته بودند که دربارهیِ terminator دارد گفتگو میشود.
نکتهای که آوردید ولی اینجا میتواند بدان پرداخت و آن اینکه, آیا پیدایش ابرهوشوارهای که هوشی بیشتر از آدمی داشته باشد خود به خود به معنای نابودی بشر است؟
پاسخ به گمان بالا آری است و در کنار آن, در خواستنیترین چهرهیِ خود نیز, این قماری کور بر روی سرنوشت تک تک آدمها خواهد بود.
که این خود پیش از هر چیز دیگر این پرسش را به میان میآورد که:
چه کسی به پژوهشگران و دانشمندان این حق را بخشیده است که با سرنوشت تک تک آدمها دست به قمار بزنند؟
و سپس سخن این میباشد که خب اکنون که میخواهد این قمار انجام بپذیرد, چه به دست میاید, چه نمیاید. که آنگاه, در اینجا و
هتّا در این بررسی پسین نیز چیز چندان خواستنیای بدست نمیاید جز اینکه اگر همهیِ دانشمندان و
پژوهشگران و پژوهشگاهها و دستاندرکاران دیگر در این زمینه بتوانند با دوراندیشی بسیار بسیار بالا و دقیق این هوشواره را
پدید بیاورند و اگر این هوشواره از برنامهیِ خود هرگز تخطی نکند (!!) آنگاه میتواند در خدمت
بشریت باشد و همهیِ آرزوهایِ بشر را درست بمانند همان غول چراغ جادو, به واقعیت بپیونداند.
هر آینه, در نگاه منطقی و به دور از خودفریبی, این اگرها برآوردنی نمیباشند.
بگذارید بسیار سادهتر به این پرسمان بنگرید, اگر در بهترین و امیدوارانهترین چهره نیز برنگریسته شود و انگاشته شود
که هوشوارهها کورکورانه در خدمت بشریت خواهند بود, آنگاه برایند کار از این چند بیرون نمیتواند باشد:
آ. تصمیمهای بالاتر را هنوز آدمها خواهند گرفت, ولی هوشوارهها آنها را پیادهسازی خواهند کرد
اندک شماری از سران و فندسالاران همهیِ قدرت را در دست خواهند داشت و میتوانند بر روی اینکه زندگی دیگران چگونه
باشد با قدرتی تاکنون نادیده تصمیم بگیرند —> از دست رفتن همیشگی آزادیها و کنترل روی سرنوشت خویشتن.
ب. همهیِ تصمیمها از روی پیچیدگی روزافزون جامعههایِ بشری به ماشینها واگذاشته خواهد شد
ماشینها روی سرنوشت تک تک آدمها فرمان خواهند راند و آیندهیِ و سرنوشت آدمی در دستان ماشین جای خواهد گرفت.
Industrial Society and its Future
172. First let us postulate that the computer scientists succeed in developing intelligent machines that can do all things better than human beings can do them. In that case presumably all work will be done by vast, highly organized systems of machines and no human effort will be necessary. Either of two cases might occur. The machines might be permitted to make all of their own decisions without human oversight, or else human control over the machines might be retained.
173. If the machines are permitted to make all their own decisions, we can't make any conjectures as to the results, because it is impossible to guess how such machines might behave. We only point out that the fate of the human race would be at the mercy of the machines. It might be argued that the human race would never be foolish enough to hand over all power to the machines. But we are suggesting neither that the human race would voluntarily turn power over to the machines nor that the machines would willfully seize power. What we do suggest is that the human race might easily permit itself to drift into a position of such dependence on the machines that it would have no practical choice but to accept all of the machines' decisions. As society and the problems that face it become more and more complex and as machines become more and more intelligent, people will let machines make more and more of their decisions for them, simply because machine-made decisions will bring better results than man-made ones. Eventually a stage may be reached at which the decisions necessary to keep the system running will be so complex that human beings will be incapable of making them intelligently. At that stage the machines will be in effective control. People won't be able to just turn the machine off, because they will be so dependent on them that turning them off would amount to suicide.
174. On the other hand it is possible that human control over the machines may be retained. In that case the average man may have control over certain private machines of his own, such as his car or his personal computer, but control over large systems of machines will be in the hands of a tiny elite -- just as it is today, but with two differences. Due to improved techniques the elite will have greater control over the masses; and because human work will no longer be necessary the masses will be superfluous, a useless burden on the system. If the elite is ruthless they may simply decide to exterminate the mass of humanity. If they are humane they may use propaganda or other psychological or biological techniques to reduce the birth rate until the mass of humanity becomes extinct, leaving the world to the elite. Or, if the elite consists of soft-hearted liberals, they may decide to play the role of good shepherds to the rest of the human race. They will see to it that everyone's physical needs are satisfied, that all children are raised under psychologically hygienic conditions, that everyone has a wholesome hobby to keep him busy, and that anyone who may become dissatisfied undergoes "treatment" to cure his "problem." Of course, life will be so purposeless that people will have to be biologically or psychologically engineered either to remove their need for the power process or to make them "sublimate" their drive for power into some harmless hobby. These engineered human beings may be happy in such a society, but they most certainly will not be free. They will have been reduced to the status of domestic animals.
175. But suppose now that the computer scientists do not succeed in developing artificial intelligence, so that human work remains necessary. Even so, machines will take care of more and more of the simpler tasks so that there will be an increasing surplus of human workers at the lower levels of ability. (We see this happening already. There are many people who find it difficult or impossible to get work, because for intellectual or psychological reasons they cannot acquire the level of training necessary to make themselves useful in the present system.) On those who are employed, ever-increasing demands will be placed: They will need more and more training, more and more ability, and will have to be ever more reliable, conforming and docile, because they will be more and more like cells of a giant organism. Their tasks will be increasingly specialized, so that their work will be, in a sense, out of touch with the real world, being concentrated on one tiny slice of reality. The system will have to use any means that it can, whether psychological or biological, to engineer people to be docile, to have the abilities that the system requires and to "sublimate" their drive for power into some specialized task. But the statement that the people of such a society will have to be docile may require qualification. The society may find competitiveness useful, provided that ways are found of directing competitiveness into channels that serve the needs of the system. We can imagine a future society in which there is endless competition for positions of prestige and power. But no more than a very few people will ever reach the top, where the only real power is (see end of paragraph 163). Very repellent is a society in which a person can satisfy his need for power only by pushing large numbers of other people out of the way and depriving them of THEIR opportunity for power.
بجای وادادن در برابر واقعیت تلخ، بهتر است آدمی بكوشد كه واقعیت را بسود خود دگرگون كند و اگر بتواند حتی یك واژه ی تازی را هم از زبان شیرین مادری خود بیرون بیندازد بهتر از این است كه بگوید چه كنم ! ناراحتم! ولی همچنان در گنداب بماند و دیگران را هم به ماندن در گنداب گول بزند!!
—مزدک بامداد
Dariush (04-03-2016)
اینجا یک نامه هست که فکر کنم نکات خیلی مهمی در اون وجود داره .
Autonomous Weapons: an Open Letter from AI & Robotics Researchers
Autonomous weapons select and engage targets without human intervention. They might include, for example, armed quadcopters that can search for and eliminate people meeting certain pre-defined criteria, but do not include cruise missiles or remotely piloted drones for which humans make all targeting decisions. Artificial Intelligence (AI) technology has reached a point where the deployment of such systems is — practically if not legally — feasible within years, not decades, and the stakes are high: autonomous weapons have been described as the third revolution in warfare, after gunpowder and nuclear arms
Many arguments have been made for and against autonomous weapons, for example that replacing human soldiers by machines is good by reducing casualties for the owner but bad by thereby lowering the threshold for going to battle. The key question for humanity today is whether to start a global AI arms race or to prevent it from starting. If any major military power pushes ahead with AI weapon development, a global arms race is virtually inevitable, and the endpoint of this technological trajectory is obvious: autonomous weapons will become the Kalashnikovs of tomorrow. Unlike nuclear weapons, they require no costly or hard-to-obtain raw materials, so they will become ubiquitous and cheap for all significant military powers to mass-produce. It will only be a matter of time until they appear on the black market and in the hands of terrorists, dictators wishing to better control their populace, warlords wishing to perpetrate ethnic cleansing, etc. Autonomous weapons are ideal for tasks such as assassinations, destabilizing nations, subduing populations and selectively killing a particular ethnic group. We therefore believe that a military AI arms race would not be beneficial for humanity. There are many ways in which AI can make battlefields safer for humans, especially civilians, without creating new tools for killing people
Just as most chemists and biologists have no interest in building chemical or biological weapons, most AI researchers have no interest in building AI weapons — and do not want others to tarnish their field by doing so, potentially creating a major public backlash against AI that curtails its future societal benefits. Indeed, chemists and biologists have broadly supported international agreements that have successfully prohibited chemical and biological weapons, just as most physicists supported the treaties banning space-based nuclear weapons and blinding laser weapons
In summary, we believe that AI has great potential to benefit humanity in many ways, and that the goal of the field should be to do so. Starting a military AI arms race is a bad idea, and should be prevented by a ban on offensive autonomous weapons beyond meaningful human control
افرادی مثل استیون هاوکینک و دنیل دنت و نوام چامسکی و... این نامه را امضا کردن.
FLI - Future of Life Institute | Open Letter on Autonomous Weapons
ویرایش از سوی Transcendence : 04-02-2016 در ساعت 09:28 AM
to understand the actual world as it is
not as we should wish it to be
is the beginning of wisdom
Dariush (04-03-2016)
شوخی میکنی داریوش جان؟
اول اینکه با حساب من دوبار از بمب اتمی استفاده شده، البته شیوهیِ شمارش شما
گویا فرق میکند. دوم اینکه سلاح ابزاری است برای اعمال زور و زور ابزاری برای رسیدن
به خواستهها و هر تصمیم تابعی از خواسته هاست. و خود خواست انحصار قدرت میتواند
منجر به تصمیماتی شود که آن تصمیمات بعدا منجر به برگزاری اجلاس شود.
"Democracy is now currently defined in Europe as a 'country run by Jews,'" —Ezra Pound
Dariush (04-03-2016)
خیر!
من میگویم ساخت هوش مصنوعی که به اندازه انسان باهوش باشد و به اندازه هیتلر و خمینی و استالین و ... پلید ناشدنیست!
آن رایانه هوشمند فرضی خود به خود که به وجود نمی آید ؟ باید توسط انسان ساخته شود!
پس همواره راهی برای متوقف کردنش وجود خواهد داشت! از طرفی ساخت چنان رایانه ای توسط تنها و تنها یک نفر قطعن ناشدنیست!
گرفتاری اینجاست! یعنی به فرض که ما بتوانیم چنان چیزی بسازیم، هرگز وارد مرحله ای نخواهیم شد که بخواهیم چیزی بسازیم که موجودیت خودمان را به خطر بیندازد.
خوب آگاهی چیست ؟
به نظر من استفاده از واژه آگاهی تنها نوعی خود فریبی دانشیک است! یک چیزی تو مایه های روح. که میگویند فلان اثر هنری چون توسط انسان کشیده نشده پس روح ندارد و فاقد ارزش هر قدر هم که خفن پفن باشد!
هر جایی که اندکی هوش وجود داشته باشد، به اندازه و نسبت همان هوش هم آگاهی وجود دارد چرا که میتواند به وقایع پاسخ دهد پس آگاه است.
زامبی های بازی کامپیوتری، به اندازه قدرت موتور و هوش مصنوعی بازی آگاهی دارند هرچند که عمرشان با بستن بازی یا خاموش کردن کامپیوتر تمام میشود.
همیشه قبل خواب دو تا شات بزن راحت بخواب!
دکتر ساسی
آگاهی اگرچه چیزی غیرقابل درک باشد و مطالعه دانشیک آن ممکن نباشد یک چیز واقعیست، حالا طبیعی یا ماورالطبیعی. اینکه ما بخواهیم یک پدیده را تا سر حد فریب خودمان شبیه سازی کنیم و بعد که خودمان خودمان را فریب دادیم بگوییم فرقی بین اصل و بدل آن چیز نیست حقیقتا مضحک است. زمانی هم بود که درک درستی از ساختار اتمی ماده وجود نداشت و مثلا دما را میشد بعنوان خاصیتی ترمودینامیک تعریف و استفاده کرد بدون اینکه درکی از چرایی ادراک سابجکتیو ما از دما داشت.
اگر آگاهی محدود به نوع انسانی آن نباشد، این اتفاقا دلیلی ست بر اینکه هنر (که تعریف آن به آگاهی و تجریهیِ انسانی گره خورده) چیزی بیشتر از سلیقه است. من ستیز شما و مهربد را با اصالت هنر و ادعای اینکه تصاویر ماشینی امروز حقیقتا خلق اثر هنری هستند درک نمیکنم. امیر در تاپیک ویژهای که دربارهیِ هنر زد این ماجرا را به خوبی توضیح داد. بنظر من میرسد، اینکه یک عده هنرمندنما میخواهند نام ادرار را هنر بگذارند باید باعث شود تا ذهن دانشمحور از ایدهیِ سلیقهای بودن هنر فاصله بگیرند، نه اینکه به آن بپیوندند.
"Democracy is now currently defined in Europe as a 'country run by Jews,'" —Ezra Pound
بیایید فرض کنیم، من، شما، مهربد، امیر، باراک اوباما و تمام جهان ما شبیه سازی هایی هستیم در یک کامپیوتر پیچیده که توسط موجوداتی هوشمندتر از ما ساخته شده اند!
در آن صورت این آگاهی که شما ازش حرف میزنید دقیقن در کجا قرار میگیره ؟
امیر هرگز نتوانست توضیح دهد اگر دور اثر کاملن یک سان، یکی توسط ماشین و دیگری توسط انسان تولید شوند! چرا آنی که به دست انسان خلق شده هنر و آنی که توسط ماشین تولید شده ادرار است ؟
نام این مدل سخنان و گارد گرفتن تعصب بر روی موجودیتی به نام انسان بودن است. در این استدلال هر چیزی که توسط موجودی غیر از انسان خلق شود هنر نیست و فاقد ارزش! اکنون دستاویز آگاهی (برای قشر دانا و باسواد) و روح (برای قشر ابله و خرافی) هستش.
اگر روزی یک موجود 4 چشم با پوست سبز و یک سفینه فضایی بیاید و یک نقاشی زیبا بکشد قطعن آن وقت نمیتوانید به آگاهی متوصل شوید برای زیر سوال بردن آنچه وی خلق کرده و مجبور خواهید بود مشخصن از عدم انسان بودنش نام ببرید!
تازه برخی هستند که از این هم پا را فراتر میگذارند و میگویند فقط آنچه فلان شخص/اشخاص خلق کرده/کردند هنر است و بقیه از بیخ ادرار! مثلن موسیقی روح الله خالقی میشود هنر! ولی موسیقی ساسی مانکن میشود شاش!! اینجا ساسی مانکن آگاهی ندارد؟! روح ندارد؟! انسان نیست ؟! حقیقتن بحث همیشه همان سلیقه ایست که خودتان هم فرمودید و نه بیشتر.
آگاهی با تعریف شما شاید غیر قابل درک باشد چون اساسن تعریفی ازش ارایه نمیکنید یا آنچه احساس میکنید را نمیتوانید تعریف کنید که تجارب شخصی شما هستند و فقط و فقط در قالب راسل تعریف میشوند و بروز پیدا میکنند.
آگاهی از نظر من هم دقیقن همین شرایط را دارد! از دید من آگاهی چیزی بیشتر از دریافت اطلاعات از پیرامون، پردازش آنها و واکنش نشان دادن به آنها نیست. کاری که تمام موجودات زنده همه روزه در حال انجام آن هستند و اخیرن ماشینها هم به آن اضافه شدند.
ولی روی چه چیزی توافق نظر هست ؟ فکر میکنم این مقاله کمک کنه :
آگاهی - WiKi
بنا بر این تعریف، اگر هر چیزی (ماشین، موجود زنده، کد و ...) بتواند به آنچه وجود دارد یا به وقوع میپیوندد واکنش نشان دهد آگاه است!
هر چه میزان هوش بالاتر باشد آگاهی خواه نا خواه سطح بالاتری خواهد داشت چرا که واکنش نشان دادن به آن هم به اندازه همان هوش پیچیده تر خواهد شد.
پس، آگاهی انسان از گربه و آگاهی گربه از PLC بیشتر است.
همیشه قبل خواب دو تا شات بزن راحت بخواب!
دکتر ساسی
دقیقا هم همین کار را کردم! میفرمودید افزایش امید به زندگی به خاطر کاهش مرگ ومیر نوزادان است، که با حذف آن هنوز هم میبینیم که افزایش وجود دارد.
اینکه واکسیناسیون و پزشکی به مردنی اجازه زیست و زاد ولد داده اند از توطئه های تکنولوژی نیست، با من باشد نمیگذارم کسی بدون Embryo Selection توله بیندازد.
I am a degenerate
هماکنون 14 کاربر سرگرم دیدن این جُستار است. (0 کاربر و 14 مهمان)