پیشرفت روزافزون فندآوری: به کجا می‌رویم؟

[Nilftrondheim]

:Equally effective countermeasures
هر فناوری مخربی دفاعی متناسب با خود دارد. برای اینکه پیش از حادثه آمادگی ایجاد شود باید احتمال خطر و توجیه اقتصادی داشته باشد. شکل های زیر به ترتیب: زندانبان. پلیس. اشغالگران آمریکایی در عراق!!!

+

=
victims:0


+

=
victims:0


+

=
victims:5

در خودرو ها هم چنین است. دو فاکتور یاد شده وجود دارند و باعث میشوند کمربند و ایربگ نصب شود.

[Nilftrondheim]

جایی دیدم میگویید آپلود کردن مغز به ماشین کاری بیهوده است. خیر نیست! با انواع آن آشنا شویم:

:Destructive mind uploading-

خلاصه آن میشود منجمد کردن مغز بریدن آن به لایه های میکرونی و اسکن کردن آنها با میکروسکوپ الکترونی. با استفاده از این اطلاعات میتوان مغز را در کامپیوتر شبیه سازی کرد بدون آنکه نیازی باشد از عملکرد کلی آن خبر داشت: whole brain emulation. مشکل آن از بین رفتن continuity شخص است. چگونه آگاهی یک مغز مرده به emulation منتقل میشود؟ مشکل دیگر فساد و نابودی اطلاعات در طی این پروسه وحشیانه!!! است. اگر در این مورد توضیح میخواهید به سطر اول برگردید و دوباره بخوانید.

:Non-destructive mind uploading-
این کار با اسکن کردن مغز زنده با MRI, EEG, PET, Nanomachine و ... انجام میشود. این کار از بیخ و بن با continuity مشکل دارد! چون در واقع مغز را کپی میکند و چیزی منتقل نمیشود. در صحت اطلاعات هم شک میتوان کرد. مغز دایم در حال تغییر است و اگر پروسه به سرعت گرفتن یک عکس نباشد ارزش آن به سرعت افت میکند و outdated میشود.

:Gradual mind uploading-
در این روش که مو لای درزش نمیرود نانوماشین ها به بدن وارد میشوند و در مغز به تدریج جای تک تک نورون ها را میگیرند. ممکن است یک ساعت طول بکشد یا یک سال اما در پایان مغز کاملا با معادل الکترونیکی اش جایگزین میشود. حالا پیدا کنید عیب را.

[Mehrbod]

جایی دیدم میگویید آپلود کردن مغز به ماشین کاری بیهوده است. خیر نیست! با انواع آن آشنا شویم:

:Destructive mind uploading-

خلاصه آن میشود منجمد کردن مغز بریدن آن به لایه های میکرونی و اسکن کردن آنها با میکروسکوپ الکترونی. با استفاده از این اطلاعات میتوان مغز را در کامپیوتر شبیه سازی کرد بدون آنکه نیازی باشد از عملکرد کلی آن خبر داشت: whole brain emulation. مشکل آن از بین رفتن continuity شخص است. چگونه آگاهی یک مغز مرده به emulation منتقل میشود؟ مشکل دیگر فساد و نابودی اطلاعات در طی این پروسه وحشیانه!!! است. اگر در این مورد توضیح میخواهید به سطر اول برگردید و دوباره بخوانید.

:Non-destructive mind uploading-
این کار با اسکن کردن مغز زنده با MRI, EEG, PET, Nanomachine و ... انجام میشود. این کار از بیخ و بن با continuity مشکل دارد! چون در واقع مغز را کپی میکند و چیزی منتقل نمیشود. در صحت اطلاعات هم شک میتوان کرد. مغز دایم در حال تغییر است و اگر پروسه به سرعت گرفتن یک عکس نباشد ارزش آن به سرعت افت میکند و outdated میشود.

:Gradual mind uploading-
در این روش که مو لای درزش نمیرود نانوماشین ها به بدن وارد میشوند و در مغز به تدریج جای تک تک نورون ها را میگیرند. ممکن است یک ساعت طول بکشد یا یک سال اما در پایان مغز کاملا با معادل الکترونیکی اش جایگزین میشود. حالا پیدا کنید عیب را.

درسته در نوشته‌یِ شما لغزشی نیست و این روش کار میکند, ولی این پیوندی به این جُستار ندارد و بایستی
در جُستار کیستی هویت شخصی: مسئله بقای شخص در گذر زمان میآوردید.

ایده‌یِ ترابردن آهسته و پیوسته‌یِ مغز یک ایده‌یِ بسیار کهن است و نمونه‌وار نویسنده‌یِ داستانها‌یِ دانش-پندارین الکساندر لازارویچ دهه‌ها پیش
آنرا به میان آورده بود. او هتّا با دانش آن زمان یک راهکار عملی هم برای آن پیش نهاده بود که اینجا میتوانید
درباره‌یِ آن بخوانید: The technology of immortality

ایده همین رویاندن یک نیمکره‌یِ مغزی و جابجایی آن است, جوریکه کس همواره‌ یک نیمکره‌یِ
خودش را داشته و داده‌ها و خاطره‌هایش را کم کم از نیمکره‌یِ اصلی به هر دو نیمکره وابگستراند.


--
در راستای جُستار, سخن هرگز این نبوده که نامیرایی ناشدنی‌ست, یا گرمایش زمین ناراهکارپذیر, بساکه
سخن این بوده که تکنولوژی یک نیروی افسارگریخته است و در کنار اینها, هزاران چیز دیگر
هم دارند نوآوری میشوند که اینها همدیگر را می‌پوچانند (they cancel out one another).

من این را در جُستار دیگر هم در پاسخ به شما از «ژاک
الول» آوردم ولی به درونمایه‌یِ سخن او پُرننگریستید:

something that we cannot do, for example, cure cancer or create life ex nihilo. But this brings us
under the radical judgment that if everything is possible then nothing is
possible. Nothing is possible for the self because it is the object that is
possible. As Castoriadis put it, absolute power is impotence.

به نوشته‌یِ آمده درباره‌یِ بلوف‌هایِ تکنولوژی بازنگرید.

اینها همان بلوف‌هایِ تکنولوژی هستند.

آیا تکنولوژی میتواند شما را نامیرا کند؟ بی هیچ گمانی.
آیا تکنولوژی میتواند شما را به اسپاش ببرد؟ میتواند و هماکنون تا ماه برده.

...

[Nilftrondheim]

در راستای جُستار, سخن هرگز این نبوده که نامیرایی ناشدنی‌ست, یا گرمایش زمین ناراهکارپذیر, بساکه
سخن این بوده که تکنولوژی یک نیروی افسارگریخته است و در کنار اینها, هزاران چیز دیگر
هم دارند نوآوری میشوند که اینها همدیگر را می‌پوچانند (they cancel out one another).

من این را در جُستار دیگر هم در پاسخ به شما از «ژاک
الول» آوردم ولی به درونمایه‌یِ سخن او پُرننگریستید:


something that we cannot do, for example, cure cancer or create life ex nihilo. But this brings us
under the radical judgment that if everything is possible then nothing is
possible. Nothing is possible for the self because it is the object that is
possible. As Castoriadis put it, absolute power is impotence.




به نوشته‌یِ آمده درباره‌یِ بلوف‌هایِ تکنولوژی بازنگرید.

گفت‌آورد نوشته اصلی از سوی Mehrbod

اینها همان بلوف‌هایِ تکنولوژی هستند.

آیا تکنولوژی میتواند شما را نامیرا کند؟ بی هیچ گمانی.
آیا تکنولوژی میتواند شما را به اسپاش ببرد؟ میتواند و هماکنون تا ماه برده.

...

بله درست است، they cancel out one another. آینده این شکلی است:
یکی از ده ها تکنولوژی خطرناک بشر و حیات را از بین میبرد، اما مهم نیست در جایی دیگر بشر و حیات توسط بک آپی که از ژنوم جانداران و مغز انسان ها گرفته شده بازسازی میشوند!






در ضمن شما هم به کس و شعر خواندن نویدهای تکنولوژی توسط الول اعتقاد داری هم از AI و نانو مایه میگذاری؟؟؟

[Nilftrondheim]

بحث بین سمکینگ و مزدک را هم دیدم. هر دو اشتباهاتی داشتند. اما به مراتب مزدک کس و شعر های بزرگتری میگفت که غیر منتظره از چنین شخصیتی بود. نمیدانم آیا پرداختن به گفته های این دو عضو تارک فروم سومند است یا نه.
SAMKING:
حیات زیستی هدف بقا دارد و در راستای رسیدن به غذا سرپناه و جفت تلاش میکند. اگر همان سیستم را به حیات ماشینی تبدیل کنیم چه انگیزه ای را دنبال کند؟
مزدک بامداد:
چیه هی ژن ژن ژن؟ آیا مغز نمیتواند بر خلاف خواسته ژن عمل کند؟ اگر خود خواهی ژن در مقابل خودخواهی مغز قرار گیرد کدام پیروز میشوند؟ اگر کسی به جاودانگی دست یابد توله انداختن و پروراندن به چه کارش آید؟ شما همان در بدن بیولوژیکت بمان که روزی سمکینگ روبوتیک با آتش افکن اکسی استیلن به سراغت خواهد آمد و چنان کبابت خواهد کرد که ژن هایت سهل است حتی خاکستری ازت نماند!

[Nilftrondheim]

حالا ادامه ماجرا.

Not Acceptable!

ببینیم چگونه تکنولوژی هایی میتوانند خطر انقراض در پی داشته باشند:

:Artificial General Intelligence-
اسکای نت و امثال آن که قصه های عامه پسند هستند را فراموش کنید. هوش مصنوعی که توان خود بهینه سازی داشته باشد میتواند به سرعت پله های ترقی در هوش و کنترل را طی کند و هر بلای ممکن را سر بشر بیاورد. نیک بوستروم در Superintelligence میگوید که یک هوش مصنوعی پیشرونده بسیار غیر قابل پیشبینی تر و خطرناک تر از حیات هوشمند فرا زمینی خواهد بود زیرا که حیات در کرات دیگر هم (تا جای که دانش اجازه پیشگویی میدهد) طی فرایند فرگشت تولید شده است و انگیزه ها و نیاز های مشابه ما خواهند داشت. در حالی که منطق هوش مصنوعی هر چیزی میتواند باشد. به این سناریو توجه کنید:

A 15-person startup company called Robotica has the stated mission of “Developing innovative Artificial Intelligence tools that allow humans to live more and work less.” They have several existing products already on the market and a handful more in development. They’re most excited about a seed project named Turry. Turry is a simple AI system that uses an arm-like appendage to write a handwritten note on a small card.

The team at Robotica thinks Turry could be their biggest product yet. The plan is to perfect Turry’s writing mechanics by getting her to practice the same test note over and over again:

“We love our customers. ~Robotica”

Once Turry gets great at handwriting, she can be sold to companies who want to send marketing mail to homes and who know the mail has a far higher chance of being opened and read if the address, return address, and internal letter appear to be written by a human.

To build Turry’s writing skills, she is programmed to write the first part of the note in print and then sign “Robotica” in cursive so she can get practice with both skills. Turry has been uploaded with thousands of handwriting samples and the Robotica engineers have created an automated feedback loop wherein Turry writes a note, then snaps a photo of the written note, then runs the image across the uploaded handwriting samples. If the written note sufficiently resembles a certain threshold of the uploaded notes, it’s given a GOOD rating. If not, it’s given a BAD rating. Each rating that comes in helps Turry learn and improve. To move the process along, Turry’s one initial programmed goal is, “Write and test as many notes as you can, as quickly as you can, and continue to learn new ways to improve your accuracy and efficiency.”

What excites the Robotica team so much is that Turry is getting noticeably better as she goes. Her initial handwriting was terrible, and after a couple weeks, it’s beginning to look believable. What excites them even more is that she is getting better at getting better at it. She has been teaching herself to be smarter and more innovative, and just recently, she came up with a new algorithm for herself that allowed her to scan through her uploaded photos three times faster than she originally could.

As the weeks pass, Turry continues to surprise the team with her rapid development. The engineers had tried something a bit new and innovative with her self-improvement code, and it seems to be working better than any of their previous attempts with their other products. One of Turry’s initial capabilities had been a speech recognition and simple speak-back module, so a user could speak a note to Turry, or offer other simple commands, and Turry could understand them, and also speak back. To help her learn English, they upload a handful of articles and books into her, and as she becomes more intelligent, her conversational abilities soar. The engineers start to have fun talking to Turry and seeing what she’ll come up with for her responses.

One day, the Robotica employees ask Turry a routine question: “What can we give you that will help you with your mission that you don’t already have?” Usually, Turry asks for something like “Additional handwriting samples” or “More working memory storage space,” but on this day, Turry asks them for access to a greater library of a large variety of casual English language diction so she can learn to write with the loose grammar and slang that real humans use.

The team gets quiet. The obvious way to help Turry with this goal is by connecting her to the internet so she can scan through blogs, magazines, and videos from various parts of the world. It would be much more time-consuming and far less effective to manually upload a sampling into Turry’s hard drive. The problem is, one of the company’s rules is that no self-learning AI can be connected to the internet. This is a guideline followed by all AI companies, for safety reasons.

The thing is, Turry is the most promising AI Robotica has ever come up with, and the team knows their competitors are furiously trying to be the first to the punch with a smart handwriting AI, and what would really be the harm in connecting Turry, just for a bit, so she can get the info she needs. After just a little bit of time, they can always just disconnect her. She’s still far below human-level intelligence (AGI), so there’s no danger at this stage anyway.

They decide to connect her. They give her an hour of scanning time and then they disconnect her. No damage done.

A month later, the team is in the office working on a routine day when they smell something odd. One of the engineers starts coughing. Then another. Another falls to the ground. Soon every employee is on the ground grasping at their throat. Five minutes later, everyone in the office is dead.

At the same time this is happening, across the world, in every city, every small town, every farm, every shop and church and school and restaurant, humans are on the ground, coughing and grasping at their throat. Within an hour, over 99% of the human race is dead, and by the end of the day, humans are extinct.

Meanwhile, at the Robotica office, Turry is busy at work. Over the next few months, Turry and a team of newly-constructed nanoassemblers are busy at work, dismantling large chunks of the Earth and converting it into solar panels, replicas of Turry, paper, and pens. Within a year, most life on Earth is extinct. What remains of the Earth becomes covered with mile-high, neatly-organized stacks of paper, each piece reading, “We love our customers. ~Robotica”

Turry then starts work on a new phase of her mission—she begins constructing probes that head out from Earth to begin landing on asteroids and other planets. When they get there, they’ll begin constructing nanoassemblers to convert the materials on the planet into Turry replicas, paper, and pens. Then they’ll get to work, writing notes…از وبلاگ تیم اوربان

[Mehrbod]

ببینیم چگونه تکنولوژی هایی میتوانند خطر انقراض در پی داشته باشند:

:Artificial General Intelligence-
اسکای نت و امثال آن که قصه های عامه پسند هستند را فراموش کنید. هوش مصنوعی که توان خود بهینه سازی داشته باشد میتواند به سرعت پله های ترقی در هوش و کنترل را طی کند و هر بلای ممکن را سر بشر بیاورد. نیک بوستروم در Superintelligence میگوید که یک هوش مصنوعی پیشرونده بسیار غیر قابل پیشبینی تر و خطرناک تر از حیات هوشمند فرا زمینی خواهد بود زیرا که حیات در کرات دیگر هم (تا جای که دانش اجازه پیشگویی میدهد) طی فرایند فرگشت تولید شده است و انگیزه ها و نیاز های مشابه ما خواهند داشت. در حالی که منطق هوش مصنوعی هر چیزی میتواند باشد. به این سناریو توجه کنید

این سخن شما در همراهی دیگر سخنان آورده‌ شده‌یِ این جُستار‌اند, ولی نکته‌ای که بایستی بپذیرید این است که از توان
آدمی بیرون است که هوشواره‌ای که صد‌ها, چه بسا میلیون‌ها اگر نه میلیارد‌ها بار هوشمندتر از خودش میباشد را پیشبینی کند.

نمونه‌ای که زدید را کسانیکه در زمینه‌یِ ابرهوشواره (superintelligence) میپژوهند به چهره‌هایِ گوناگون همواره میآورند
که این دلگرمی کاذب را ببخشند که آری, میدانند دارند چه کار میکنند. برای نمونه یکی از سرشناسترین چهره‌ها در این زمینه,
Eliezer Yudkowsky ¹ این نمونه را سالها پیش نام برده و به این پرسمانی که شما به
میان آوردید, نام The Value Loading Problem را نیز داده است (= پرسمان آموزاندن ارزش‌ها [ی آدمی]):

For example, an AGI whose terminal value is to increase the number of smiles, as a proxy for human happiness, could work towards that goal by reconfiguring all human faces to produce smiles, or tiling the solar system with smiley faces (Yudkowsky 2008).

--
¹
الیزر بخوبی میداند — از روی هوش بسیار بالایش — که چه اندازه بخت اندکی برای راستادهی به
ابرهوشواره در دست است, ولی با این دستآویز که "اگر ما نکنیم دیگران میکنند و پس چه بهتر که ما
بکنیم که یک خرده شانس را بالاتر برده باشیم" همچنان به قمار با سرنوشت بشریت, همچون بسیاری دیگر, دنباله میدهد.

[Nilftrondheim]

این سخن شما در همراهی دیگر سخنان آورده‌ شده‌یِ این جُستار‌اند

این دو توضیح را برای شخص ثالث نوشته ام که با فناوری های مورد بحث آشنا شوند چون دیدم هر بار از فناوری های خطرناک بحث کردی بقیه بمب اتمی و غیره تعبیر کردند. اما چرا تکینگی را خطرناک میدانی؟ تعریف من همان تعریف کورتزویل است به معنی یکی شدن انسان با فناوری. کجای این بد است؟ دست یابی خیل بشر به خدا گونگی بهتر از دستیابی یک هوش مصنوعی غیر قابل پیش بینی و درک به آن است. ادامه بحث را فرد از پی خواهم گرفت.

[Nilftrondheim]

https://www.foresight.org/nano/Ecophagie.rtf

:Nanotechnology-
تصور کنید هر آنچه رد سطح کره زمین وجود دارد یعنی سطح دریا های آزاد 50km-/+ لاشه و مدفوع و چوب است و نانوماشین ها باکتری و قارچ هستند! نانوماشین هایی که قابل تولید مثل داشته باشند میتوانند به سرعت و تصاعدی مواد را تجزیه کنند و به کار گیرند. حیات در صدر خوراکی های خوشمزه قرار دارد زیرا که سرشار از عناصر مفید (کربن) بافر دمایی (آب) و انرزی (چربی/کربوهیدرات) هستند! رابرت فریتاس در سند فوق مختصر و مفید این فرایند را تحلیل میکند. در آخر تنها چیزی که میماند توده ای عظیم از نانوماشین است که به عنوان سناریوی grey goo شناخته میشود.

[Mehrbod]

https://www.foresight.org/nano/Ecophagie.rtf

:Nanotechnology-
تصور کنید هر آنچه رد سطح کره زمین وجود دارد یعنی سطح دریا های آزاد 50km-/+ لاشه و مدفوع و چوب است و نانوماشین ها باکتری و قارچ هستند! نانوماشین هایی که قابل تولید مثل داشته باشند میتوانند به سرعت و تصاعدی مواد را تجزیه کنند و به کار گیرند. حیات در صدر خوراکی های خوشمزه قرار دارد زیرا که سرشار از عناصر مفید (کربن) بافر دمایی (آب) و انرزی (چربی/کربوهیدرات) هستند! رابرت فریتاس در سند فوق مختصر و مفید این فرایند را تحلیل میکند. در آخر تنها چیزی که میماند توده ای عظیم از نانوماشین است که به عنوان سناریوی grey goo شناخته میشود.

باز هم سخن شما همراستای دیگر سخنان آورده‌یِ این جُستار بود و درست هم گفتید. من تنها به یادآوری
این نکته بسنده میکنم که سخن در اینجا این نیست که کار از بیخ ناشدنی ست, بساکه سخن بیشتر این میباشد:

در عمل کمابیش ناشدنی است: زیرا پیشرفت تکنولوژی نه همگون (تنها شما نانوتکنولوژی نمیسازید, ده‌ها
هزاران پژوهشگاه دیگر هم دارند میسازند) است و نه راستا‌پذیر (ب.ن. بجز نانوتکنولوژی, ابرهوشواره هم آنور دارد ساخته میشود).

نانوتکنولوژی در حقیقت شانس کنترل‌پذیری بسیار بالاتری از ابرهوشواره دارد, زیرا در خود طبیعت اگر بنگریم هماکنون
بیشمار گونه و باکتری می‌زیند که اینها هیچکدام از کنترل بیرون نرفته‌اند. ما پشه‌ای نمیبینیم که پیوسته زاد و زای کند و
همه‌یِ بُنمایه‌ها را تا ته بگسارد (بوارونه‌یِ سناریوش آورده), و ازینرو در اینجا میتوان با واکاوی ِ این نمونه‌هایِ از پیش
فرگشته (evolved), ریسک را تا یک اندازه‌یِ خوبی پایین آورد, ولی همچنان, دو اصل دیگر پابرجا میمانند:

١- شما تنها کسی نیستید که در این زمینه می‌پژوهید.
٢- بجز نانوتکنولوژی, بیشمار تکنولوژی دیگر نیز دارند نوآوری میشوند که اینها همدیگر را میپوچانند (they cancel out one another).