پیشرفت روزافزون فندآوری: به کجا می‌رویم؟

[Nilftrondheim]

اینها در این رده میافتند که هر کنشی, یک بازکنشی (reaction) دربر دارد و این سخن نادرستی نیست, ولی کارآمدی ندارد.
برای نمونه, شما آنجا دامنه‌یِ آسیب به میان آمده را با یک ابزار دفاعی پاسخ داده بودید, برای نمونه در سخن آمده بود
که چاقو میتواند آسیب‌رسان هم باشد, ولی دامنه‌یِ آسیب مرزمند دارد, و در همین راستا, تفنگ هم میتواند آسیبرسان باشد (اگر
چیز دیگری از بیخ بتواند باشد!) ولی همزمان دامنه آسیبرسانی باز بزرگتری را دارد; به دیگر زبان:


Lao Tzu: the sharper the tools, the darker the times.



هر آینه, شما تنها آوردید که برای هر کدام از اینها یک ابزار واکنشی هم پدید آمده, ولی پرسش این است که این ابزار
واکنشی به چه درد میخورند؟

همانطور که گفته شد AI و Nanotech تفاوت اساسی دارند. این که با توجه به برنامه ریزی و کنترل روی آنها، نوع بد (Malevolent) میتواند توسط نوع خوب (Benevolent) خنثی و نابود شوند.

نمونه‌وار, در برابر تفنگ شما جلیقه‌یِ ضد گلوله را آورده و بسیار هم خوب, تا یک اندازه‌یِ بالایی
این کار میکند, ولی اکنون باید چه کنیم, در خیابان با جلیقه‌یِ ضد گلوله راه برویم تا قربانی تیر اندازی‌ها نشویم؟ این شمار
کسانیکه در آمریکا کشته میشوند هم اگر جلیقه‌یِ ضد گلوله به تن داشتند خب نمیمردند, ولی این بروشنی یک راهکار
به درد نخور است و در اینجا, هر دو, چه ابزار (تفنگ), چه پادافزار (جلیقه) مایه‌یِ رنج آدمی بوده‌اند و در نبود هر دو آسوده‌تر است.

با خرس ها که قبل از انسان بودند چه کنیم؟ جنگل نرویم؟
Project Grizzly (film) - WiKi
Bear spray - WiKi
Smith Wesson Model 500 - WiKi

نمونه‌یِ بزرگتر هم بروشنی کار نمیکند, در یک جنگ اتمی چه شمار کسانی
دسترسی به این سوت (suit)‌هایِ پاد-رادیواکتیو دارند؟ و آن شماری هم که دارند چه,
بایستی شباروز به تن کنند یا خودشان را در زیرزمین‌هایِ حفاظت شده زندانی؟

.If the danger is imminent, yes

[Mehrbod]

همانطور که گفته شد AI و Nanotech تفاوت اساسی دارند. این که با توجه به برنامه ریزی و کنترل روی آنها، نوع بد (Malevolent) میتواند توسط نوع خوب (Benevolent) خنثی و نابود شوند.

یک ابرهوشواره که هوشی بگوییم یک میلیون برابر بیشتر از همه‌یِ آدمها روی
هم دارد از پایه کنترل‌ناپذیر است و میتواند بآسانی برنامه‌یِ خودش را از نو بازنویسی نماید.

اگر امروزه رایانه‌ها همان کاری را میکنند که به آنها گفته میشود تنها و تنها ازینرو ست که هوش بسیار پایین و پس کنترل‌پذیری دارند.

با خرس ها که قبل از انسان بودند چه کنیم؟ جنگل نرویم؟
Project Grizzly (film) - WiKi
Bear spray - WiKi
Smith Wesson Model 500 - WiKi

آماج هرگز ٠ کردن خطر نبوده است, بساکه دوری از نابودی آدمی و از دست رفتن آزادی‌های آدمی بوده است.

زندگی در طبیعت بروشنی خوبی‌ها و بدی‌ها و همچنین خطرهای خودش را دارد.

[Nilftrondheim]

یک ابرهوشواره که هوشی بگوییم یک میلیون برابر بیشتر از همه‌یِ آدمها روی
هم دارد از پایه کنترل‌ناپذیر است و میتواند بآسانی برنامه‌یِ خودش را از نو بازنویسی نماید.

اگر امروزه رایانه‌ها همان کاری را میکنند که به آنها گفته میشود تنها و تنها ازینرو ست که هوش بسیار پایین و پس کنترل‌پذیری دارند.

تکلیف را روشن کنید، به کدام دلیل AI (و شاید nanotech) خطرناک میباشند؟ دو حالت زیر جمع پذیر نیستند!

- میتوان آن ها را کنترل کرد و جهت داد. در این صورت به همان بحث benevolence برمیگردیم که باید اولین یا اولین ها "خوب ها" باشند تا پس از آن مشکلی پیش نیاید. فکر کنید پروژه منهتن را اول بار نازی ها یا شوروی اجرا میکردند چه میشد!!!

.If it can be done, someone's gonna do it. Let's make sure they're the good guys

- نمیتوان آن ها را کنترل کرد و جهت داد. اینها اساسا ناپایدار و غیر قابل پیش بینی هستند و هر گونه استفاده از آنها منجر به آخرالزمان میگردد. در اینجا دو چیز باید روشن شود:

- آیا ناپایدار الزاما به معنی مخرب است؟ از بحث محبوب روانپزشکی مثال بزنم. یک اسکیزوفرن نمیتواند قاتل زنجیره ای باشد. یک سایکوپت میتواند. حتی مخرب بودن نیز نیاز به پایداری و هدفمندی دارد.

- آیا اسکای نت دم در ایستاده است؟ طوری از این تکنولوژی ها سخن میگویید گویا همین فردا اتفاق خواهد افتاد! ما هنوز نتوانسته ایم 302 نورون یک کرم را شبیه سازی کنیم، چطور انتظار دارید بشر چیزی در این حد پیچیده بسازد سپس نتواند آن را کنترل کند؟ هوش مصنوعی را 30 سال بعد دانشمندانی مجهز به Nootropics و Neural Augmentations خواهند ساخت، کسانی که تفاوت زیادی با آن ندارند!

زندگی در طبیعت بروشنی خوبی‌ها و بدی‌ها و همچنین خطرهای خودش را دارد.

کدام خوبی؟ امید به زندگی 25 سال؟

[Mehrbod]

سیستم در ما نیازهایی ایجاد می کنه و ما برای رفع آن تلاش می کنیم در حالی که حقیقتا سودی برای ما ندارد و به درد سیستم می خورد.

چه نمونه‌ای اینجا در ذهن شما بوده؟


--
«نیازواره‌‌ها» یا «نیازهای جانشین (surrogate activities)» یکی از چیزهایی‌ست که در گفتمان
تکنولوژی از سوی نویسندگان گوناگون با نام‌هایی همانند بخوبی و بژرفی بدان پرداخته شده است.

درینباره میتواند از کازینسکی بیشتر بخوانید: Industrial Society and its future - The power process