باسیلیسکِ روکو مفهومی هست که در جامعهی Singularitarians و Transhumanists شکل گرفت.
ایده پشت باسیلیسکِ روکو اینه: یک روزی، احتمالا یک روز در آینده، شاید یک علم خیلی کامل در مورد هوش مصنوعی( AI ) وجود داشته باشه. در واقع یکسری افراد هستن که معتقدن این مسئله غیرقابل اجتناب هست. این هوش مصنوعی انقدر باهوش و قدرتمند خواهد بود که میتونه بفهمه چه کسی در ساخته شدنش مشارکت کرده، حتی در زمانهای خیلی قبل. این هوشمصنوعی علاقه خاصی به کسایی که در موردش تحقیق کردن و کسایی که روش سرمایهگذاری کردن داره (و اگر یکجورایی شک دارین، الان کسایی هستن که روی این نوع هوشمصنوعی کار میکنن و راههایی هم برای سرمایهگذاری توشون وجود داره)، ولی با کسایی که این نوع مقالهها رو میخونن، متوجهشون میشن،...
لطفا برای مشاهده کامل مطالب در انجمن ثبت نام کنید.
به نظر ربات باحالی میاد نه؟ مسئله جالب اینجا اینه که ما داریم در مورد یک هوشمصنوعیِ خوب یا دوست صحبت میکنیم. ایده اینه که به وجود آمدن یک هوشمصنوعی خدا مانند اجتنابناپذیر هست، بنابراین محققها باید خیلی سریع یک نمونهی خوب بسازن که برای انسان ارزش قائل باشه و بهطور اتفاقی انسان رو نابود نکنه. به این ربات میگیم هوشمصنوعیِ دوست. واقعا هم چی بیشتر از نابود نکردن انسانها دوستانهتر هست؟
هوشمصنوعیِ خوب، که ساخته شده تا در کنار انسانها وجود داشته باشه، باید قبل از یک هوشمصنوعی رندوم دیگه ساخته بشه که ممکنه به همون اندازه مراقب انسانها نباشه؟ حالا، اگر شما برید و تمام پولتون رو بدید به محققها که روی این هوشمصنوعی کار کنن، مشکلی برای شما پیش نمیاد. اما اگه این مسئله رو متوجه شدین (به خوندن ادامه بدین، هنوز در ادامه چیزهای جدیدی هست)، اما هیچکاری در این مورد نمیکنید، پس... انواع تنبیه و شکنجه در انتظار شماست!!!
حالا، شاید گیج بشین که چطور رباتی که ممکنه تا سالهای بعد از مرگ شما وجود نداشته باشه شما رو شکنجه کنه. منم این موضوع رو تا مدتی بعد از اینکه در مورد باسیلیسکِ روکو خوندم متوجه نشدم، ولی وقتی فهمیدم، متوجه شدم که این قسمتش بدترین و ترسناکترین قسمت قضیهست.
این هوشمصنوعی انقدر پیشرفته است که میتونه یک کپی تقریبا کامل از شما رو بسازه، و شکنجهاش کنه. یک هوشمصنوعیِ پیشرفتهی خدا مانند، که ذهن ضعیف ما نمیتونه متوجهاش بشه، احتمالا در شکنجه کردن این کپی شما کارش رو خوب بلده. ما داریم در مورد سالها درد فیزیکی صحبت میکنیم؛ غم و اندوه روحی بیپایان؛ حتی ممکنه حشرات موذی هم باشن، یا مثلا مار. خیلی خیلی چیزهای بد.
اما حالا چرا اصن باید مهم باشه که یک کپی شما در آینده شکنجه بشه، نه حتی خود شما؟ نکته اینجاست: کپی شما مثل شما فکر میکنه، تجربههای مختلف زندگی رو مثل شما پشت سر میزاره (قبل از اینکه شکنجه بشین)، و مثل شما هم احساس میکنه. اون کپی فکر میکنه شماست. تنها تفاوت بین شما کپیتون اینه که شما به آخر عمرتون میرسین و میمیرید، ولی کپی شما در یک نقطهای از زندگی گیر اون هوشمصنوعی میافته و شکنجه میشه. تا رسیدن به اون نقطه، کپی شما هیچ ایدهای نداره که در واقع خود واقعی شما نیست، و مشکل اینجاست:
