هوش مصنوعی در مرزهای اروپا مورد استفاده قرار می گیرد
- admin
- 1 تیر 1398
- 0
تالین، برنامه‌نویس کامپیوتر متولد استونی است که در زمینه‌ی فیزیک هم سابقه دارد. او زندگی را به یک مسئله‌ی برنامه‌نویسی بزرگ تشبیه می‌کند. تالین در سال ۲۰۰۳ به‌عنوان یکی از بنیان‌گذاران اسکایپ به توسعه‌ی بک‌اند این اپلیکیشن پرداخت. او برای رسیدن به هدفی جدید، دو سال بعد سهم خود را به eBay فروخت. مقاله‌ی «خیره به تکینگی» ترکیبی از کد کامپیوتر، فیزیک و نقل‌قول‌های کالوین و هاب بود. تالین هشدار می‌دهد که رسیدن به امنیت هوش مصنوعی کار دشواری است. درصورتی‌که هوش مصنوعی به‌اندازه‌ی کافی هوشمند باشد، درک بهتری از محدودیت‌ها خواهد داشت. تالین چنین شرایطی را به بیدار شدن در زندانی تشبیه می‌کند که به دست یک مشت کودک پنج ساله و کور ساخته شده است.
همین مسئله برای هوش مصنوعی هوشمند صحت دارد و درک آن از زندان و رفع محدودیت‌ها می‌تواند بسیار فراتر از خالق انسانی باشد.
یودکفسکی نظریه‌پرداز با اجرای آزمایشی در سال ۲۰۰۲ به این تهدید‌ها پی برد. او در این آزمایش‌ها چت‌های دو طرفه‌ای را اجرا کرد. خود او نقش هوش مصنوعی محصور در یک جعبه را ایفا می‌کرد، مخاطبان هم نقش دروازه‌بان یا زندان‌بانی را ایفا می‌کردند که هوش مصنوعی را درون جعبه نگه می‌داشت. یودکفسکی می‌گوید از هر پنج مرتبه، سه مرتبه توانست دروازه‌بان را قانع کند که او را آزاد کند. بااین‌حال آزمایش‌های او باعث نشد پژوهشگرها از ساخت جعبه‌های بهتر دلسرد شوند.
پژوهشگرهای تحت حمایت تالین، برای رسیدن به هدف مجموعه‌ای وسیع از استراتژی‌ها، روش‌های کاربردی و حتی غیرممکن را در نظر می‌گیرند. گروهی به محصور کردن فیزیکی هوش مصنوعی در ساختاری واقعی و فیزیکی یا محصور کردن آن ازطریق برنامه‌نویسی اعتقاد دارند. گروهی دیگر هم سعی می‌کنند هوش مصنوعی را به‌گونه‌ای آموزش دهند که به ارزش‌های انسانی احترام بگذارد.
تعداد کمی هم روی دکمه‌ی خاموش یا Off کار می‌کنند. یکی از پژوهشگرها به نام استوارت آرمسترانگ، فیلسوف و ریاضیدان مؤسسه‌ی Future of Humanity دانشگاه آکسفورد (تالین این مؤسسه را جذاب‌ترین بخش دانشگاه می‌داند و بیش از ۳۱۰ هزار دلار روی آن سرمایه‌گذاری کرده است)، معتقد است هر سه روش مزایای خود را دارد. آرمسترانگ یکی از معدود پژوهشگرهای دنیا است که به‌صورت تمام‌وقت روی امنیت هوش مصنوعی کار می‌کند.
آرمسترانگ بخشی از پژوهش خود را به یک نوع روش محصورسازی به نام «oracle AI» اختصاص داده است. او در سال ۲۰۱۲ در مقاله‌ای با همکاری نیک بوستروم (یکی از بنیان‌گذاران FHI)، نه‌تنها احاطه‌کردن ابَرهوش در یک مخزن (ساختار فیزیکی) را پیشنهاد داد، بلکه با روشی مثل تخته‌ی ویجا (تخته‌ای که برای احضار ارواح به کار می‌رود و با پاسخ‌هایی مثل بله و خیر و اعداد همراه است) محدودیت آن را افزایش داد. باوجود تمام این محدودیت‌ها هوش مصنوعی می‌تواند با دست‌کاری زیرکانه‌ی بازپرس‌های خود، سرنوشت بشر را تغییر دهد.
