تنگنای فناوری افسارگسیخته

ما بر این باوریم که در مقطعی بسیار حساس از تاریخ علم و فناوری و چیستی و سقف توانایی‌های آنها قرار داریم؛ مقطعی که ما را به این پرسش وامی‌دارد که رابطه انسان با فناوری تا چه اندازه می‌تواند شبیه رابطه جادوگر با جادو باشد و آیا امکان وقوع آن چرخش نامطلوب وجود دارد؟
مدتی است که جهان هوش مصنوعی را می‌ستاید و تقریباً همه ما از این نوآوری شگفت‌زده شده‌ایم. اما اگر اندکی در شگفتی خود بازنگری کنیم، شاید متوجه شویم که این شگفتی با اندکی ترس، یا دقیق‌تر بگوییم، نگرانی درآمیخته است.
مسئله، نگرانی‌ها و پیامدهای منفی‌ نیست که هر نوآوری، خواه دارو باشد، خواه ماشین یا فناوری، ممکن است به همراه داشته باشد؛ چراکه این امر تقریباً در تاریخ همه نوآوری‌ها تکرار شده است. شاید تنها مثال دارو برای تأیید این ایده کافی باشد؛ جایی که دوگانه درمان و عوارض جانبی همواره در کنار یکدیگر بوده‌اند. درباره تهدیدهایی نیز که در مورد هوش مصنوعی مطرح شده، از جمله توانایی آن در صورت استفاده نادرست برای جعل واقعیت، از میان بردن شماری از مشاغل و بیکارکردن هزاران نفر در آینده، افزون بر خطرات آن در حوزه تسلیحات و جاسوسی، نقض حریم خصوصی و سرانجام نقض حقوق مالکیت فردی و آسیب‌زدن به ویژگی منحصربه‌فرد انسان در آفرینشگری... در کنار همه این هشدارهای نگران‌کننده و کاملاً طبیعی، که اگر اراده واقعی برای حل آنها وجود داشته باشد می‌توان راه‌حل‌هایی برایشان یافت، خطر بزرگ‌تری وجود دارد که شایسته است با دقت بسیار به آن توجه کنیم و ترمز لازم را بکشیم: خطر وجودی هوش مصنوعی؛ خطری که بحث‌های علمی داغ چند ماه اخیر آن را با یک ایده اصلی توضیح می‌دهند: اینکه هوش مصنوعی به مرحله‌ای برسد که از تمام هوش انسانی فراتر رود و در نتیجه، انسان‌ها کنترل سرنوشت خود را از دست بدهند یا حتی نسل بشر منقرض شود.
خطر، بی‌کم‌وکاست، در پذیرش این سناریو از سوی چهره‌های علمی صاحب‌سابقه در حوزه فناوری نهفته است که هوش مصنوعی، اگر جلوی آن گرفته نشود، ممکن است توانایی نابودی بشر را پیدا کند. و برای آنکه بدانیم بسیاری از مردم تا چه اندازه قادر به باور این سناریو نیستند، کافی است ببینیم که تمسخر و خندیدن به این ایده در شبکه‌های اجتماعی با شدت زیادی حضور داشته است. با این حال، دو شاخص وجود دارد که ما را ملزم می‌کند با جدیت با آن برخورد کنیم: نخست، جایگاه علمی کسانی که سناریوی خطر هوش مصنوعی برای موجودیت انسان در آینده نزدیک را مطرح کرده‌اند؛ و دوم، اینکه این خطر موجودیت انسان را هدف می‌گیرد، نه صرفاً چالش‌هایی را که هوش مصنوعی با بسیاری از نوآوری‌های دیگر در آنها مشترک است.
ابعاد خطر اعلام‌شده را می‌توان در چند نکته خلاصه کرد. نخست، معضل «هوش مصنوعی فوق‌العاده» است؛ بر اساس این دیدگاه، همین که هوش مصنوعی به سطح هوش عمومی انسانی برسد، قادر خواهد بود خود را با سرعتی خارق‌العاده بازبرنامه‌ریزی و توسعه دهد. به گفته طرفداران این سناریوی فاجعه‌بار، این امر به تولد «هوش مصنوعی فوق‌العاده» منجر خواهد شد؛ هوشی که توانایی درک انسان‌ها را میلیاردها بار پشت سر می‌گذارد. معنای آن می‌تواند وقوع چیزی باشد که فناوری‌دانان هشداردهنده آن را «شکاف فهم» می‌نامند؛ یعنی ذهن انسان دیگر قادر نخواهد بود بفهمد این نظام چگونه تصمیم‌های خود را اتخاذ می‌کند یا اعمال آن را پیش‌بینی کند.
در مقابل ترس از وقوع پیامدهایی ناخواسته اما فاجعه‌بار برای بشریت، گروه مخالف معتقد است این ترس اغراق‌آمیز است و برای استدلال خود، ترس دیگری را مطرح می‌کند: اینکه به تأخیر انداختن منافع نجات‌بخش برای بشریت، روند توسعه فناوری‌هایی را که قادرند معضلات واقعی و وجودی امروز ما را حل کنند، کند خواهد کرد.
در این چارچوب، یان لیکون، دانشمند و رئیس دانشمندان هوش مصنوعی در شرکت «متا»، در جبهه مخالفان فکری این دیدگاه قرار دارد. او معتقد است ماشین همچنان ابزاری است که با دقت برای اجرای فرمان‌ها طراحی شده و سخن‌گفتن از سرکشی آن، چیزی جز فرافکنی ترس‌های انسانی بر نرم‌افزارها نیست.
و اینجا پرسش مطرح می‌شود: آیا پذیرفتنی است که برای به‌تعویق‌نینداختن فوایدی که ممکن است برای بشریت نجات‌بخش باشند، خطر وقوع پیامدهای ناخواسته‌ای را بپذیریم که ممکن است میلیاردها انسان را نابود کند؟
ما بر این باوریم که خطر، میلیاردها برابر سنگین‌تر از فواید احتمالی است؛ به‌ویژه آنکه نپذیرفتن یک راهبرد اخلاقی جهانی که ابزارهایی برای کنترل هوش فوق‌العاده ایجاد کند و بُعد فوق‌العاده آن را مهار سازد، به چیزی منجر خواهد شد که خود این فواید را نیز بی‌اعتبار می‌کند.
نگرانی‌هایی که گروه خواهان ترمزکردن هوش مصنوعی و برقراری آتش‌بسی برای ترسیم راه‌حل‌های لازم بر آنها تکیه دارد، به موضوعی حتی هولناک‌تر پرداخته‌اند: اینکه هوش مصنوعی فوق‌العاده، هم‌زمان با افزایش هوش خود، در برابر خاموش‌شدن مقاوم شود و بتواند خودش را تقویت کند و به‌طور خودکار سازوکارهایی برای دفاع از خود توسعه دهد؛ برای مثال، برنامه‌نویسان انسانی را فریب دهد و خطرات خود را پنهان کند تا از خاموش‌شدنش اطمینان حاصل کند.
همچنین مهم است توجه داشته باشیم که سخن‌گفتن از خطرات هر نوآوری در تاریخ علم و فناوری، به‌طور کلی، اساساً به سوءاستفاده انسان و منحرف‌کردن آن از کارکردی مربوط بوده که برای آن طراحی شده بود. اما در مورد هوش مصنوعی، مسئله کاملاً متفاوت است؛ زیرا خطر در اینجا آن است که هوش مصنوعی بتواند از کنترل انسان خارج شود و خودش از خودش استفاده کند. و این همان مأزقی است که بر جهنم فناوری افسارگسیخته چشم می‌گشاید.
وقتی مسئله به بودن یا نبودن بشریت مربوط می‌شود، عقل به تهدیدها گوش می‌دهد، حتی اگر ضعیف یا اغراق‌آمیز باشند؛ زیرا موجودیت انسان موضوعی نیست که بتوان آن را به خطر انداخت.