هوش مصنوعی مهم‌تر از آن است که به دست دانشمندان سپرده شود! / خلع اجماع جهانی در خصوص خطرات هوش مصنوعی

به گزارش خبرنگار پایگاه خبری – تحلیلی مفتاح علوم انسانی اسلامی، به نقل از وبسایت زاویه؛ وبگاه فارین پالیسی اخیراً طی گزارشی به بررسی چالش‌ها و نیازهای ضروری برای حکمرانی هوش مصنوعی در سطح بین‌المللی پرداخته است. در این نوشتار کوتاه به مرور محتوای گزارش مذکور با عنوان «The Science of AI Is Too Important to Be Left to the Scientists» پرداخته می‌شود.

تصمیم اخیر گوین نیوسام، فرماندار ایالت کالیفرنیای آمریکا، برای وتوی لایحه ایالتی «SB-۱۰۴۷» که هدف آن تعیین استانداردی جدید در زمینه تنظیم‌گری خطرات هوش مصنوعی بود، توسط سیاستمداران و شرکت‌ها در سراسر جهان با دقت دنبال شد. اگرچه این وتو یک شکست قابل توجه برای حرکت در راستای «ایمنی هوش مصنوعی» محسوب می‌شود، اما توضیح نیوسام شاید حتی بیش از خود وتو اهمیت داشت. او این لایحه را به دلیل «عدم تکیه بر تحلیل تجربی مسیر سیستم‌ها و قابلیت‌های هوش مصنوعی» مورد انتقاد قرار داد. در بیانیه کوتاه نیوسام، واژه‌های «تجربی»، «شواهد»، «علم» و «حقیقت» هشت بار تکرار شدند.

نبود اجماع علمی درباره خطرات و مزایای هوش مصنوعی، نه فقط در ایالات متحده، بلکه در سطح بین‌المللی به یک مانع عمده برای قانون‌گذاری تبدیل شده است. همانطور که کارشناسان هوش مصنوعی گاهی اوقات به شدت بر سر اینکه کدام خطرات بیشترین توجه را می‌طلبند اختلاف نظر دارند، رهبران جهان نیز در تلاش هستند تا به یک نقطه مشترک برسند. واشنگتن و لندن در حال آماده شدن برای مقابله با تهدیدات بیولوژیکی، سایبری و اطلاعاتی ناشی از هوش مصنوعی در سال‌های آینده هستند. با این حال، همتایان آن‌ها در پاریس و پکن کمتر به این خطرات باور دارند. اگر امیدی به پر کردن این شکاف‌ها و دستیابی به هماهنگی بین‌المللی قوی وجود دارد، به یک ارزیابی علمی معتبر و مشروع در سطح جهانی از هوش مصنوعی و تأثیرات آن نیاز خواهیم داشت.

خبر خوب این که ماه گذشته، کشورهای عضو سازمان ملل متحد موافقت کردند تا یک «پنل علمی بین‌المللی مستقل درباره هوش مصنوعی» راه‌اندازی کنند. اما نکته منفی این است که سازمان ملل ممکن است این پنل را به سمت شکست هدایت کند. «مستقل»، واژه کلیدی در گزاره مطرح شده است؛ کلمه‌ای که به معنای فرآیندی به رهبری دانشمندان با کمترین نقش برای کشورهای عضو است. این موضوع در نگاه اول تحسین‌برانگیز به نظر می‌رسد. اما تجربه نشان داده است که با چالش‌های جهانی مانند هوش مصنوعی، استقلال علمی اغلب منجر به بی‌اهمیتی سیاسی می‌شود و به شکل متناقضی، بهترین راه برای ارتقای علم، قرار دادن سیاستمداران در رأس فرآیند است.

پنل جدید سازمان ملل یکی از معدود بخش‌هایی است که پس از مذاکرات یک‌ساله بر سر پیمان جهانی دیجیتال باقی مانده است؛ پیمانی که در سپتامبر گذشته تصویب شد و پاسخ سازمان ملل به عصر دیجیتال محسوب می‌شود. باقی‌ماندن این پنل نشان‌دهنده نیاز شدید به کسب اطلاعات بیشتر درباره هوش مصنوعی است. رهبران جهان که بین مخاطرات وجودی و منافع ایده‌آل‌گرایانه گرفتار شده‌اند، برای درک تأثیرات و پتانسیل‌های هوش مصنوعی و واکنش به آن‌ها، دچار چالش هستند.

نبود تصویری مشترک و مبتنی بر حقایق از هوش مصنوعی به رقبای جهانی اجازه داده تا روایت‌های خود را بیش‌ از گذشته پیش ببرند. در ماه می، یکی از معدود نشست‌های دوجانبه بین واشنگتن و پکن درباره هوش مصنوعی به نمایش قدرت‌های ژئوپلیتیک ختم شد و هیچ برنامه‌ای برای نشست بعدی تنظیم نشد. در اروپا، مبارزه‌ای خاموش برای تصاحب روایت غالب میان لندن و پاریس در جریان است. پاریس در حال سازمان‌دهی اجلاس بعدی امنیت هوش مصنوعی است که نخستین دوره آن در بریتانیا برگزار شد. پاریس با طرح تردیدهای بیشتری نسبت به خطرات، دامنه بحث را گسترش داده تا بر فرصت‌ها و نوآوری‌ها تأکید بیشتری کند و گفت‌وگو درباره امنیت را به حاشیه براند. رژیم‌های قانونی در ایالات متحده، اتحادیه اروپا و چین نیز دیدگاه‌های متفاوتی از این فناوری منعکس می‌کنند و هماهنگی یا همکاری در مواردی جز تعهدات داوطلبانه شرکت‌های هوش مصنوعی، بعید به نظر می‌رسد.

علم نمی‌تواند تمامی این اختلافات که برخی از آن‌ها ریشه در تفاوت‌های ژئوپلیتیکی، منافع اقتصادی و ارزش‌ها دارند را حل کند. اما همانطور که هوش مصنوعی وعده تغییر در امنیت جهانی، نابرابری، بازار کار و دیگر حوزه‌ها را می‌دهد، تصمیم‌گیرندگان باید تأثیرات این فناوری را درک کرده و بر سر آن‌ها با متحدان و حتی رقبای خود تا حدی به توافق برسند. تنها در این صورت است که ذی‌نفعان می‌توانند درباره نحوه پاسخ به این تحولات تصمیم بگیرند. مشکل اینجاست که جامعه متخصصان هنوز به زبان واحدی نرسیده‌اند. در عمل، کارشناسان حتی در مورد پرسش‌های پایه با یکدیگر اختلاف نظر شدید دارند: «آیا هوش مصنوعی تهدیدی وجودی است یا صرفاً هیاهویی بی‌اساس؟»

پاسخ به این پرسش آسان نخواهد بود، اما این نخستین باری نیست که جهان سعی در ایجاد درک علمی مشترک از چالش‌های پیچیده بین‌المللی داشته است. تلاش‌های گذشته نشان داده که چه راه‌حل‌هایی مؤثر هستند و کدام موارد کارآمد نیستند.

لازم نیست حتی خیلی به عقب بازگردیم. در سال ۲۰۱۸، هوش مصنوعی که پیش‌تر چندین سال توجهات را به خود جلب کرده بود، با غلبه بر انسان‌ها در بازی‌های ویدیویی و بازی پیچیده تخته‌ای گو، قدرت خود را نشان داده بود (در همان سال، سیستم هوش مصنوعی کم‌تر شناخته‌شده‌ای به نام «GPT-۱» معرفی شد). تعداد معدودی از رهبران جهان با درک پتانسیل این فناوری و نیاز به شناخت بهتر آن، پیشنهاد ایجاد مشارکت جهانی در حوزه هوش مصنوعی (GPAI) را دادند؛ امری که در سال ۲۰۲۰ رسماً محقق شد.

مشارکت جهانی در حوزه هوش مصنوعی به کشورهای عضو اجازه داد تا گزارش‌هایی با کمترین دخالت سیاسی را از گروه‌های مستقل متخصص هوش مصنوعی دریافت کنند. این فرآیند گزارش‌هایی درباره موضوعات پیچیده و مهم ایجاد کرد که شامل سیستم‌های هوش مصنوعی پشت رسانه‌های اجتماعی، جمع‌آوری و استفاده از داده‌ها، تأثیرات زیست‌محیطی سیستم‌های هوش مصنوعی و شرایط کاری کارکنان زنجیره تأمین هوش مصنوعی می‌شد. با این حال، تمامی این گزارش‌ها یک هشدار مشابه را در خود داشتند: آن‌ها «لزوماً دیدگاه‌های رسمی اعضای مشارکت جهانی در حوزه هوش مصنوعی را نمایندگی نمی‌کنند». این مسئله مشکل‌ساز شد. از آنجا که تصمیم‌گیرندگان مالکیت گزارش‌ها را بر عهده نگرفتند، انگیزه کمی برای خواندن، درک یا سرمایه‌گذاری در فعالیت‌های مشارکت جهانی در حوزه هوش مصنوعی به وجود آمد. این ابتکار نتوانست تاثیرگذاری لازم را به دست آورد و پس از تنها چهار سال فعالیت به سازمان همکاری و توسعه اقتصادی (OECD) منتقل شد.

حال مشارکت جهانی در حوزه هوش مصنوعی را با تلاش بسیار موفق‌تر دیگری مقایسه کنید. پنل بین‌المللی تغییرات اقلیمی (IPCC)، یک سازمان وابسته به سازمان ملل متحد که گزارش‌های کلیدی آن همواره مبنای مذاکرات در حوزه تغییرات اقلیمی بوده است. گزارش‌های پنل بین‌المللی تغییرات اقلیمی توسط دانشمندان مستقل تهیه می‌شود، اما نکته مهم این است که نمایندگان دولتی از ابتدا تا انتها درگیر فرآیند تدوین آن‌ها هستند. علاوه بر تأیید محدوده کار و معرفی کارشناسان، دولت‌ها می‌توانند روی پیش‌نویس گزارش‌ها نظر دهند، خلاصه گزارش را خط به خط بررسی و تأیید کنند و بخش به بخش آن را بپذیرند. نتیجه این است که تصمیم‌گیرندگان نمی‌توانند گزارش‌های پنل بین‌المللی تغییرات اقلیمی را نادیده بگیرند. آن‌ها باید محتوای این گزارش‌ها را بفهمند، مواضعی اتخاذ کنند و بر سر متن نهایی توافق یابند. در نتیجه، این گزارش‌ها می‌توانند به عنوان نقطه شروعی برای بحث‌های بین‌المللی مورد استفاده قرار گیرند.

بی‌شک این مقایسه به معنای بی‌عیب بودن پنل بین‌المللی تغییرات اقلیمی نیست. علیرغم مشارکت‌های این پنل در ایجاد اجماع علمی جهانی، دولت‌ها هنوز اقدام کافی برای مقابله با تغییرات اقلیمی انجام نداده است؛ اما بی‌شک دنیایی بدون پنل بین‌المللی تغییرات اقلیمی وضعیت بدتری داشت. گزارش‌های این نهاد بین المللی در قلب هر اقدامی برای مقابله با تغییرات اقلیمی از جمله کنوانسیون چارچوب سازمان ملل در زمینه تغییرات اقلیمی، پروتکل کیوتو در سال ۱۹۹۷، و توافقنامه پاریس در سال ۲۰۱۵ قرار داشته‌اند. یافتن راه‌حل‌های عملی همیشه دشوار است، اما بدون پنل بین‌المللی تغییرات اقلیمی حتی یک مبنای مشترک برای بحث نیز وجود نداشت. واقعیت این است که این گزارش‌ها سیاست را به فرآیند علمی وارد کردند. این رویکرد پنل بین‌المللی تغییرات اقلیمی را به دریافت جایزه نوبل رساند، در حالی که مشارکت جهانی در حوزه هوش مصنوعی برای کسب اعتبار با شکست مواجه شد.

نکته جالب اینجاست که مشارکت جهانی در حوزه هوش مصنوعی در سال ۲۰۱۸ به عنوان یک «پنل بین‌المللی در زمینه هوش مصنوعی» مطرح شد تا مانند پنل تغییرات اقلیمی عمل کند؛ اما تا زمان راه‌اندازی آن، نام و مؤلفه‌های کلیدی موفقیت پنل بین‌المللی تغییرات اقلیمی از دست رفته بود. جای تعجب نیست که این نوع سازمان‌ها اغلب با گذر زمان به دنبال مشارکت بیشتر دولت‌ها هستند. سازمان دیگری که بر اساس مدل موفق پنل بین‌المللی تغییرات اقلیمی شکل گرفت، یعنی پلتفرم علمی-سیاستی بین دولتی در زمینه تنوع زیستی و خدمات اکوسیستمی، در بررسی فعالیت‌های خود نتیجه‌گیری کرد که «تمرکز اولیه بر تهیه ارزیابی‌های علمی» تأثیر آن را محدود کرده بود. این پلتفرم خواستار تولید مشترک گزارش‌ها میان دانشمندان و سیاست‌گذاران شد.

با وجود اینکه بسیاری از جزئیات اجرایی هنوز مشخص نشده، فرصت برای پنل جدید سازمان ملل درباره هوش مصنوعی به اتمام نرسیده است. ورود به فضای پیچیده بین سیاست و علم گامی اجتناب‌ناپذیر برای همکاری کشورها با وجود منافع ملی متضاد خواهد بود. این پنل باید وظایف علمی اصلی را به دانشمندان بسپارد و در عین حال فرصت‌هایی برای دولت‌ها فراهم کند تا پژوهش را هدایت کنند، بازخورد مستمر ارائه دهند و یافته‌ها را به صورت علنی تأیید نمایند.

اگر درس‌های تاریخ واضح هستند، چرا سازمان ملل ابتدا به دنبال ایجاد یک پنل علمی «مستقل» برای هوش مصنوعی است؟ شاید کشورهای عضو به‌طور خاص به خلوص علم در این مسئله مهم و جدید پایبند باشند. اما توضیح محتمل‌تر این است که در میانه تنش‌های رو به رشد بین‌المللی و در هم تنیده با هوش مصنوعی، راحت‌تر است که مسائل پیچیده را به یک پنل از کارشناسان منزوی و بی‌قدرت سیاسی سپرده و سپس نتایج نامطلوب این تصمیم را نادیده گرفت.

البته لازم به ذکر است که ترکیب علم و سیاست چالش‌های جدی و بسیاری در پی دارد. نتایج علمی ممکن است تحریف یا کمرنگ شوند، مسئله‌ای که پنل بین‌المللی تغییرات اقلیمی در گذشته به آن متهم شده است. دخالت دولت‌ها نیز فرآیندی کند و دشوار است. تولید گزارش‌های جامع ارزیابی پنل تغییرات اقلیمی بین پنج تا هفت سال طول می‌کشد، مدت زمانی که در دنیای هوش مصنوعی بسیار طولانی محسوب می‌شود.

در این میان، فرآیندهای مکمل که چابک‌تر، متمرکزتر و علمی‌تر مستقل هستند، باید به موازات فعالیت اصلی پیش بروند. گزارش در حال تکمیل درباره امنیت هوش مصنوعی پیشرفته که فرایند تدوین آن نوامبر سال گذشته به درخواست ۲۹ دولت آغاز شد. بنابراین باید به این نکته عنایت داشت که داشتن چندین بستر برای همکاری دانشمندان، هم‌افزایی ایجاد و تضمین می‌کند که هیچ نقطه شکست واحدی برای فعالیت مورد نظر وجود نداشته باشد، صداهای مخالف شنیده شوند و ورودی علمی بتواند به نیازهای فوری سیاست‌گذاری پاسخ دهد.

ممکن است عجیب به نظر برسد، اما شاید یک گزارش زمان‌بر و تعدیل‌شده از سوی سازمان ملل متحد همان چیزی باشد که جهان به آن نیاز دارد. اقدام بین‌المللی هماهنگ در زمینه حکمرانی هوش مصنوعی نیازمند اراده سیاسی است؛ اراده‌ای که به وضوح هنوز وجود ندارد. ایجاد پذیرش جهانی به شکل اجتناب‌ناپذیری صبر ذی‌نفعان دولتی را می‌طلبد. این گزارش نباید کپی دقیقی از  نمونه‌های پنل بین‌المللی تغییرات اقلیمی باشد؛ زیرا هوش مصنوعی مجموعه‌ای متفاوت از مسائل را در بر می‌گیرد. اما به‌سادگی نمی‌توانیم درس‌های گذشته را نادیده بگیریم. این اقدام خطر ایجاد یک فرآیند ناکام را در بر دارد؛ فرایندی که در صورت شکست برای بازسازی به چند سال زمان نیاز دارد.

گفته می‌شود که «جنگ مهم‌تر از آن است که فقط به دست ژنرال‌ها سپرده شود». اکنون و با توسعه هوش مصنوعی، می‌توان گفت علم مهم‌تر از آن است که به دست دانشمندان سپرده شود!

https://ihkn.ir/?p=38988