به گزارش بورس خبر به نقل از خبرگزاری فارس نشست علمی "چالش‌ها و فرصت‌های هوش مصنوعی" و تبیین رویکردهای اصولی در مواجهه با آن در تراز حاکمیتی، یکشنبه ۳ بهمن به صورت وبیناری به همت میز رسانه دفتر قم مرکز پژوهش‌های مجلس شورای اسلامی در خبرگزاری فارس قم برگزار شد.

به درخواست مخاطبین خبرگزاری فارس، گزارش مشروح و کامل این نشست در قالب گفتگوی علمی با دکتر کاظم فولادی قلعه سرپرست آزمایشگاه فضای سایبر دانشگاه تهران که ارائه‌دهنده تخصصی این بحث در نشست مذکور بود، منتشر می‌شود.

فارس:  جناب آقای دکتر فولادی، ضمن تشکر از حضور شما در این نشست تخصصی، بفرمایید هوش مصنوعی در نگاه جامع و دقیق چگونه تعریف می‌شود و در فضای امروزی چه قلمروی را در ابعاد اقتصادی یا فرهنگی یا اجتماعی یا سیاسی و یا حتی امنیتی در جامعه ما پوشش می‌دهد؟

تبریک عرض می‌کنم میلاد با سعادت حضرت فاطمه زهرا سلام‌الله علیها را و خیلی خوشحالم که توفیق دارم امروز در خدمت شما هستم. پاسخ به این سؤال به یک نشست حداقل دوساعته نیاز دارد ولی ما سعی می‌کنیم خیلی مجمل و خلاصه پاسخ بدهیم.

در مورد تعریف هوش مصنوعی اساساً تعریف این پدیده هم ساده است و هم دشوار. ساده ازاین‌جهت که اگر بخواهیم برای تقریب به ذهن توضیح بدهیم که با چه پدیده‌ای سروکار داریم با چند مثال می‌توانیم این کار را انجام بدهیم؛ ولی دشوار ازاین‌جهت است که هم مفهوم هوش و هم مفهوم مصنوعی و همین‌طور اساساً نسبتش با زندگی بشر دارای ابعاد پیچیده فلسفی و علمی است که سال‌ها است دانشمندان و فیلسوفان در حال تلاش هستند تا آن را تعریف کنند و هنوز می‌شود گفت که جمع‌بندی واحدی از این تعاریف به وجود نیامده است.

حال نمی‌خواهیم وارد پیچیدگی‌های این بحث تعریف شویم اجمالاً می‌توانم این را عرض کنم که آنچه به آن هوش مصنوعی گفته می‌شود و عموم مردم نیز می‌توانند با آن ارتباط خوبی برقرار کنند مسئله پر کردن شکاف توانمندی‌های فکری انسان و ماشین است.

به‌هرحال در انسان یکسری از قابلیت‌ها و مهارت‌ها، صراحتاً به توانایی‌های فکری و ذهنی انسان نسبت داده می‌شود مثلاً استدلال کردن، تفکر، برنامه‌ریزی کردن، طرح‌ریزی کردن، نقشه کشیدن، حل مسئله، یادگیری و مواردی ازاین‌دست که امروزه بخش عمده‌ای از این‌ها در علوم شناختی برای فهم بیشتر ساختمان مغز و ذهن انسان مطالعه می‌شود.

حالا اگر قرار باشد که توانایی‌های خاص انسان را به ماشین‌ها انتقال دهیم و ماشین‌ها مثل انسان بتوانند فکر کنند، استدلال کنند، برنامه‌ریزی کنند، بتوانند یادگیری داشته باشند، این مقوله‌ها در حوزه‌ای به نام «هوش مصنوعی» قرار می‌گیرد.

بدون اینکه بخواهیم وارد این پیچیدگی‌ها شویم، پر کردن شکاف توانایی‌های ذهنی بین انسان و ماشین را می‌توانیم به‌عنوان تعریف هوش مصنوعی در نظر بگیریم. ازاین‌جهت می‌شود یک دیدگاه فنّاورانه به هوش مصنوعی داشت و ببینیم ابزارها و قابلیت‌های ابزاری که این مهارت‌ها را به وجود می‌آورند چه چیزهایی هستند و در آن خصوص می‌شود صحبت کرد.

فارس: آن‌طور که بنده متوجه شدم با توجه به گستردگی دایره حضور و رفتار و عمل و عکس‌العمل انسان، پس هوش مصنوعی هم درواقع به‌عنوان یک انسان‌واره‌ای که می‌تواند قدرت فهم و تحلیل و تصمیم داشته باشد، ابعاد آن تمام عرصه حقیقی جامعه ما را پوشش می‌دهد و هیچ عرصه‌ای خالی نخواهد بود الا اینکه در آینده هوش مصنوعی می‌تواند در آنجا ظهور و بروز و تصمیم‌سازی و تصمیم‌گیری داشته باشد، آیا این‌گونه است؟

بله؛ هم‌اکنون هر جایی که حضور انسان را با توجه به ویژگی‌های ذهنی و فکری انسان مشاهده می‌کنید، هوش مصنوعی تلاش دارد که در آنجا یا جایگزین انسان قرار بگیرد و یا با انسان تعامل داشته باشد و به‌عنوان دستیار انسان باشد و قابلیت‌ها و مهارت‌های انسان را در آن زمینه بیشتر کند.

فارس: اگر ما بخواهیم از منافع هوش مصنوعی بهره بگیریم؛ هوش مصنوعی در پشتیبانی از ارکان قدرت ملی چه جایگاهی دارد و ما چگونه می‌توانیم از فرایندها و ارتباطات و امکاناتی که هوش مصنوعی در اختیار ما قرار می‌دهد در جهت تقویت سرمایه‌های خرد و کلان اجتماعی در ابعاد گوناگون فرهنگی و اقتصادی و امنیتی و ... استفاده کنیم؟ به‌طورکلی ارکان قدرت ملی ما چه تناسبی می‌توانند با هوش مصنوعی داشته باشند و از این فضا استفاده کند؟

پاسخ روشن است؛ بخش زیادی از منابع قدرت جنبه اطلاعاتی دارند؛ یعنی خیلی وقت‌ها که صحبت از فرهنگ می‌کنیم ماهیت اطلاعاتی فرهنگ می‌باشد که برجسته است؛ صحبت از اقتصاد که می‌کنیم ماهیت اطلاعاتی اقتصاد است که خیلی برجسته است؛ همین قصه را در سیاست هم می‌بینید؛ در امور دفاعی و نظامی هم می‌بینید؛ ولی به‌صورت طیف می‌باشد مثلاً در امور نظامی، قدرتِ سخت پررنگ‌تر است ولی در حوزه فرهنگ که وارد می‌شویم قدرت نرم پررنگ‌تر است.

به‌هرحال یک طیف هست که از قابلیت‌های اطلاعات استفاده می‌کنند. هر جا اطلاعات وجود دارد و اطلاعات در آن حوزه نقش بازی می‌کند ما می‌توانیم بگوییم همان‌جا محل حضور هوش مصنوعی نیز هست. چرا؟ چون انسان به‌واسطه مهارت‌ها و توانایی‌هایی که در پردازش اطلاعات دارد تا یک حدی می‌تواند قوی ظاهر شود و حجم اطلاعات از یک حدی که بیشتر می‌شود انسان کم می‌آورد؛ حالا ماشین می‌آید و تلاش می‌کند که این نقیصه را در انسان برطرف کند، برای اهدافی که به‌خصوص موردنیاز حاکمیت‌ها است و اتفاقاً این تیپ کاربردها در حوزه هوش مصنوعی تا زمانی که ما به جنبه‌های حاکمیتی آن فکر نکنیم و توجه نداشته باشیم خیلی ضرورت آن درک نمی‌شود.

مثلاً وقتی شما هوش مصنوعی را صرفاً برای بعضی از نیازهای فردی یک شخص معرفی کنید و جذابیت ایجاد کنید تا از آن استفاده کند، اشخاص خیلی وقت‌ها می‌گویند که بدون هوش مصنوعی هم ما این کارها را انجام می‌دهیم و چه ضرورتی دارد که ما به سراغ هوش مصنوعی برویم؟!

ولی وقتی این توضیح را بدهیم که شما تا زمانی که در حال انجام کار شخصی هستید مشکلی ندارید ولی فرض کنید که می‌خواهید یک مجموعه را اداره کنید مثلاً ده نفر، صد نفر، هزار نفر و یا در سطح اداره یک شهر یا سطح اداره یک کشور که می‌تواند ۱۰۰ میلیون جمعیت داشته باشد در آنجا خیلی از مهارت‌های انسان کم می‌آورد و نیازمندی به ماشین جدی می‌شود و اگر قرار است که آن ماشین، کاری را انجام بدهد که نیاز به تفکر، خلاقیت و یا کلاً قابلیت‌های [1]intellectual انسان دارد، شما در آنجا نیازمند به هوش مصنوعی هستید.

پس اساساً هوش مصنوعی در تمام ارکان حاکمیتی حضور دارد و می‌تواند نقش بازی کند و این بستگی به ما دارد که جایگاه آن را چگونه تعریف کنیم و چقدر به سمت آن حرکت کنیم.

 فارس: ناظر به فضای جدیدِ نظریه‌های جنگی و این‌که ما می‌بینیم که در سال ۱۹۹۰ جوزف نای [2]نظریه‌پرداز آمریکایی، مسئله قدرت نرم را مطرح می‌کند و بر این اساس یک حجم گسترده‌ای از تشکیلات، سازمان‌دهی‌ها، برنامه‌ریزی‌ها و آموزش‌ها و طراحی‌های عملیاتی از جانب نظام سلطه در مواجهه با جامعه جهانی ایجاد می‌شود در حال حاضر که جبهه استکبار به نظریات فراتری رسیده است و جنگ‌های ترکیبی و مشخصاً جنگ شناختی را مطرح می‌کنند ــ با توجه به اینکه یک زمان ما در فضای علی‌السویه بحث می‌کنیم و می‌گوییم از هوش مصنوعی چه بهره‌ای بگیریم؛ ولی یک زمان دیگری است که در تهاجم و تقابل با دشمن که دارد از هوش مصنوعی بیشترین استفاده را می‌برد، می‌خواهیم هوش مصنوعی را به کار بگیریم و در کشور توسعه دهیم و یا در تقابل با دشمن استفاده کنیم ــ می‌خواستم بدانم که جایگاه هوش مصنوعی در این تعریف در نظریه‌های جدید جنگی و کاربرد آن در جنگ‌های ترکیبی و شناختی چیست؟! و اگر این مسئله پررنگ است چه الزاماتی می‌تواند در توسعه این معنا در کشور ما داشته باشد؟!

ما در خیلی از حوزه‌هایی که امروز ورود کرده‌ایم دقیقاً به خاطر این است که خود را در وضعیت جنگی می‌بینیم چه‌بسا اگر دشمنی وجود نداشت و یا ما شرایط جنگی حس نمی‌کردیم ضرورتی هم وجود نداشت که ما برای یک موضوعی بخواهیم در سطح حاکمیت تلاش کنیم.

مثلاً حتی در صنایع موشکی‌مان اگر دشمنی وجود نداشته باشد و یا تهدیدی از دشمن در این سطح نبینیم ضرورتی وجود ندارد که توسعه پیدا بکند؛ ولی وقتی به واقعیت‌ها نگاه می‌کنیم می‌بینیم برای موازنه قدرت اگرچه ما به جنگ‌های نامتقارن قدرتمان باید فکر کنیم و آن‌ها را هم باید تقویت کنیم، ولی هیچ‌وقت از این جنبه‌ها نمی‌توانیم دست بکشیم و اتفاقاً باید تا بالاترین سطح مبتنی با دکترین دفاعی خودمان حرکت کنیم مثلاً اگر ما در مورد سلاح هسته‌ای منع استفاده داریم و از آن استفاده نمی‌کنیم این مبتنی بر دکترین خودمان است.

لذا در اینجا هم یکی از نگاه‌های مهم هوش مصنوعی که بیشتر ناظر بر موقعیت و شرایط خارجی است همین ظرفیت‌هایی است که قدرت‌های مقابل ما از طریق هوش مصنوعی دارند به دست می‌آورند و ما نمی‌توانیم نسبت به آن غفلت کنیم و به آن توجه نکنیم.

از این‌جهت قطعاً هوش مصنوعی یک ظرفیت مهمی را در جنبه‌های دفاعی برای ما ایجاد می‌کند؛ هم در قدرت سخت هم در قدرت نرم و هم در قدرت نیمه سخت؛ یعنی درواقع تمام طیف قدرت را در اینجا خواهیم داشت.

فقط نکته‌ای که وجود دارد و باز باید آن را تأکید کنیم این است که ما همان‌طور که مثلاً در دکترین دفاعی‌مان در بحث موشکی این را داریم که موشک‌ها باید نقطه‌زن باشند؛ موشکی که به‌صورت کور پرتاب شود و یا قرار باشد فضای وسیعی را تخریب کند در دکترین دفاعی ما جایی ندارد؛ عیناً برای هوش مصنوعی هم باید این قصه دیده شود؛ یعنی اولاً باید روشن شود که از این هوش مصنوعی برای چه کاربردی ما می‌خواهیم استفاده کنیم؛ آنجا که کاربرد نظامی آن مطرح است باید حتماً مشخص کنیم چه نوع کاربردی مجاز است و چه نوع کاربردی مجاز نیست و جلوی کاربردهای غیرمجاز را بگیریم که جنبه‌های اخلاقی و شرعی که در استفاده از سلاح هم وجود دارد کاملاً رعایت شود.

اما نکته‌ای که فرمودید در مورد جنگ‌های ترکیبی باید این را عرض کنم که امروز ما از فضای جنگ‌های هیبریدی و اصطلاحاً جنگ‌های ترکیبی فراتر رفته‌ایم. جنس جنگ‌ها در آینده، جنگ‌های سایبرنتیک است.

درواقع شما با یک جنگ سروکار دارید ولی آن می‌تواند شاخه‌های مختلفی داشته باشد. در حوزه سایبرنتیک آنچه که قبلاً به آن جنگ شناختی می‌گفتیم الآن می‌شود جنگ‌های carnal cybernetic؛ یعنی جنس اصلی آن سایبرنتیک است اما دارد از فضای ذهن انسان‌ها برای جنگ استفاده می‌کند؛ یا مثلاً قبلاً اگر عملیات روانی( Psychological operations ) داشتیم، الآن با روان‌شناسی سایبرنتیک (psycho cybernetics) سروکار داریم یعنی جنگ‌هایی که مدل آن‌ها سایبرنتیک است اما از حوزه psycho و روان در حال استفاده کردن هستند؛ همین قصه را در Economic cybernetics یعنی در مباحث اقتصادی داریم؛ در بحث‌های crypto cybernetic با حوزه رمز و رمزنگاری سروکار داریم.

عرضم این است که جنس جنگ‌ها عوض‌شده و به جنگ‌های سایبرنتیک تبدیل‌شده است. هوش مصنوعی یکی از ارکان مهم سایبرنتیک است و آن رکن محاسبات است و هوش مصنوعی آن را تقویت می‌کند.

درواقع رکن بسیار مهمی است تا بتواند جنگ‌های پیشرفته را رقم بزند. درواقع مرز بین جنگ‌های سخت و نرم و نیمه سخت برداشته می‌شود و ما درآن‌واحد با انواع مختلف این جنگ‌ها سروکار داریم و اگر بخواهیم همه این‌ها را هم‌زمان تقویت بکنیم شرطش این است که باید نگاه سایبرنتیک داشته باشیم و با نگاه سنتی که نگاهی ارگانیکی است و مبتنی بر سلسله‌مراتب و تقسیم وظایف بین ارگان‌ها است نمی‌شود جنگ‌های پیچیده آینده را مدیریت کرد.

فارس: آیا مدل پیشنهادی شما یک مدل کنش اطلاعات‌پایه است که ناظر به منابع و امکانات، به‌گونه‌ای تقسیم وظایف صورت پذیرد که ما بتوانیم از همه ظرفیت‌های موجود به نحوی در چهار رکن؛ اطلاعات، محاسبات، کنترل و ارتباطات استفاده کنیم، که ارکان سایبرنتیک در جامعه محقق شود؟

دقیقاً همین‌طور است.

فارس: حال که به دانش سایبرنتیک اشاره کردید تا آنجا که اطلاع داریم دانش سایبرنتیک دانش کنترل جریان اطلاعات برای کنترل پدیده‌های هوشمند است که این پدیده هوشمند می‌تواند انسان باشد که قدرت نرم را ایجاد می‌کند و یا می‌تواند ماشین باشد که قدرت فرماندهی و کنترل را ایجاد می‌کند نسبتی که شما میان دانش هوش مصنوعی و سایبرنتیک فرمودید این بود که هوش مصنوعی حکم محاسبات را در این فضا بر عهده دارد و درواقع رکن جهت‌بخش کنترل جریان اطلاعات می‌تواند باشد. در اینجا این مسئله پیش می‌آید که مبانی ارزشی و دینی ما در نوع مواجهه با پردازش اطلاعات و اینکه «فقه داده و اطلاعات»، «فقه کلان داده‌ها» و ابعاد فقهی و حقوقی حریم خصوصی در نحوه توسعه هوش مصنوعی در کشور ما باید چه الزاماتی داشته باشد؟ یعنی اینکه اگر قرار است ما هوش مصنوعی را در طراز حاکمیتی گسترش دهیم آیا باید همان راهی که دیگران رفتند را شناسایی و کپی‌برداری کنیم و در کشور وارد کنیم و به نحوی در کشور بومی‌سازی(ظاهری) کنیم؟! و یا اینکه اساساً ممکن است ما روش و منشمان در مواجهه با جهت‌دهی به جریان اطلاعات و بحث محاسباتِ مبتنی بر هوش مصنوعی ، باید یک مدل کاملاً بومی و مبتنی بر نظام ارزشی ما باشد؟! در این خصوص نظر شما چیست؟ آیا ما یک چنین روندی را در کشور داریم که مبانی را محور ( توسعه هوش مصنوعی) قرار دهیم یا خیر؟!

اولاً در مورد دانش سایبرنتیک عرض می‌کنم که این تعریفی که شما فرمودید درواقع روی یک جنبه از دانش سایبرنتیک تأکید می‌کند، که بیشتر به مقوله اینفوسایبرنتیک  [3]ناظر است یعنی همان کنترل جریان اطلاعات.

مفهوم دانش سایبرنتیک خیلی کلی‌تر می‌باشد؛ سایبرنتیک دانش سلطه و حکومت است؛ یعنی ما هر جا می‌خواهیم حکومت ایجاد کنیم و سلطه به وجود بیاوریم این دقیقاً کار ویژه دانش سایبرنتیک می‌شود. سلطه چگونه به وجود می‌آید؟ از طریق کنترل.

یعنی سازوکار سایبرنتیک با روش کنترل، سلطه ایجاد می‌کند. کنترل برای پیاده شدن، به دو رکن نیاز دارد؛ یکی ارتباطات و دیگری محاسبات. ارتباطات را برای انتقال اطلاعات می‌خواهیم و محاسبات را برای پردازش اطلاعات نیاز داریم تا اطلاعات از یک فرم به فرم دیگر تبدیل شود؛ البته حافظه نیز جزئی از محاسبات است و اینکه ما بتوانیم یک مجموعه‌ای از اطلاعات را برای یک مدت‌زمان مشخصی نگهداری کنیم و بعداً بتوانیم به آن دسترسی مجدد پیدا کنیم این‌ها جزئی از محاسبات به‌حساب می‌آید.

پس روش، کنترل است و خودِ کنترل، نیازمند محاسبات و ارتباطات است و می‌دانیم که هر کدام از این‌ها دانش تخصصی دارد مثلاً در حوزه ارتباطات حتی اگر نگاه فنی هم صرفاً داشته باشیم، ارتباطات بیشتر با تخصص مخابرات و شبکه‌های کامپیوتری سروکار دارد و محاسبات کلاً با علم کامپیوتر و مهندسی کامپیوتر و به‌طور ویژه هوش مصنوعی به‌عنوان آن جنبه‌ای که می‌خواهد تلاش کند که توانایی‌های ذهنی انسان را به ماشین اضافه کند.

نکته این است که آیا این ساختاری که ما الآن درباره‌اش به‌عنوان سلطه و حاکمیت صحبت کردیم، آیا خود این ساختار مورد قبول اسلام هست یا نیست؟!

درواقع آن چیزی که من فکر می‌کنم کار فقهی بزرگی می‌تواند درباره آن انجام شود و نتیجه آن برای جهان می‌تواند مورداستفاده قرار بگیرد، این است که یک نهضتی برای مطالعه دانش سایبرنتیک و تطبیق آن با الگویی که در اسلام به‌عنوان مبنای حکومت و حاکمیت وجود دارد شکل بگیرد و از روی آن ما می‌توانیم به این سؤال پاسخ بدهیم که آیا این روندی که در هوش مصنوعی داریم جلو می‌رویم، برای جامعه اسلامی روند مناسبی است یا خیر.

البته می‌شود به آن یک پاسخ اجمالی داد زیرا مشکلی که الآن وجود دارد این است که صرفاً یک روایت از هوش مصنوعی در کل جهان وجود دارد و این روایت هم توسط گلوبالیزم جهانی توضیح داده می‌شود تحت عنوان نظم نوین جهانی؛ یعنی می‌گوید ما هوش مصنوعی را برای چه می‌خواهیم! وقتی شما همه مباحث را پیگیری و رصد می‌کنید و رد آن را دنبال می‌کنید تا بدانید در آخر قرار است به چه چیزی منجر شود، می‌بینید که همین بحث نظم نوین جهانی مدنظر است که گلوبالیزم جهانی و صهیونیزم جهانی دارند این روند را دنبال می‌کنند و الگوهایی که ایجاد کرده‌اند را در قالب یک سری دستورالعمل‌ها از طریق نهادهای به‌ظاهر بین‌المللی مثل خود سازمان ملل دارند به کل دنیا منتشر و ارائه می‌کنند.

جالب است که بدانید خود سازمان ملل، کمیته‌ای که مخصوص بحث هوش مصنوعی دارد، یک راهنما[4] نوشته است برای اینکه کشورها چگونه استراتژی هوش مصنوعی خودشان را بنویسند یعنی در ظاهر، کشورها خودشان استراتژی می‌نویسند ولی مبتنی بر راهنما و دستورالعملی که سازمان ملل به آن‌ها داده است و کل این‌ها معنایش، یک مدل و یک قرائت از هوش مصنوعی است.

فارس: این راهنما ( guideline) تحت چه عنوانی می‌باشد؟

 guidelines for writing strategy for artificial intelligence دستورالعمل‌هایی برای نوشتن استراتژی برای هوش مصنوعی یا national strategy for artificial intelligence استراتژی ملی هوش مصنوعی

فارس: یعنی الگوی استاندارد ساز توسعه هوش مصنوعی؟

 بله اما توسعه آن خیر! زیرا الآن دیگر شما می‌خواهید سند بنویسید و این راهنما می‌گوید سند و الگویی که برای استراتژی ملی می‌خواهی بنویسی این‌گونه بنویس. فایل این راهنما موجود است. این یعنی مثلاً کشور نیجریه اگر بخواهد برای هوش مصنوعی استراتژی بنویسد، در این چارچوب بنویسد ایران و باقی کشورها هم همین‌طور.

فارس: آیا در این guideline عنوان یا گزاره‌ای به نام جهت‌دهی به سمت انقلاب صنعتی چهارم هست و این‌جور گزاره‌هایی دارد؟

بله یک سری ترندهایی هست که خود مجموعه جهانی با پشتوانه‌هایی که دارند؛ مثلاً «مجمع جهانی اقتصاد»[5] را باید ببینید و پشت سرش خاندانی مثل خاندان راکفلرها را باید اسنادشان را ببینید که دارند یکسری برنامه‌های نظم جهانی را پیگیری می‌کنند و خروجی‌های آن در سازمان‌های به‌ظاهر بین‌المللی ظهور و بروز پیدا می‌کند و کشورهای جهان هم به‌تبع آن تعهدات و امضاهایی که داده‌اند این دستورالعمل‌ها را می‌گیرد و اجرا می‌کند.

ما نه تنها مخالف هوش مصنوعی نیستیم بلکه مثلاً بنده شخصاً در حدود ۲۰ سال است که هوش مصنوعی را کار می‌کنم و ترویج می‌کنم و کاملاً دغدغه تکنولوژیک داریم ولی برنامه این‌که ما چگونه این علم را توسعه دهیم و این بخواهد از جایی در خارج از کشور رقم بخورد دردناک است و حداقل برای ما که عمرمان را] در این مسائل[ گذاشته‌ایم و به درجه‌ای از اجتهاد رسیده‌ایم که بتوانیم برای کشور خودمان، کار مستقل انجام بدهیم بسیار دردناک است.

من نکته‌ای برای تکمیل آن بحث عرض کنم؛ در مقابل سایبرنتیک، در نگاه اسلام آن مدل حاکمیتی که داریم و مورد قبول می‌باشد مدل ولایت است یعنی انگار ما دو تا ریل داریم یک ریل آن مدل سایبرنتیک است که مبنای آن تفکر غرب و فلسفه غرب است و یک ریل دیگر نگاه قرآنی و چارچوب اسلامی و دینی است که ما داریم و آن اسمش ولایت است.

همان‌طور که سایبرنتیک از روش کنترل استفاده می‌کند، در ولایت، ما از روش هدایت استفاده می‌کنیم. پس وقتی مقابل هم قرار می‌دهیم یک‌طرف سایبرنتیک با کنترل و یک‌طرف در مقابلش ولایت با هدایت قرار دارد.

فارس: یعنی اغوا در مقابل اقناع؟

در ولایت این تعبیر وجود دارد که ولایت هم می‌تواند ولایت الله باشد و هم می‌تواند ولایت طاغوت و شیطان باشد. ما اینجا فعلاً فقط روش را بحث می‌کنیم و کار به جهت ولایت نداریم که الله است یا شیطان و طاغوت.

فعلاً به‌عنوان روش ما دوتا روش می‌توانیم شناسایی کنیم که الآن رایج است؛ یک روش سایبرنتیک است که ۲۵۰۰ سال قدمت دارد از تفکر یونان باستان شروع‌شده است تا به امروز و خودش را به سقف تکنولوژی رسانده است. به تعبیری می‌شود گفت این تعریف و روایتی که از هوش مصنوعی امروز وجود دارد، متعلق به این پارادایم فکری است.

یک روش دیگر داریم که قدمتش به‌اندازه قدمت بشر است یعنی درواقع از روزی که خداوند انسان را خلق کرد تا به امروز، خداوند نوع دیگری از حکومت را برای انسان دیده است و از طریق پیامبران الهی سعی کرده است آن را در جهان گسترش دهد و آن مدل ولایت است و شیطان هم همین مدل ولایت را انتخاب و استفاده می‌کند و جهتش را به‌جای اینکه به سمت خدا باشد به سمت طاغوت منحرف می‌کند.

ما در پارادایم قرآنی بحث‌های خیلی عمیق‌تر و کامل‌تری نسبت به سایبرنتیک داریم و حتی اگر فرصتی باشد و ما کلیدواژه‌ها را کنار یکدیگر بچینیم و توضیح دهیم می‌بینیم که ما چیزی از نظر فکری و معرفتی نسبت به تمدن غرب کم که نداریم خیلی بیشتر از آن را هم داریم، خیلی دقیق‌تر و خیلی هماهنگ‌تر با فطرت انسان و عرض من هم این هست که اگر ما در کشور می‌خواهیم سندی در مورد مقوله هوش مصنوعی بنویسیم، این را تابع سایبرنتیک و مدل غربی ننویسیم؛ بلکه این را تابع مدل ولایت و مقتضیات نوع حاکمیتی که با الگوی ولایت تعریف می‌شود تدوین کنیم و البته جهت‌گیری آن هم به سمت ولایت الله باشد.

بعضی جاها به این اشاره کردیم و برای بعضی دوستان این حرف مقداری عجیب بوده است که چگونه می‌شود به این شکل بیان شود؟! اما من معتقدم این مدلی و قرائت از هوش مصنوعی که امروز در دنیا مطرح است را اگر در جمهوری اسلامی پیاده کنیم بعد از گذشت یکی دو دهه، چیزی از جمهوری اسلامی به این معنا باقی نمی‌ماند.

به قول حضرت آقا ایشان می‌فرمایند که جمهوری اسلامی می‌تواند استحاله شود یعنی همچنان یک فرد معمّمی بالای سر جمهوری اسلامی باشد ولی نظام از درون تهی شده باشد و چیزی که ماهیت جمهوری اسلامی است دیگر وجود نداشته باشد و اساساً این مدل]توسعه هوش مصنوعی به روش غربی[، ولایت را می زند و درواقع ولایت‌فقیه را می‌زند و می‌شود گفت که عمق استراتژیک جمهوری اسلامی را مورد هدف قرار می‌دهد.

فارس: چند سؤال به ذهن می‌رسد؛ اول اینکه ما مبتنی بر مهندسی تکامل تکنولوژی تا وارد منطق و الگوریتم عملیاتی یک فناوری نشویم به‌صرف استفاده از آن فناوری نمی‌توانیم ادعا کنیم که مالک آن فناوری هستیم و آن را در اختیار آرمان‌ها و اندیشه‌های خودمان به اختیار بگیریم. نکته بعدی اینکه مبتنی بر بیان شما، سایبرنتیک دانش نوین طرح‌ریزی حاکمیت محسوب می‌شود و در اینجا هوش مصنوعی به‌عنوان رکن سایبرنتیک در بخش محاسبات، نقش ویژه‌ای بر عهده دارد لذا بر این اساس ما باید به این تعریف برسیم که نوع مواجهه ما با هوش مصنوعی، نوع حکمرانی آینده جمهوری اسلامی را تعیین می‌کند و اگر در این معنا دچار ضعف، عقب‌گرد، سطحی‌نگری و عدم اقدام به هنگام در مواجهه به‌روز، همه‌جانبه و مؤثر با مأموریت‌های خرد و کلان هوش مصنوعی باشیم طبعاً نمی‌توانیم از این انقلاب ارزشمند دفاع کنیم و این انقلاب را به سرمنزل مقصود برسانیم. منتها این‌که تفاوت قائل شدیم بین سایبرنتیک و مسئله ولایت شاید برای بنده این‌گونه تلقی حاصل شد که سایبرنتیک درواقع نوع خاصی از استعمار نوین نظام سلطه و نوع خاصی از دیکتاتوری محسوب می‌شود و در مقابل آن ما اگر بتوانیم ولایت حق را اقامه کنیم، ولایت مبتنی بر هدایت و اقناع و سرپرستی، انسان‌ها را به این باور و این اقناع و این بالندگی فکری می‌رساند که انسان‌ها از درون شکوفا شوند و مبتنی بر هدایت الهی رشد داشته باشند. در مقابل دانش سایبرنتیک اساساً با فراهم‌کردن نوع خاصی از جریان اطلاعات، یک روند خاصی از تصمیم، باور و اقدام را در جامعه فراهم می‌کند و یک دیکتاتوری نوین و ناپیدا و یک نظام نوین برده‌داری را می‌خواهد مبتنی بر سرویس‌هایی که این فضا ارائه می‌دهد مخصوصاً مبتنی بر دانش‌های مربوط به هوش مصنوعی، این فضا را این‌چنین جلو می‌برد. آیا تعریف بنده را تأیید می‌فرمایید و یا تکمیلی بر این بحث‌ها دارید؟ به نظر می‌رسد سایبرنتیک یک دیکتاتوری نوین خواهد بود و بحث ولایت الهی که روش انبیا و اولیا الهی در هدایت جوامع بشری بوده است از طریق اقناع و هدایت و گوشزد کردن اهداف نظام آفرینش است و گوشزد کردن اهداف خلقت بشر، طبیعت، انسان به نتیجه می‌رسد و فضایی است که ما را به تکامل و بندگی و عبودیت نزدیک می‌کند و در مقابل دانش سایبرنتیک روشی است که انسان‌ها را صرفاً به موجوداتی تبدیل می‌کند که به دنبال تأمین منافع خودشان هستند. آیا شما این تعبیر و دسته‌بندی را قبول دارید و اگر نکته‌ای دارید نسبت به این مسئله بیان بفرمایید.

در مورد دانش سایبرنتیک می‌توانیم این نگاه را داشته باشیم که دانش سایبرنتیک در وهله اول خنثی است و این‌طور نمی‌باشد که سایبر بخواهد لزوماً جهت‌گیری به سمت باطل داشته باشد و من این حرف را قبول ندارم.

بلکه من معتقدم که سایبرنتیک در جایگاه خودش می‌تواند در مسیر حق مورداستفاده قرار بگیرد؛ اما نکته این است که سایبرنتیک وقتی در عالم پیاده می‌شود و چیزی که الآن به‌عنوان فضای سایبر داریم و به غلط به فضای مجازی ترجمه‌شده است و این ترجمه آن معنا را نمی‌رساند؛ فضای سایبر جایی است که به‌واسطه پیشرفت تکنولوژی، قدرت سلطه انسان افزایش پیداکرده است و هر آن چیزی که تحت کنترل و سلطه انسان قرارگرفته است در قلمرو فضای سایبر واردشده است و این هم جای سؤال است که کدام انسان قدرت را به دست آورده است؟

امروز در دنیا قدرت در دست انسانی است که تحت ولایت شیطان است. آن چیزی که ما را در مورد فضای مجازی نگران می‌کند و حضرت آقا هم به کرات تأکید می‌کنند که باید این مسئله حل شود، این است که ما کلاً این عنان و چهارچوب حاکمیتی را به دست قدرت شیطانی داده‌ایم و آن انسانی هم که این قدرت را به دست آورده است در مسیر الهی از آن استفاده نمی‌کند؛ این یکی از بحث‌های قضیه است.

بحث دیگر این است که آیا اساساً سایبرنتیک این ظرفیت را دارد که برای ایجاد یک حکومت آرمانی الهی ایفای نقش کند؟ پاسخ به این سؤال منفی است. سایبرنتیک قابلیت‌ها و محدودیت‌هایی دارد و ما نمی‌توانیم صرفاً به‌واسطه وجود آن قابلیت‌ها از محدودیت‌ها چشم‌پوشی کنیم. اما در مقابل در نگاه ولایت، چون اساساً ولایت آن مدل حاکمیتی است که با فطرت انسان هماهنگ است و همان خداوندی که ما را خلق کرده است و فطرت ما را رقم‌زده است این مدل حاکمیتی را برای انسان دیده است و برای جامعه‌سازی این مدل را پیشنهاد کرده و ارائه داده است و در قرآن زوایای پنهان و آشکار آن را بیان می‌کند و این مدل دور از دسترس نیست فقط ما به آن مراجعه نکرده‌ایم.

نکته این است که در همین سازوکار ولایت با توجه به این‌که مفهوم ولایت می‌تواند تفاوت‌های پیچیده‌ای داشته باشد اما برای بحث ما به یک تعریف خیلی ساده که حضرت آقا در طرح کلی اندیشه اسلامی در قرآن به آن اشاره می‌کنند ارجاع می‌دهیم و خلاصه آن این است که ولایت یک ساختار حاکمیتی است که یک سری روابط عرضی دارد و یکسری روابط طولی.

روابط عرضی، روابط بین مردم است و زمانی ولایت محقق می‌شود که این رابطه بین مردم از جنس اخوت باشد. یعنی زمانی که در یک جامعه، مردم با هم دشمنی دارند یا با هم در حال رقابت و کینه‌توزی هستند ـ به آن مدلی که در خیلی جاها به جامعه وحشی تعبیر می‌شود ـ شما در آن جامعه نمی‌توانید مدل ولایت را پیاده کنید.

شرط لازم برای تحقق ولایت در جامعه این است که بین مردم اخوت وجود داشته باشد. حالا روی این رابطه عرضی (افقی) که بین مردم برقرار است، یک مجموعه رابطه عمودی هم داریم که بین مردم و ولی تعریف می‌شود که در مدل آرمانی ما، ولی همان امام معصوم‌(ع) است که از طریق یک سلسله‌مراتب طولی، متصل به خود حضرت حق می‌شود؛ یعنی همان ولایت الله و ولایت رسول و ولایت اولی الامر، که در قرآن کریم به‌صراحت به آن اشاره‌شده است؛ این درواقع روابط طولی (عمودی) ولایت را بیان می‌کند که تک‌تک مردم هر کدام به‌صورت مستقیم به ولی وصل می‌شوند.

جامعه‌ای که ولایت در آن درست پیاده‌سازی نمی‌شود؛ یا رابطه بین مردم با ولی قطع می‌شود و یا رابطه بین مردم با مردم قطع می‌شود. مدلی که سایبرنتیک پیشنهاد می‌دهد هر دوی این رابطه‌ها را دچار مشکل می‌کند. راه دوری نمی‌رویم، مثال می‌زنیم؛ هم‌اکنون در کشور چین با سیستم اعتبار اجتماعی که مبتنی بر هوش مصنوعی پیاده‌سازی شده است، به شهروندان خود امتیاز مثبت و منفی می‌دهند در آنجا یک نوع حاکمیت مبتنی بر سایبرنتیک را محقق کرده‌اند؛ که اتفاقاً الگوی خیلی از کشورهای جهان شده است و آن‌ها در حال تلاش‌اند تا این مدل را در کشور خودشان پیاده کنند.

در کشور چین هر کودکی که به دنیا می‌آید یک اعتبار اولیه به او می‌دهند مثلاً فرض کنید ۱۰۰۰ امتیاز به او می‌دهند این فرد در طول زندگی‌اش هر کاری که انجام می‌دهد از دیدگاه آن نظام حاکمیتی اگر کار مثبتی باشد به او امتیاز مثبت می‌دهند و اگر کار منفی انجام بدهد به او امتیاز منفی می‌دهند.

مثلاً وقتی به مدرسه می‌رود و درس می‌خواند و کلاس اول را تمام می‌کند مقداری امتیاز مثبت دریافت می‌کند با اتمام کلاس‌های بعدی امتیازهای بعدی را دریافت می‌کند و حالا اگر به خیابان برود و از خط عابر پیاده رد نشود امتیاز منفی به او می‌دهند؛ اگر در حین رانندگی تخلف راهنمایی و رانندگی انجام دهد امتیاز منفی دریافت می‌کند و بر اساس این‌که می‌گویند انسان‌ها rational (منطقی، عقلانی) هستند و می‌خواهند سود خودشان را ماکزیمم کنند.

این سیستم می‌گوید که شما بدون هیچ‌گونه اعمال زور صرفاً با همین امتیازی که به فرد می‌دهید می‌توانید حاکمیت کنید چون این فرد می‌خواهد امتیاز خودش را حداکثر کند به جهت اینکه این امتیاز برای او قابلیت‌هایی را می‌آورد مثلاً اگر فرد بخواهد بعضی از مشاغل را احراز کند باید یک سطحی از امتیاز را داشته باشد و یا بعضی از خدماتی که حکومت ارائه می‌دهد.

اگر فرد امتیازش از یک حدی کمتر باشد به او این خدمات را ارائه نمی‌دهند؛ مثلاً کسی که می‌خواهد سوار مترو بشود میگویند مترو یک فضای اجتماعی است با یک شرایط مشخص و اگر کسی بخواهد از مترو استفاده کند و امتیازش از مثلاً ۲۰۰۰ کمتر است حق استفاده از مترو را ندارد یا مثلاً شغلی به اسم راننده تاکسی اگر کسی زیر ۵۰۰۰ امتیاز دارد نمی‌تواند راننده تاکسی بشود.

می‌بینید که این مدل دقیقاً می‌تواند نظام اجتماعی را کنترل کند. در همین سیستم ارتباطی که بین مردم برقرار می‌شود آن‌ها باید یکدیگر را ببینند یعنی برای اجرای قانون من باید مراقب شما باشم و اگر دیدم که شما تخلفی انجام دادید باید در آن سامانه سایبرنتیک که در اختیار همه شهروندان است مثلاً به‌وسیله همین گوشی موبایل در آن اپلیکیشن وارد شوم و گزارش بدهم و بگویم که این تخلف را در اینجا رصد کرده‌ام.

فارس: یعنی نقاط کور هوش مصنوعی را از طریق گزارش دهی مردمی پوشش می‌دهند؟

 بله همین‌طور است. هوش مصنوعی که در مورد آن صحبت می‌کنیم همیشه هوشی نیست که فقط با ماشین رقم بخورد بلکه همزیستی انسان و ماشین رقم می‌خورد و در اینجا انسان‌ها با ماشین‌ها همزیستی می‌کنند و یک اتفاق متفاوتی در عالم می‌افتد هرچند اصلاً ادعا نمی‌کنم که این تنها کاربرد هوش مصنوعی است؛ اما می‌گویم که در خصوص حکومت‌ها زمانی که حکومت‌ها به هوش مصنوعی توجه می‌کنند و برایشان جذاب می‌شود معمولاً دارند این جنبه را می‌بینند و الگویشان کشور چین است.

در حال حاضر که ما این سیستم را نداریم مثلاً اگر پیرمردی می‌خواهد از خیابان رد بشود و طلب کمک می‌کند بعید است که یک جوان برایش مهم نباشد و حتماً او را از خیابان رد خواهد کرد یا بر اساس احساسات انسانی و یا برای ثواب و تقوای الهی و هر جور که نام‌گذاری کنیم این خدمت خیر را انجام می‌دهد.

ولی افراد زمانی که در آن «سیستم اعتباری»[6] قرار می‌گیرند می‌گویند من این کار را انجام می‌دهم چون در غیر این صورت از امتیازم کم می‌شود، یا این کار را انجام می‌دهد تا امتیازش بیشتر شود؛ شما باید همسایه‌تان را رصد کنید که اگر تخلفی کرد اطلاع دهید زیرا اگر اطلاع ندهید خود شما هم مجرم به‌حساب می‌آیید؛ این چه اتفاقی را رقم می‌زند؟

ظاهر قضیه این است که همه‌چیز خیلی منظم شده است ولی این نظم به قیمت از دست رفتن روابط انسانی رقم می‌خورد. در این جامعه انسان‌ها با یکدیگر دشمن می‌شوند و انسان‌ها برای یکدیگر تهدید به‌حساب می‌آیند زیرا اگر تخلفی صورت بگیرد و دیگران گزارش ندهند خودشان دچار مشکل می‌شوند پس گزارش‌ها صورت می‌گیرد و روابط انسانی یک‌به‌یک قطع می‌شود و محبت از دست می‌رود و روابط می‌شود روابطی مبتنی بر سود و پیدا کردن منافع.

هم‌چنین روابطی هم که به‌صورت عمودی با ولی وجود دارد هم از دست خواهد رفت زیرا دیگر کارهایی که افراد انجام می‌دهند بر اساس تقوای الهی نیست بلکه بر اساس تقوای یک سیستم مرکزی است که در حال کنترل کردن همه‌چیز است که اسمش را سیستم هوش مصنوعی یا حاکمیت مجازی یا هر چیز دیگری می‌توانیم بگذاریم.

نتیجه آن این است که بعد از چندین سال انسان چشم‌باز می‌کند و می‌بیند که تمام آن روابط انسانی که مبنای شکل‌گیری ولایت بود، یعنی روابط بین مردم و روابط مردم با ولی، یک‌به‌یک ازدست‌رفته است و درنهایت یک جامعه مکانیکی خواهیم داشت که با سازوکار سایبرنتیک اداره می‌شود و ممکن است خیلی هم منظم باشد و ممکن است آن اهداف کمی که جامعه برای خودش تعریف کرده است.

مثلاً در GDP و بحث‌های اقتصادی خوب پیش برود؛ اما در این جامعه دیگر انسان‌ها از اولیه‌ترین حقوقشان که همان آزادی است تهی شده‌اند و این خطر بزرگی است که ما را تهدید می‌کند. در یک کشور کمونیستی مثل چین، این سیستم تا حدی پیاده شده است و ظاهراً مردم مشکلی ندارند، هرچند که ما اخباری از داخل چین نداریم که به‌صورت آزادانه منتشرشده باشد تا واقعیت اخبار را در چین بدانیم.

فارس: چه مقدار این سیستم در چین پیاده شده است و آیا آزمایشی است؟

در کشور چین تقریباً از سال ۲۰۱۰ پیاده‌سازی این سیستم را شروع کرده‌اند و در سال ۲۰۱۴ در بعضی از استان‌هایش به‌صورت آزمایشی اجرا شده است و الآن تا جایی که اطلاع داریم در خیلی از نقاط چین این سیستم عملیاتی شده و در حال اجرا شدن است.

اپلیکیشن وی چت که در کشور چین به‌عنوان پیام‌رسان اصلی مورداستفاده می‌باشد تقریباً تمام این خدمات اجتماعی هم که بحث اعتبار اجتماعی نیاز دارد در آن ارائه می‌شود و از این طریق مردم در حال کنترل شدن هستند.

فارس: سخن معروفی از حضرت امام (ره) هست که عالم محضر خداست در محضر خدا گناه نکنید. این تعبیری که حضرت‌عالی فرمودید به نظر می‌آید که خطر بزرگی برای آینده انقلاب اسلامی می‌شود رقم بخورد از این بابت که ما واقعاً این نظم توحیدی و نظمی که ما را منجر به هدایت کرده است به سمتی که انقلاب پویا و انقلاب فراگیری به نام انقلاب اسلامی ایران در سال‌های ۵۷ که کماکان ادامه و استمرار دارد و ما با همین نظم توحیدی توانستیم بر جبهه استکبار و دشمنی در جنگ هشت‌ساله و بعد از آن در ابعاد مختلف اقتصادی و فرهنگی و... پیروزی داشته باشیم همه حاصل این تفکر بوده است که انسجام جامعه اسلامی، مبتنی بر مبانی حب و بغض ایمانی تنظیم‌شده است. مبتنی بر مدلی که حضرت‌عالی تعریف می‌کنید، اگر هوش مصنوعی بخواهد روابط حب و بغض را که اساس ایمان است، مبتنی بر سود و زیان تغییر بدهد، ایمان از جامعه به سمت کفر حرکت می‌کند و در این فضا وقتی جامعه کافر شد، نه اینکه لزوماً افراد کافر شوند، بلکه روح کفر در روابط ایمانی افراد قرار گرفت، ما طبعاً بسیاری از ارزش‌های الهی و انسانی را از دست خواهیم داد و همین معنای استحاله انقلاب اسلامی، خدای‌ناکرده می‌تواند در این فضا رقم بخورد. ناظر به این تهدیدات بنده دو سؤال را مطرح می‌کنم که البته بخشی از آن را حضرت‌عالی بیان کرده‌اید و من می‌خواهم مصداقی‌تر در اینجا ورود کنید.

اول اینکه تهدیدات نوین در عرصه هوش مصنوعی چیست؟ که البته کلیات آن را بیان کردید. و نتایج دشمن‌شناسی در این مسئله چه آثاری در سندنویسی، بومی‌سازی و توسعه هوش مصنوعی در کشور دارد؟ دوم اینکه عقب‌افتادگی جمهوری اسلامی در مواجهه فعال و اصولی با هوش مصنوعی، چه تهدیداتی را برای استقلال کشور به دنبال دارد؟ به دیگر سخن رشد خود بنیاد هوش مصنوعی در کشور چگونه استقلال کشور را حفظ می‌کند؟ پس دو تا مسئله شد؛ یکی اینکه تهدیدات نوین در عرصه هوش مصنوعی؟ اگر بتوانید مصداقی بفرمایید ـ البته در لایه‌های اجتماعی و روابط فی‌مابین افراد نکات بسیار ارزشمندی که ارزش تدوین پایان‌نامه‌های مقطع دکترا دارد در اینجا عنوان شد امید است که پژوهشگران که به این فضا علاقه‌مند هستند به این مسئله ورود کنند و اهتمام ورزند. این تهدیدات نوین و دشمن‌شناسی ما در این حوزه اولاً چه آثاری را در سندنویسی و بومی‌سازی هوش مصنوعی در کشور دارد؟ شنیده می‌شود که در حال حاضر، پیش‌نویس سند هوش مصنوعی توسط شورای عالی انقلاب فرهنگی و معاونت علمی و فناوری ریاست جمهوری در حال انجام است، در این سندنویسی‌هایی که در حد پیش‌نویس می‌باشد، این نگاه دشمن‌شناسی و توجه به لایه مبانی و آینده‌پژوهی هوش مصنوعی چه میزان مراعات می‌شود و چقدر با توجه به نظر کارشناسانه حوزه است؟

 ما اسناد بالادستی مهم و ارزشمندی داریم و نگاهمان در نوشتن اسناد به‌خصوص در حوزه هوش مصنوعی حتماً باید روبه‌جلو باشد و افق حداقل ۲۰ سال آینده تا ۵۰ سال آینده را باید ببینیم. آن سندی که به نظر ما می‌رسد که باید مبنای عمل قرار بگیرد، همان «بیانیه گام دوم انقلاب اسلامی» است که حضرت آقا در سال ۱۳۹۷ در آستانه چهلمین سالگرد انقلاب اسلامی، تدوین فرمودند و ارائه شد. که در آن جا صحبت از تمدن نوین اسلامی می‌شود و لذا اگر ما سندی بنویسیم که به جای تمدن نوین اسلامی، نظم نوین جهانی را دنبال کند و آن را محقق کند، مشخصاً با الگوهای انقلاب اسلامی در تضاد می‌باشد.

فارس: لطفاً دقیق‌تر بفرمایید و مصداقی منظور خود را توضیح بدهید. آیا ما استانداردهای بین‌المللی را نباید رعایت کنیم و یا این‌که خیر، در فضای توسعه، جهت‌گیری‌های ما باید متفاوت باشد؟

ما قاعدتاً همان‌طور که حضرت آقا فرمودند هیچ‌وقت نباید اسناد بین‌المللی را چشم‌بسته بیاوریم و بپذیریم. ما باید خودمان مسیرمان مشخص باشد و ببینیم به چه می‌خواهیم برسیم و البته بر طبق تعریفی که حضرت آقا در بیانیه گام دوم از تمدن نوین اسلامی ارائه می‌دهند، مشخص است که به چه چیزی می‌خواهیم برسیم.

ما باید این را به‌عنوان مبنا قرار بدهیم و ببینیم این اسنادی که از طرف غرب به ما پیشنهاد می‌شود و یا مسیرهایی که پیشنهاد می‌کنند آیا در جهت این بیانیه هست یا نیست؟ ما باید بتوانیم آن اسناد را کاملاً منتقدانه و موشکافانه بررسی کنیم و با دیدگاه خودمان سند بنویسیم.

این همان مضمونی است که حضرت آقا در مورد سند ۲۰۳۰ هم قبلاً فرموده بودند و کاملاً مد نظر ایشان است. نمی‌گویم به اسناد بین‌المللی بی‌توجه باشیم اتفاقاً باید آن‌ها را کاملاً بخوانیم و به آن‌ها اشراف داشته باشیم.

انتقاد ما این است که چرا این اسناد بدون اشراف مصوب می‌شوند و برای اجرا بر روی آن‌ها دستور داده می‌شود؟ و یا حتی چرا وقتی دستور لغو اجرای یکی از این اسناد هم داده می‌شود فقط به یک جمله یک‌خطی بسنده می‌کنیم که لغو شود؟!!

آیا این در بدنه نظام اجرایی کشور و نظام تصمیم‌سازی کشور نفوذ نکرده است؟ آیا رسوبی نداشته است؟ آیا در جایی، جا خوش نکرده است که همچنان با وجود دستور لغو هم ادامه پیدا کند؟! ما حرف اصلی‌مان این است.

ما مشکلمان این است که نکند مثل همان ماجرای برجام، که خیلی‌ها آن را کامل و دقیق نخوانده بودند و امضا کرده بودند، اسناد بین‌المللی هم در همین حوزه‌ها که بعضاً تکنولوژی هست، بعضاً مدل حاکمیتی هست، و یا چیزهایی ازاین‌دست می‌باشد، همین‌جوری با آن‌ها هم برخورد شود و امضا و اجرا شود.

الآن باید عنان کار در حوزه تصمیم‌سازی و تصمیم‌گیری و طراحی سیاست‌ها در دست خودمان باشد. از تجربه کل دنیا هم استفاده کنیم؛ ببینیم که دیگران در دنیا چه کار کرده‌اند، چه مسیری را رفته‌اند ولی این خط کش و میزان خودمان که تمدن نوین اسلامی است را وسط بگذاریم و ببینیم آیا در جهت آن هست یا خیر.

متأسفانه الآن سبک سندنویسی در کشور و نه فقط در حوزه هوش مصنوعی بلکه در تمام حوزه‌هایی که به تکنولوژی مرتبط بوده است از این رویه و قاعده تبعیت نکرده‌اند!

عموماً تکنولوژی را برای بهبود اقتصاد دیده‌اند؛ یعنی یک‌جانبه و یک‌بعدی و مبنا را اقتصاد گذاشته‌اند و بعد گفته‌اند در این عوارض فرهنگی و سیاسی و غیره که ممکن است داشته باشد، پس یکسری پیوست هم برای آن می‌نویسند و با پیوست‌ها، این پدیده‌های بنیادین و پیچیده را نمی‌شود مدیریت کرد.

درواقع یک‌پایه مهم هوش مصنوعی در فرهنگ است. چه طور ما می‌گوییم هوش مصنوعی را پیاده می‌کنیم و بعد با یک پیوست فرهنگی تعدیل و اصلاحش می‌کنیم؟ اصلاً این‌طور نخواهد بود! بنابراین، این انتقاد به نظام فعلی سندنویسی کشور کلاً وارد است؛ که اولاً مبانی را درست تبیین نمی‌کنند و به آن ارجاع نمی‌دهند؛ ثانیاً مشکل دوم این است که آن چیزهایی که از بیرون می‌آید چشم‌بسته پذیرفته می‌شود و در کشور عموماً ترجمه می‌شود و نهایتاً بومی‌سازی می‌شود.

بومی‌سازی هم به این معنی است که به‌عنوان‌مثال در کشوری مثل آمریکا، سند نوشته‌شده است و در آنجا دستگاهی به نام وزارت علوم ندارند، دستگاهی به نام وزارت ارشاد ندارند و ما می‌آییم همین وظایف را واگذار می‌کنیم به نهادهای بومی که خودمان داریم ولی روح حاکم بر قضیه و اصل قضیه حل نمی‌شود و از آن‌طرف هم نگاه‌ها عموماً اقتصادی است و صرفاً تلاش می‌شود با پیوست‌ها، وضع جنبه‌هایی که مدنظر ما هست، از نظر شرعی و اخلاقی را رعایت کنیم و اصلاح کنیم، که آن‌هم معمولاً در عمل جواب نمی‌دهد. اصل قضیه این است و می‌شود این انتقاد را مطرح کرد هرچند جای بحث زیادی هم دارد.

فارس: به نظر می‌آید که با توجه به انتقاداتی که در روند سندنویسی‌های موجود وجود دارد آیا بهتر نیست که در مسائل کلان و راهبردی و تمدنی انقلاب اسلامی، ما یک سلسله کرسی‌های آزاداندیشی را در مراکز علمی حوزوی و دانشگاهی راه‌اندازی کنیم تا هم صحبت‌ها شنیده شود و نقدوبررسی‌ها دقیق و مؤثر باشد و هم منافع حداکثری برای مردم و نظام اسلامی ایجاد شود؟ آیا چنین امکانی هست که ما در مراکز دانشگاهی مثلاً در دانشگاه تهران که حضرت‌عالی تشریف دارید، فضای آزاداندیشی و برقراری این کرسی‌های آزاداندیشی و مسیر نگارش اسناد مهم فراهم بشود و یک تعاونی هم با مراکز راهبردی حوزه علمیه بشود، که یک حرکت متقابلی هم در حوزه انجام شود و این دو نهاد حوزه و دانشگاه هم‌افزایی داشته باشند که وحدت حوزه و دانشگاه در مقام عمل و نه فقط در شعار ایجاد شود و وحدت هم وقتی هست که ما به لحاظ وحدت علمی و مفهومی بتوانیم به یک ارزش‌های برابر و یکسانی برسیم. آیا دانشگاه تهران چنین ظرفیتی را برای برقراری و برگزاری کرسی‌های آزاداندیشی می‌تواند فراهم کند؟

بله هم‌اکنون الحمدلله در دانشگاه‌ها و نه فقط در دانشگاه تهران بلکه در تمام دانشگاه‌های کشور این ظرفیت وجود دارد. یعنی همین صحبتی که ما در حال انجام دادن آن هستیم، می‌تواند خیلی چالشی‌تر و با جزئیات بیشتری انجام شود.

قطعاً هم نگاه‌های مختلفی وجود دارد؛ بعضی‌ها نگاه‌های کاملاً لیبرال دارند؛ بعضی‌ها نگاه‌های کمونیستی دارند به این ماجرا و بعضی‌ها هم تلاش می‌کنند نگاه اسلامی و دینی داشته باشند. این‌ها باید با یکدیگر صحبت کنند باید نقاط اشتراک و افتراق خودشان را بشناسند و اتفاقاً از این تیپ بحث‌هاست که ما می‌توانیم به سندهای خیلی حرفه‌ای دست پیدا کنیم.

امروز متأسفانه این ارتباط برقرار نیست؛ یعنی ظرفیت در دانشگاه و مراکز پژوهشی حوزه و دانشگاه وجود دارد و این ظرفیت غیرقابل کتمان است و ما در کشور می‌بینیم که چقدر بحث‌های دقیق و عمیقی در پژوهشگاه‌ها، دانشگاه‌ها، دانشکده‌ها صورت می‌گیرد، ولی مشکل اصلی اینجاست که نهاد تصمیم‌سازی کشور که در هر سه قوه مستقر است ـ هم در قوه مقننه، هم در قوه قضاییه و هم در قوه مجریه ـ این‌ها خودشان را بی‌نیاز از دانشگاه می‌دانند.

یعنی مثلاً وقتی می‌خواهند این اسناد را تدوین کنند، می‌سپارند به یکسری از مؤسسات و شرکت‌هایی که کارشان تدوین سند‌نویسی است. مثلاً می‌گویند که عجله داریم و باید ظرف دو هفته این سند آماده شود و می‌خواهیم به شورا ببریم و دستور کار نیاز هست و باید تصویب شود.

یعنی خودشان این ظرفیت را ندارند و برون‌سپاری انجام می‌دهند. درصورتی‌که این یک کار علمی است و آن مجموعه ظرفیت ندارد. مثلاً یک نهاد اجرایی چه ظرفیتی دارد؟ شما الآن مجموعه مرکز پژوهش‌های مجلس را ببینید، اگر می‌تواند یک کاری هم انجام بدهد به خاطر آن هیئت علمی است که جذب کرده و پژوهشکده‌ای که با آن همکاری می‌کنند.

ولی اگر شما یک مجموعه‌ای داشته باشید که صرفاً تشکیلات اداری است، به آنجا بگوید که تصمیمات را بساز برای یک مدیری که می‌خواهد از این تصمیمات استفاده بکند و کار را پیش ببرد، خوب این مجموعه وقتی توان علمی‌اش را نداشته باشد، به‌روز نباشد و اطلاعات دقیق نداشته باشد، نمی‌تواند فرآیند درستی را انجام بدهد.

اتفاقاً نکته‌ای که شما فرمودید، به نظر بنده کار ویژه اصلی دانشگاه‌ها است. ما که سال‌ها است این قضیه را خودجوش شروع کرده‌ایم، خیلی هم انتظار کمک نداشتیم، ولی الآن این توقع را داریم که مجموعه اجرایی کشور و یا قوای سه‌گانه این‌ها بیایند و از دانشگاه‌ها مطالبه کنند. و کمی هم حوصله داشته باشند؛ با تصویب اسناد به‌صورت ضرب‌الاجل و خیلی عجله‌ای، هیچ مشکلی حل نمی‌شود؛ چه بسا مشکلاتی هم اضافه شود.

فرصت بدهند مثلاً یک سال به‌صورت مستمر در دانشگاه‌ها کرسی‌های آزاداندیشی گذاشته شود، بحث شود و زدوخورد فکری صورت بگیرد و یک زمان پوشش بدهند این بحث‌ها را و مردم را درگیر کنند و ببینند که بالاخره آن عقل و خرد جمعی به چه گزاره‌ها و چه مفاهیم پایه‌ای می‌رسد، آن‌ها را آنالیز و تحلیل کنند و از دل این‌ها سند بیرون بیاورند.

این کاملاً پیشنهادی است که قابل‌اجراست و ما الآن در خود آزمایشگاه پژوهشی فضای سایبر بااینکه یک جزء بسیار کوچکی از دانشگاه تهران به‌حساب می‌آییم و ظرفیت‌های کل تشکیلات دانشگاه در اختیار ما نیست، داریم این کار را انجام می‌دهیم، و هم در قالب نشست‌های علمی است و هم ان‌شاءالله تلویزیون اینترنتی که به زودی بازگشایی می‌شود و اتفاقاً برای همین‌جور بحث‌ها ما این فضاها را داریم ایجاد می‌کنیم.

فارس: با توجه به این‌که وقت جلسه ضیق شده است و سؤالات اساسی ما هم باقی‌مانده است من سؤالات را می‌پرسم و از حضرت‌عالی می‌خواهم که به‌اختصار به آن‌ها جواب دهید تا بتوانیم به حجم بیشتری از سؤالات برسیم. نسبت میان توسعه هوش مصنوعی و راه‌اندازی شبکه ملی اطلاعات در کشور چیست و چگونه است؟

 درواقع باید این را دقیق‌تر بگوییم که ما برای این‌که بتوانیم هوش مصنوعی را در کشور نهادینه کنیم به یک زیرساخت احتیاج داریم که باید بتواند فضای سایبر ملی ما را به وجود بیاورد؛ من از شبکه ملی اطلاعات فراتر می‌روم و میگویم ما به یک‌چیزی احتیاج داریم به نام فضای سایبر ملی که درواقع این ارکان (چهار رکن سایبرنتیک) بیاید و به شکل عملیاتی برای ما فضای سایبر را بسازد.

چون شبکه ملی اطلاعات قرار است فقط زیرساخت ارتباطی را شکل ‌دهد؛ در تعریف و در چارچوب شبکه ارتباطی هست؛ درواقع رکن ارتباطات را به وجود می‌آورد ما باید رکن محاسبات را هم ایجاد کنیم؛ و این دوتا یعنی ارتباطات و محاسبات را با یکدیگر لینک کنیم و در جهت پدیده کنترل قرار بدهیم که به این منظور باید فضای سایبر ملی ساخته شود. یعنی ما فضای سایبر ملی را باید داشته باشیم تا بتوانیم آن ظرفیت حداکثری هوش مصنوعی را محقق کنیم.

فارس: به نظر می‌رسد که تا وقتی شبکه ملی اطلاعات با پیاده‌سازی جامع‌اش فاصله جدی و زیادی دارد، ورود پیشدستانه در توسعه هوش مصنوعی می‌تواند کشور را دچار آسیب‌هایی کند؟

 اجازه بدهید من بگویم: به‌کارگیری هوش مصنوعی. زیرا ما تکنولوژی را باید توسعه بدهیم و نباید در این قضیه عقب بمانیم. ولی اینکه دولت‌ها به‌خصوص، به این نتیجه برسند که مثلاً برای کنترل کردن مردم، برای حوزه‌های مختلف، کارها را به هوش مصنوعی واگذار کنند، اینجا باید خیلی مراقب بود؛ زیرا اگر ما شبکه ملی اطلاعات نداشته باشیم ممکن است فرمان‌ها دیگر از سمت مرکزیت کشور ما صادر نشود یعنی ما ساختار هوش مصنوعی را ایجاد می‌کنیم ولی کس دیگری از خارج دارد به آن فرمان می‌دهد و از آن بهره‌برداری می‌کند!

 فارس: چه نهادها و دستگاه‌هایی برای رساندن کشور به موقعیت تراز در هوش مصنوعی مسئولیت دارند؟

تقریباً همه مسئولیت دارند. در بحث حاکمیتی، همه دستگاه‌ها موظف هستند. ولی اگر بخواهیم برای همین الآن بگویم که دست به‌نقد کجاها باید زودتر اقدام کنند، باید بگویم که وزارت علوم خیلی نقش پررنگی دارد و معاونت علمی ریاست جمهوری.

این دو مجموعه اولاً باید با یکدیگر تقسیم‌کار انجام دهند؛ در حال حاضر یک مقدار تضاد و اختلاف بین آن‌ها وجود دارد و مشخص نیست که درواقع کدام‌یک متولی است و چه کسی می‌خواهد چه‌کاری را انجام بدهد. این دو نهاد جزء مهم‌ترین نهادها هستند. 

هم‌زمان باید نهادهای مربوط به بحث‌های قانون‌گذاری ورود کنند اینجا ارتباط با حوزه علمیه خیلی اهمیت دارد یعنی مباحث فقهی و اخلاقی مربوط به ماجرای هوش مصنوعی خیلی حل‌شده نیست حتی در دنیای غرب هم با خودِ فلسفه‌های ناتورالیستی و دکارتیستی که دارند؛ نگاه سودگرایانه و طبیعت‌گرایانه که به اخلاق دارند؛ آن‌ها هم نتوانسته‌اند مسائل هوش مصنوعی را به لحاظ فقهی و اخلاقی حل کنند؛ و تعارضات جدی دارند.

به‌عنوان مثال اگر ما یک ماشین هوشمند بسازیم و بیاید و در خیابان تصادف کند مقصر کیست و چه کسی را باید از لحاظ حقوقی مجرم بدانیم؟

یعنی از لحاظ حقوقی این مسائل هنوز حل نشده است و چالش وجود دارد و زدوخورد عمیق فکری و علمی دارد در دنیا اتفاق می‌افتد. حوزه علمیه باید در این‌ها ورود کند و در کرسی‌های آزاداندیشی و متخصصین دانشگاه هم لینک شوند و ارتباط پیدا کنند و صحبت کنند و هم‌زمان دستگاه حقوقی و دستگاه قانون‌گذاری کشور، این مباحث را دریافت کند و نتایج آن را به قانون تبدیل کند.

توسعه هوش مصنوعی اگر به‌صورت ولنگار پیش برود، ممکن است یک شرکت خصوصی که امروز شاید وجاهتی هم نداشته باشد در آینده بتواند با همین سازوکارِ هوش مصنوعی، قدرتی به دست بیاورد که بتواند با حاکمیت مقابله کند و ما نمی‌توانیم به‌سادگی از کنار آن رد شویم و فهم این مسئله نیاز به دانش سایبرنتیک دارد و ذیل دانش سایبرنتیک باید زیرساخت‌ها و فهم آن ماجرا شکل بگیرد و در کنار آن، افراد حقوقی و فقهی هم درگیر باشند.

فارس: پس روند سیاست‌گذاری و قانون‌گذاری در مواجهه فعال و اصولی در مسئله هوش مصنوعی که باید از جانب مجلس شورای اسلامی، پیاده‌سازی و پیروی شود، یک روند متفاوتی است با روند معمول قانون‌گذاری‌ها. ما نیاز داریم به اینکه خود قوه عاقله مجلس، مثلاً در جایی مثل مرکز پژوهش‌ها، یک سلسله نشست‌های متعددی و نه فقط نشست، بلکه جلسات و کرسی‌های آزاداندیشی را در تعامل و همکاری با نهادهای علمی کشور یعنی مراکز حوزوی و دانشگاهی، برای تدوین مطلوب مهندسی تکامل تکنولوژی و تدوین آن الگوریتم‌ها و جهت‌دهی سخت‌افزارهای موردنیاز در مواجهه با هوش مصنوعی و تدوین فقه داده و اطلاعات، سلسله نشست‌ها و جلسات و کرسی‌هایی برگزار شود و ماحصل این‌ها و از دل این جلسات، ما بتوانیم روندهای معقول و مطلوب قانون‌گذاری و سیاست‌گذاری را تدوین کنیم. این ایام هم ایام نگارش سند هفتم برنامه توسعه است و ظاهراً برنامه ششم یک سال تمدیدشده است و یکی از مطالبات جدی هم از مرکز پژوهش‌ها همین می‌باشد که پیشنهادشان در حوزه‌های مربوط به خودشان، و حالا در مورد بحث ما یعنی رسانه و فضای مجازی، چیست و چه خواهد بود؟ این به نظر نمی‌رسد که در پشت درهای بسته با تعداد کمی کارشناس بشود مسئله را جمع کرد. و این یک مسئله دامنه‌دار و حساس و تأثیرگذار در ابعاد مختلف می‌باشد. به نظر شما با توجه به اینکه در این فضا بیشتر ورود دارید، در نگاه حضرت آقا -رهبر انقلاب اسلامی- حکمرانی آینده کشور چه نسبتی با هوش مصنوعی دارد؟ یعنی ما باید چگونه هوش مصنوعی را توسعه بدهیم که بتوانیم هم انقلاب اسلامی را صیانت و حفظ کنیم و هم در جامعه جهانی گسترش دهیم و به لایه و لبه تمدن نوین اسلامی برسانیم و ختم کنیم؟ به دیگر سخن، هوش مصنوعی در تحقق تمدن نوین اسلامی چه ارکانی و چه جایگاه و چه جهت‌گیری‌هایی را باید داشته باشد؟

حضرت آقا در همان سخنرانی معروف که تأکید کردند که به هوش مصنوعی باید پرداخته شود و اداره حکومت‌ها در آینده به هوش مصنوعی نیاز دارد، در همان‌جا یک روندی را برای رسیدن به تمدن نوین اسلامی توضیح می‌دهند، که ما می‌توانیم این را هم ذیل همان ببینیم.

ایشان می‌فرمایند که اولین گامی که هست باید فاصله‌مان را با غرب پر کنیم. این روندی که دانشگاه‌ها که از ۳۰ سال گذشته که رشته هوش مصنوعی در ایران دایر شده است را طی کرده و به نظر من مسیر خوبی بوده است و از نظر علمی حرکت خوبی انجام‌شده است، اینکه فاصله‌مان را با غرب بتوانیم کم کنیم و فهم کافی نسبت به این دانش داشته باشیم.

اما ایشان گام دوم را که بیان می‌کنند، یک مقداری پیچیده است؛ اما اگر این گام دوم را انجام ندهیم نمی‌توانیم به بحث تمدنی برسیم؛ و آن هم این است که نباید در مرزهای دانش غرب متوقف شویم.

ایشان می‌فرمایند که بروید ناموس طبیعت و خلقت را مطالعه کنید و به دانش‌های جدیدی دست پیدا کنید که از طریق این دانش‌های جدید ما می‌توانیم آن تمدن نوین اسلامی را محقق کنیم.

ما باید نگاهمان این باشد که روایت و قرائت جدید و کارآمدتری از هوش مصنوعی ارائه دهیم که دقیقاً با چارچوب‌ها و ساختارهای تمدن نوین اسلامی هماهنگ باشد و روی این باید توجه ویژه داشته باشیم که طبق بیان حضرت آقا درواقع آن نقاط مثبتی که از کار غربی‌ها در این قضیه بوده است همه آن را ما اخذ کنیم و آن نواقصی هم که وجود دارد که اتفاقاً بسیار زیاد هم است، این‌ها را با عنایت به آن نگاه جدیدی که وجود دارد و تولید علم جدید که رقم می‌خورد، آن پر بشود و به بهترین شکل محقق شود.

فارس: پس ما نیاز به تولید دانش جدیدی در مواجهه با هوش مصنوعی داریم که بتواند هم مبانی ما را پوشش بدهد و هم نظام مسائل ما را حل کند و ناظر به نیازهای کشور باشد و هم روش‌شناسی این مبانی را بتواند محقق کند. و این جریان برای مراکز علمی کشور یک روند جدی خواهد بود. و امیدواریم که اهمیت این معنا و مسأله برای مسئولین و سیاست‌گذاران و قانون‌نویسان بیش‌ازپیش جا بیفتد.  این‌طور که من برداشت کردم به‌عنوان جمع‌بندی نهایی؛ هوش مصنوعی به‌طورکلی اگر بومی‌سازی به معنی واقعی کلمه شود، به‌عنوان بازوی قوی برای انقلاب اسلامی در عرصه بسط عدالت و گسترش سرمایه اجتماعی می‌تواند به کار بیاید؛ اما اگر چشم‌بسته و با نگاه سطحی و بدون اتخاذ مبانی عمیق و بومی و پرورش استعدادهای مؤثر در این فضا، ما آن را وارد کشور کنیم، طبیعتاً رشد آسیب‌های این مسئله برای ما بیشتر از منافع آن خواهد بود و اصل انقلاب اسلامی ما را دچار چالش و خطر استحاله قرار می‌دهد.

امیدواریم که مجموعه این مباحث که درواقع در جهت گفتمان‌سازی نگاه مطلوب و اصولی و فعال در مواجهه با هوش مصنوعی در طراز حاکمیتی است گسترش پیدا کند و در روندهای سندنویسی و قانون‌گذاری و سیاست‌گذاری بالادستی هم ورود پیدا کند.