وابستگی به هوش مصنوعی و کاهش تواناییهای شناختی
آیا استفاده از هوش مصنوعی باعث کاهش تواناییهای شناختی و قدرت تفکر ما میشود؟ این مقاله به بررسی اثرات هوش مصنوعی بر تفکر انتقادی، حافظه و یادگیری میپردازد و راهکارهایی برای حفظ استقلال فکری ارائه میدهد.
در آزمایشگاه رسانه MIT در کمبریج، آیندهای نزدیکتر به نظر میرسد. در این آزمایشگاه، نمونههای اولیه از اختراعات عجیب و غریب به نمایش گذاشته شدهاند، از رباتهای کوچک رومیزی گرفته تا مجسمههای سورئالیستی که توسط یک مدل هوش مصنوعی طراحی شدهاند. در لابی، یک دستیار هوش مصنوعی به نام اسکار میتواند به شما بگوید که فنجان قهوه استفاده شده خود را کجا قرار دهید.
در طبقه پنجم، ناتالیا کاسمینا، دانشمند محقق، روی رابطهای مغز و رایانه پوشیدنی کار میکند که امیدوار است روزی به افرادی که به دلیل بیماریهای عصبی مانند اسکلروز جانبی آمیوتروفیک قادر به صحبت کردن نیستند، امکان برقراری ارتباط با استفاده از ذهن خود را بدهد.
کاسمینا بیشتر وقت خود را صرف خواندن و تجزیه و تحلیل حالات مغزی افراد میکند. پروژه دیگری که او روی آن کار میکند، یک دستگاه پوشیدنی است – یک نمونه اولیه شبیه یک عینک است – که میتواند تشخیص دهد چه زمانی فرد گیج میشود یا تمرکز خود را از دست میدهد. حدود دو سال پیش، او شروع به دریافت ایمیلهای ناگهانی از غریبههایی کرد که گزارش دادند شروع به استفاده از مدلهای زبانی بزرگ مانند ChatGPT کردهاند و احساس میکنند مغزشان در نتیجه آن تغییر کرده است.
به نظر میرسید خاطراتشان به خوبی گذشته نیست – آیا این امکان وجود داشت؟ خود کاسمینا از این که مردم چقدر سریع شروع به تکیه بر هوش مصنوعی مولد کردهاند، شگفت زده شده بود. او متوجه شد که همکارانش در محل کار از ChatGPT استفاده میکنند و درخواستهایی که از محققان برای پیوستن به تیمش دریافت میکرد، شروع به تغییر کرد.
ایمیلهای آنها طولانیتر و رسمیتر بود و گاهی اوقات، وقتی با نامزدها در Zoom مصاحبه میکرد، متوجه میشد که قبل از پاسخ دادن مکث میکنند و به طرفین نگاه میکنند – آیا آنها از هوش مصنوعی برای کمک به خود استفاده میکنند، او متعجب شد، شوکه شد. و اگر از هوش مصنوعی استفاده میکردند، چقدر از پاسخهایی که میدادند، درک میکردند؟
آزمایش MIT: کاهش فعالیت مغز با استفاده از ChatGPT
کاسمینا با همکاری برخی از همکارانش در MIT، آزمایشی را ترتیب داد که از الکتروانسفالوگرام برای نظارت بر فعالیت مغز افراد در حین نوشتن مقالات استفاده میکرد، چه بدون کمک دیجیتال، چه با کمک یک موتور جستجوی اینترنتی، یا ChatGPT. او دریافت که هر چه شرکتکنندگان کمک خارجی بیشتری داشته باشند، سطح اتصال مغز آنها پایینتر است، بنابراین کسانی که از ChatGPT برای نوشتن استفاده میکردند، فعالیت کمتری در شبکههای مغزی مرتبط با پردازش شناختی، توجه و خلاقیت نشان دادند.
به عبارت دیگر، هر چه افرادی که از ChatGPT استفاده میکردند احساس میکردند در مغزشان میگذرد، اسکنها نشان میداد که اتفاق زیادی در آنجا نمیافتد.
از شرکتکنندگان در این مطالعه، که همگی در MIT یا دانشگاههای مجاور ثبت نام کرده بودند، بلافاصله پس از تحویل کارشان، پرسیده شد که آیا میتوانند آنچه را که نوشتهاند به یاد بیاورند. کاسمینا میگوید: «به سختی کسی در گروه ChatGPT میتوانست نقل قولی ارائه دهد. این نگران کننده بود، زیرا شما آن را نوشتید و چیزی را به خاطر نمیآورید.»
نگرانیها درباره تاثیر هوش مصنوعی بر مهارتهای اساسی
کاسمینا ۳۵ سال دارد، با یک پیراهن آبی و یک گردنبند بزرگ و رنگارنگ به روز لباس پوشیده است و سریعتر از آن چیزی که بیشتر مردم میتوانند فکر کنند، صحبت میکند. همانطور که او مشاهده میکند، نوشتن یک مقاله به مهارتهایی نیاز دارد که در زندگی گستردهتر ما مهم هستند: توانایی ترکیب اطلاعات، در نظر گرفتن دیدگاههای رقیب و ساختن یک استدلال. شما از این مهارتها در مکالمات روزمره استفاده میکنید. او میگوید: «چگونه میخواهید با آن کنار بیایید؟ آیا میخواهید بگویید: ‘اوه … میتوانم تلفنم را چک کنم؟’»
این آزمایش کوچک (۵۴ شرکتکننده) بود و هنوز مورد بررسی همتایان قرار نگرفته است. با این حال، کاسمینا در ماه ژوئن آن را به صورت آنلاین منتشر کرد، با این تصور که سایر محققان ممکن است آن را جالب بدانند، و سپس به کار خود ادامه داد، غافل از اینکه به تازگی یک جنون رسانهای بینالمللی ایجاد کرده است.
در کنار درخواستهای روزنامهنگاران، او بیش از ۴۰۰۰ ایمیل از سراسر جهان دریافت کرد، که بسیاری از آنها از معلمان استرسزده بودند که احساس میکنند دانشآموزانشان به درستی یاد نمیگیرند زیرا از ChatGPT برای انجام تکالیف خود استفاده میکنند. آنها نگران هستند که هوش مصنوعی نسلی را ایجاد کند که میتواند کار قابل قبولی تولید کند اما هیچ دانش یا درک قابل استفادهای از مطالب ندارد.
مغز انسان و تمایل به میانبرها
کاسمینا میگوید: مسئله اساسی این است که به محض اینکه فناوری در دسترس قرار میگیرد که زندگی ما را آسانتر میکند، ما از نظر تکاملی آماده استفاده از آن هستیم. «مغز ما عاشق میانبرها است، این در طبیعت ماست. اما مغز شما برای یادگیری به اصطکاک نیاز دارد. باید چالشی داشته باشد.»
اگر مغزها به اصطکاک نیاز دارند اما به طور غریزی از آن اجتناب میکنند، جالب است که وعده فناوری ایجاد یک تجربه کاربری «بدون اصطکاک» بوده است، تا اطمینان حاصل شود که اگر از برنامهای به برنامه دیگر یا از صفحهای به صفحه دیگر بلغزیم، با هیچ مقاومتی روبرو نخواهیم شد. تجربه کاربری بدون اصطکاک دلیلی است که ما ناخودآگاه اطلاعات و کار بیشتری را به دستگاههای دیجیتال خود منتقل میکنیم. این دلیلی است که سقوط به لانههای خرگوش اینترنتی بسیار آسان و بیرون آمدن از آن بسیار سخت است. این دلیلی است که هوش مصنوعی مولد در حال حاضر به طور کامل در زندگی اکثر مردم ادغام شده است.
ما از تجربه جمعی خود میدانیم که وقتی به فضای سایبری فوقالعاده کارآمد عادت میکنید، دنیای واقعی پر از اصطکاک سختتر به نظر میرسد. بنابراین شما از تماسهای تلفنی اجتناب میکنید، از صندوقهای خودپرداز استفاده میکنید، همه چیز را از یک برنامه سفارش میدهید. شما برای انجام جمع ریاضی که میتوانید در ذهن خود انجام دهید، برای بررسی یک واقعیت قبل از اینکه مجبور شوید آن را از حافظه بیرون بکشید، برای وارد کردن مقصد خود در Google Maps و سفر از A به B در حالت خلبان خودکار، به تلفن خود دسترسی پیدا میکنید.
شاید شما از خواندن کتاب دست بکشید زیرا حفظ این نوع تمرکز مانند اصطکاک است. شاید شما رویای داشتن یک ماشین خودران را در سر بپرورانید. آیا این طلوع چیزی است که دیزی کریستودولو، نویسنده و متخصص آموزش، آن را «جامعهای کودنساز» مینامد، یک موازی با یک جامعه چاقساز، که در آن احمق شدن آسان است زیرا ماشینها میتوانند برای شما فکر کنند؟
کاهش نمرات آزمون و وابستگی به دستگاههای دیجیتال
هوش انسانی بسیار گسترده و متنوع است که نمیتوان آن را به کلماتی مانند «احمق» تقلیل داد، اما نشانههای نگرانکنندهای وجود دارد که نشان میدهد تمام این راحتی دیجیتال هزینه زیادی برای ما دارد. در سراسر کشورهای توسعه یافته اقتصادی سازمان همکاری و توسعه اقتصادی (OECD)، نمرات پیزا، که خواندن، ریاضیات و علوم ۱۵ سالهها را اندازهگیری میکند، معمولاً در حدود سال ۲۰۱۲ به اوج خود رسید. در حالی که در طول قرن بیستم نمرات IQ در سطح جهانی افزایش یافت، شاید به دلیل بهبود دسترسی به آموزش و تغذیه بهتر، در بسیاری از کشورهای توسعه یافته به نظر میرسد که در حال کاهش هستند.
کاهش نمرات آزمون و IQ موضوع بحث داغ است. آنچه که سختتر میتوان آن را انکار کرد این است که با هر پیشرفت تکنولوژیکی، ما وابستگی خود را به دستگاههای دیجیتال عمیقتر میکنیم و کار کردن، به خاطر سپردن، فکر کردن یا صادقانه بگویم، عملکرد بدون آنها را سختتر میکنیم. کاسمینا در یک مقطع زمانی، با ناامیدی از عزم شرکتهای هوش مصنوعی برای تحمیل محصولات خود به مردم قبل از اینکه به طور کامل هزینههای روانی و شناختی را درک کنیم، میگوید: «فقط توسعهدهندگان نرمافزار و فروشندگان مواد مخدر مردم را کاربر مینامند.»
در دنیای آنلاین همیشه در حال گسترش و بدون اصطکاک، شما قبل از هر چیز یک کاربر هستید: منفعل، وابسته. در سپیده دم عصر اطلاعات نادرست و دیپفیکهای تولید شده توسط هوش مصنوعی، چگونه میتوانیم شک و استقلال فکری مورد نیاز خود را حفظ کنیم؟ تا زمانی که بپذیریم که ذهن ما دیگر از آن خودمان نیست، که ما به سادگی نمیتوانیم بدون کمک فناوری به وضوح فکر کنیم، چقدر از ما برای مقاومت باقی خواهد ماند؟
درسهایی از گذشته: نگرانیهای سقراط درباره نوشتن
شروع به گفتن به مردم کنید که نگران کارهایی هستید که ماشینهای هوشمند با مغز ما انجام میدهند و این خطر وجود دارد که در آیندهای نه چندان دور، همه به این بخندند که شما چقدر قدیمی بودید. سقراط نگران بود که نوشتن حافظه مردم را تضعیف کند و فقط درک سطحی را تشویق کند: نه خرد، بلکه «تصور خرد» – استدلالی که به طرز چشمگیری شبیه به بسیاری از انتقادات از هوش مصنوعی است.
آنچه در عوض اتفاق افتاد این بود که نوشتن و پیشرفتهای تکنولوژیکی که به دنبال آن آمد – چاپ، رسانههای جمعی، عصر اینترنت – به این معنی بود که افراد بیشتری به اطلاعات بیشتری دسترسی داشتند. افراد بیشتری میتوانستند ایدههای بزرگ را توسعه دهند، و آنها میتوانستند این ایدهها را راحتتر به اشتراک بگذارند، و این ما را به عنوان افراد و به عنوان جوامع باهوشتر و نوآورتر کرد.
به هر حال، نوشتن نه تنها نحوه دسترسی و حفظ اطلاعات را تغییر داد. بلکه نحوه تفکر ما را نیز تغییر داد. یک فرد میتواند با یک دفترچه و کاغذ در دست کارهای پیچیدهتری را نسبت به حالت بدون آن انجام دهد: اکثر مردم نمیتوانند ۵۳۶۸۳ تقسیم بر ۷ را در ذهن خود محاسبه کنند، اما میتوانند تلاشی برای انجام تقسیم طولانی روی کاغذ داشته باشند. من نمیتوانستم این قطعه را دیکته کنم، اما نوشتن به من کمک کرد تا افکارم را سازماندهی و روشن کنم.
ما به عنوان انسان، در آنچه متخصصان آن را «تخلیه شناختی» مینامند، بسیار خوب هستیم، یعنی استفاده از محیط فیزیکی خود برای کاهش بار ذهنی خود، و این به نوبه خود به ما کمک میکند تا وظایف شناختی پیچیدهتری را انجام دهیم.
تصور کنید که عملکرد هر روز بدون تقویم یا یادآوریهای تلفنی، یا بدون گوگل برای به خاطر سپردن همه چیز برای شما چقدر سختتر خواهد بود. در بهترین سناریو، افراد باهوش که در مشارکت با ماشینهای هوشمند کار میکنند، به دستاوردهای فکری جدیدی دست خواهند یافت و مشکلات دشوار را حل خواهند کرد: ما در حال حاضر میبینیم، برای مثال، چگونه هوش مصنوعی میتواند به دانشمندان کمک کند تا داروهای جدید را سریعتر کشف کنند و پزشکان سرطان را زودتر و کارآمدتر تشخیص دهند.
پارادوکس فناوری: چرا با وجود دسترسی به اطلاعات، احساس حماقت میکنیم؟
پیچیدگی اینجاست که اگر فناوری واقعاً ما را باهوشتر میکند – ما را به ماشینهای کارآمد پردازش اطلاعات تبدیل میکند – چرا اینقدر وقت را صرف احساس حماقت میکنیم؟
سال گذشته، «پوسیدگی مغز» به عنوان کلمه سال انتشارات دانشگاه آکسفورد نامگذاری شد، اصطلاحی که هم احساس خاص بیذهنی را که هنگام صرف زمان زیاد برای پیمایش در میان زبالههای آنلاین به وجود میآید و هم محتوای خورنده و تهاجمی احمقانه، میمهای بیمعنی و چرندیات هوش مصنوعی را به تصویر میکشد. وقتی تلفنهای خود را در دست میگیریم، از نظر تئوری، بیشتر دانش انباشته شده جهان را در نوک انگشتان خود داریم، پس چرا اینقدر وقت را صرف کشیدن چشمان خود روی آشغال میکنیم؟
یکی از مسائل این است که دستگاههای دیجیتال ما برای کمک به ما در تفکر کارآمدتر و واضحتر طراحی نشدهاند. تقریباً هر چیزی که به صورت آنلاین با آن مواجه میشویم برای جذب و کسب درآمد از توجه ما طراحی شده است. هر بار که با قصد انجام یک کار ساده، مجزا و بالقوه خودسازی، مانند بررسی اخبار، به تلفن خود دسترسی پیدا میکنید، مغز بدوی شکارچی-گردآورنده شما با یک صنعت فناوری چند میلیارد پوندی روبرو میشود که وقف منحرف کردن شما از مسیر و حفظ توجه شما، مهم نیست چه.
به قول کریستودولو، به همان شکلی که یکی از ویژگیهای یک جامعه چاقساز، بیابانهای غذایی است – محلههای کاملی که در آن نمیتوانید یک وعده غذایی سالم بخرید – بخشهای بزرگی از اینترنت بیابانهای اطلاعاتی هستند، که در آن تنها غذای مغزی موجود، هرز است.
توجه جزئی مداوم و غرق شدن در اطلاعات
در اواخر دهه ۹۰، لیندا استون، مشاور فناوری که به عنوان استاد در دانشگاه نیویورک کار میکرد، متوجه شد که دانشجویانش از فناوری بسیار متفاوت از همکارانش در مایکروسافت، جایی که او نیز در آن کار میکرد، استفاده میکنند. در حالی که همکارانش در مایکروسافت در کار کردن روی دو صفحه نمایش منظم بودند – یکی برای ایمیلها، شاید، و دیگری برای Word یا یک صفحه گسترده – به نظر میرسید که دانشجویانش سعی میکنند ۲۰ کار را همزمان انجام دهند.
او اصطلاح «توجه جزئی مداوم» را ابداع کرد تا وضعیت استرسزا و غیرارادی را توصیف کند که اغلب خود را در آن مییابیم وقتی سعی میکنیم بین چندین فعالیت از نظر شناختی دشوار جابجا شویم، مانند پاسخ دادن به ایمیلها در حین تماس Zoom.
وقتی برای اولین بار این اصطلاح را شنیدم، متوجه شدم که من، مانند اکثر افرادی که میشناسم، بیشتر زندگی خود را در حالت توجه جزئی مداوم زندگی میکنم، چه با احساس گناه تلفنم را چک کنم وقتی قرار است با بچههایم بازی کنم، چه به طور مداوم با پیامکها و ایمیلها در حین تلاش برای نوشتن منحرف شوم، یا در حین تماشای نتفلیکس و همزمان انجام خرید آنلاین غذا، سعی کنم آرامش داشته باشم، هنوز هم تعجب میکنم که چرا به اندازه یک شام بیش از حد مایکروویو شده احساس آرامش میکنم. چندوظیفگی دیجیتال باعث میشود احساس کنیم سازنده هستیم، اما این اغلب توهمی است.
استون به من میگوید: «شما یک حس کاذب از تسلط بر همه چیز دارید بدون اینکه هرگز به ته هیچ چیز برسید.» همچنین باعث میشود که شما به طور دائم احساس عصبی بودن کنید: یک مطالعه که او انجام داد نشان داد که ۸۰ درصد از مردم هنگام بررسی ایمیلهای خود «قطع تنفس صفحه نمایش» را تجربه میکنند: آنها آنقدر درگیر اعلانهای بیپایان میشوند که فراموش میکنند به درستی نفس بکشند. او میگوید: «سیستم جنگ یا گریز شما تنظیم میشود، زیرا شما دائماً در تلاش هستید تا در صدر همه چیز بمانید»، و این هوشیاری بیش از حد هزینههای شناختی دارد: این امر باعث میشود که ما فراموشکارتر، بدتر در تصمیمگیری و کم توجهتر شویم.
اینترنت مدرن و آمادهسازی برای حماقت
توجه جزئی مداوم به توضیح هم پوسیدگی مغز به عنوان یک حالت ذهنی کمک میکند – زیرا اگر غرق شدن شناختی نباشد، چیست، نقطهای که در آن شما از مقاومت در برابر هجوم حواسپرتی دیجیتال دست میکشید و به مغز خود اجازه میدهید در آبهای گرم و تاریک اینترنت استراحت کند؟ – و هم وجود آشغال آنلاین خود. به هر حال، آنچه از نظر مالی برای شرکتهای فناوری مهم است این نیست که شما میخواهید آنچه را که میخوانید بخوانید، یا اینکه آنچه را که گوش میدهید یا آنچه را که به آن نگاه میکنید دوست دارید، فقط این است که شما مایل یا قادر به دور کردن خود نیستید.
به همین دلیل است که سرویسهای پخش مانند نتفلیکس فیلمهای بیمزه و فرمولی را تولید میکنند که به طور ضمنی «تماشای معمولی» نامیده میشوند و به معنای واقعی کلمه برای بینندگانی طراحی شدهاند که واقعاً تماشا نمیکنند، و لیستهای پخش Spotify پر از موسیقی استوک عمومی توسط هنرمندان جعلی است، تا موسیقی پسزمینه، «آرامش» یا «حال و هوای مهمانی» را برای شنوندگانی که واقعاً گوش نمیدهند، ارائه دهند. به طور خلاصه، اینترنت مدرن لزوماً شما را احمق نمیکند، اما قطعاً شما را برای عمل کردن مانند یک احمق آماده میکند.
هوش مصنوعی مولد و خطر برونسپاری تفکر
هوش مصنوعی مولد با یک پیشنهاد کاملاً جدید وارد این فضا شد. تا همین اواخر شما فقط میتوانستید به خاطر سپردن و برخی از پردازش دادهها را به فناوری برونسپاری کنید. اکنون میتوانید خود تفکر را برونسپاری کنید. با توجه به اینکه ما بیشتر زندگی خود را صرف احساس تحریک بیش از حد و خستگی میکنیم، جای تعجب نیست که بسیاری از فرصت استفاده از رایانه برای انجام کارهای بیشتری که زمانی برای خود انجام میدادیم – مانند نوشتن گزارشهای کاری یا ایمیلها، یا برنامهریزی تعطیلات – استفاده کردهاند.
با گذار از عصر اینترنت به عصر هوش مصنوعی، آنچه ما مصرف میکنیم نه تنها اطلاعات کم ارزش و فوق فرآوری شده بیشتر، بلکه اطلاعات بیشتری است که اساساً از پیش هضم شدهاند، به گونهای ارائه میشوند که برای دور زدن عملکردهای مهم انسانی، مانند ارزیابی، فیلتر کردن و خلاصه کردن اطلاعات، یا در واقع در نظر گرفتن یک مشکل به جای اصلاح اولین راه حلی که به ما ارائه میشود، طراحی شدهاند.
کاهش تفکر انتقادی با استفاده از هوش مصنوعی
مایکل گرلیچ، رئیس مرکز آیندهنگری استراتژیک شرکتی و پایداری در مدرسه بازرگانی SBS سوئیس، شروع به بررسی تأثیر هوش مصنوعی مولد بر تفکر انتقادی کرد زیرا متوجه کاهش کیفیت بحثهای کلاسی شد. گاهی اوقات او یک تمرین گروهی به دانشآموزانش میداد، و به جای صحبت با یکدیگر، به سکوت نشستند و با لپتاپهای خود مشورت میکردند.
او با سایر مدرسانی که متوجه چیز مشابهی شده بودند، صحبت کرد. گرلیچ اخیراً مطالعهای را انجام داد که شامل ۶۶۶ نفر از سنین مختلف بود و دریافت کسانی که بیشتر از هوش مصنوعی استفاده میکردند، در تفکر انتقادی نمره کمتری کسب کردند. (همانطور که او اشاره میکند، تا به امروز کار او فقط شواهدی برای همبستگی بین این دو ارائه میدهد: این احتمال وجود دارد که افرادی که تواناییهای تفکر انتقادی کمتری دارند، بیشتر به هوش مصنوعی اعتماد کنند، به عنوان مثال.)
مانند بسیاری از محققان، گرلیچ معتقد است که هوش مصنوعی در صورت استفاده صحیح میتواند ما را باهوشتر و خلاقتر کند – اما روشی که اکثر مردم از آن استفاده میکنند، کارهای بیمزه، غیر تخیلی و از نظر واقعی مشکوک تولید میکند. یکی از نگرانیها، به اصطلاح «اثر لنگر انداختن» است. اگر سؤالی را در هوش مصنوعی مولد مطرح کنید، پاسخی که به شما میدهد، مغز شما را در یک مسیر ذهنی خاص قرار میدهد و احتمال در نظر گرفتن رویکردهای جایگزین را کاهش میدهد.
او میگوید: «من همیشه از این مثال استفاده میکنم: یک شمع را تصور کنید. اکنون، هوش مصنوعی میتواند به شما کمک کند تا شمع را بهبود بخشید. این شمع روشنترین، طولانیترین، بسیار ارزان و شگفتانگیز به نظر خواهد رسید، اما هرگز به لامپ تبدیل نخواهد شد.» برای رسیدن از شمع به لامپ، به انسانی نیاز دارید که در تفکر انتقادی خوب باشد، کسی که ممکن است رویکردی آشفته، غیر ساختاریافته و غیرقابل پیشبینی برای حل مسئله داشته باشد.
هنگامی که، همانطور که در بسیاری از محلهای کار اتفاق افتاده است، شرکتها ابزارهایی مانند چتبات Copilot را بدون ارائه آموزش مناسب هوش مصنوعی، به کار میگیرند، خطر تولید تیمهایی از شمعسازان قابل قبول را در دنیایی که خواستار لامپهای با راندمان بالا است، به جان میخرند.
لزوم آموزش مناسب و حفظ تفکر انتقادی
همچنین این مسئله بزرگتر وجود دارد که بزرگسالانی که از هوش مصنوعی به عنوان یک میانبر استفاده میکنند، حداقل از گذراندن آموزش بهرهمند شدهاند. بر اساس گزارشی از گاردین, برای جلوگیری از تبدیل شدن به یک “جامعه کودنساز”، حفظ تفکر انتقادی و استقلال فکری ضروری است.
نظر شما در مورد این مطلب چیه؟