قانون هوش مصنوعی کالیفرنیا برای سومین بار به تعویق افتاد

تلاش‌ها برای قانون‌مند کردن هوش مصنوعی در کالیفرنیا همچنان ادامه دارد

لایحه ای که هدف آن الزام به افشای تصمیمات مبتنی بر هوش مصنوعی و فراهم کردن امکان درخواست تجدید نظر در مورد آن‌ها بود، برای سومین دوره قانون‌گذاری متوالی در کالیفرنیا به تعویق افتاد. انتظار می‌رود فرماندار گاوین نیوسام در مورد این لایحه مشورت کند.

جزئیات لایحه به تعویق افتاده

ربکا باور-کاهان، نماینده مجلس ایالتی کالیفرنیا، پس از سه سال تلاش برای اعطای این حق به شهروندان کالیفرنیا که بدانند چه زمانی هوش مصنوعی در حال تصمیم‌گیری مهمی در مورد زندگی آن‌ها است و بتوانند در صورت بروز مشکل درخواست تجدید نظر کنند، اعلام کرد که حامیان این طرح باید تا سال آینده منتظر بمانند.

این نماینده دموکرات از سن رامون روز جمعه اعلام کرد که لایحه شماره ۱۰۱۸ مجلس ایالتی کالیفرنیا (Assembly Bill 1018)، که از مجلس و دو کمیته سنا عبور کرده بود، به عنوان یک لایحه دو ساله تعیین شده است، به این معنی که می‌تواند به عنوان بخشی از جلسه قانون‌گذاری سال آینده بازگردد. این اقدام به منظور فراهم کردن زمان بیشتر برای گفتگو با فرماندار گاوین نیوسام و بیش از ۷۰ مخالف این لایحه صورت گرفته است. این تصمیم در ساعات پایانی جلسه قانون‌گذاری کالیفرنیا، که امروز به پایان می‌رسد، گرفته شد.

لایحه پیشنهادی او، کسب‌وکارها و سازمان‌های دولتی را ملزم می‌کند تا در صورت استفاده از سیستم‌های خودکار برای تصمیم‌گیری‌های مهم در مورد افراد، به آن‌ها اطلاع دهند. این تصمیمات شامل اجاره آپارتمان، پذیرش در مدرسه و در محیط کار، استخدام، اخراج، ترفیع و اقدامات انضباطی می‌شود. این لایحه همچنین تصمیمات اتخاذ شده در زمینه‌های آموزش، بهداشت و درمان، عدالت کیفری، مزایای دولتی، خدمات مالی و بیمه را نیز پوشش می‌دهد.

سیستم‌های خودکاری که به افراد امتیاز می‌دهند یا توصیه‌هایی ارائه می‌کنند، می‌توانند مانع از دریافت مزایای بیکاری شوند که کالیفرنیایی‌ها مستحق آن هستند، متقاضیان کار را به دلایل دلخواه و بی‌ربط با عملکرد شغلی، فاقد صلاحیت اعلام کنند یا به دلیل نژاد، از ارائه خدمات بهداشتی یا وام مسکن به افراد خودداری کنند.

باور-کاهان در بیانیه‌ای که با CalMatters به اشتراک گذاشت، گفت: «این مکث نشان‌دهنده تعهد ما به درست انجام دادن این قانون‌گذاری حیاتی است، نه عقب‌نشینی از مسئولیت خود برای محافظت از کالیفرنیایی‌ها.»

نگاهی به لوایح هوش مصنوعی در مجلس قانون‌گذاری کالیفرنیا

باور-کاهان اصول مندرج در این قانون را از لایحه حقوق هوش مصنوعی دولت بایدن اقتباس کرده است. کالیفرنیا قوانین هوش مصنوعی بیشتری نسبت به هر ایالت دیگری به تصویب رسانده است، اما هنوز قانونی مانند قانون باور-کاهان یا سایر قوانین مشابه که مستلزم افشای تصمیمات مهم هوش مصنوعی هستند، مانند قانون هوش مصنوعی کلرادو یا قانون هوش مصنوعی اتحادیه اروپا، را تصویب نکرده است.

برای مطالعه اخبار بیشتر اینجا کلیک کنید.

این تعویق در حالی صورت می‌گیرد که سیاستمداران در واشنگتن دی سی همچنان با مقررات هوش مصنوعی که به گفته آن‌ها می‌تواند مانع پیشرفت شود، مخالف هستند. هفته گذشته، رهبران بزرگترین شرکت‌های فناوری کشور در یک شام در کاخ سفید به رئیس جمهور ترامپ پیوستند تا در مورد یک دستور اجرایی اخیر و سایر ابتکارات برای جلوگیری از مقررات هوش مصنوعی بیشتر بحث کنند. در اوایل سال جاری، کنگره تلاش کرد تا یک دوره توقف مقررات هوش مصنوعی توسط دولت‌های ایالتی را به تصویب برساند، اما موفق نشد.

هنگامی که یک سیستم خودکار مرتکب اشتباه می‌شود، لایحه AB 1018 به افراد این حق را می‌دهد که ظرف ۶۰ روز اشتباه خود را اصلاح کنند. همچنین تأکید می‌کند که الگوریتم‌ها باید تسهیلات «کامل و برابر» را برای همه فراهم کنند و نمی‌توانند بر اساس ویژگی‌هایی مانند سن، نژاد، جنسیت، معلولیت یا وضعیت مهاجرت، تبعیض قائل شوند.

توسعه‌دهندگان باید ارزیابی‌های تأثیر را انجام دهند تا، از جمله موارد دیگر، تعصبات تعبیه شده در سیستم‌های خود را آزمایش کنند. اگر ارزیابی تأثیر بر روی یک سیستم هوش مصنوعی انجام نشود و از آن سیستم برای تصمیم‌گیری‌های مهم در مورد زندگی افراد استفاده شود، توسعه‌دهنده با جریمه‌هایی تا سقف ۲۵۰۰۰ دلار به ازای هر تخلف یا اقدام قانونی توسط دادستان کل، دادستان‌های عمومی یا اداره حقوق مدنی مواجه می‌شود.

اصلاحیه‌هایی که در هفته‌های اخیر در این لایحه ایجاد شده است، مدل‌های هوش مصنوعی مولد را از شمول این لایحه مستثنی می‌کند، که می‌تواند از تأثیر آن بر شرکت‌های بزرگ هوش مصنوعی یا پروژه‌های آزمایشی هوش مصنوعی مولد که توسط سازمان‌های دولتی انجام می‌شود، جلوگیری کند. این لایحه همچنین اصلاح شد تا الزام ممیزی توسعه‌دهنده را به سال ۲۰۳۰ موکول کند و تصریح کند که این لایحه قصد دارد به ارزیابی یک فرد و ارائه پیش‌بینی‌ها یا توصیه‌هایی در مورد آن‌ها بپردازد.

یک نبرد قانون‌گذاری شدید

سامانتا گوردون، یکی از مدیران ارشد برنامه در TechEquity، یکی از حامیان این لایحه، گفت که او این هفته در سنای کالیفرنیا شاهد تلاش لابی‌گران بیشتری برای از بین بردن AB 1018 نسبت به هر لایحه هوش مصنوعی دیگری بوده است. او گفت که فکر می‌کند AB 1018 مسیری برای تصویب داشت، اما تصمیم گرفته شد که برای همکاری با فرماندار، که دوره دوم و پایانی خود را سال آینده به پایان می‌رساند، مکث کند.

گوردون گفت: «یک اختلاف اساسی در مورد این وجود دارد که آیا این ابزارها باید با بررسی اولیه آزمایش و اطلاع رسانی به مردم در مورد استفاده از آن‌ها مواجه شوند یا خیر.»

گوردون فکر می‌کند این احتمال وجود دارد که شرکت‌های فناوری از «مقدار نامحدود پول» خود برای مبارزه با این لایحه در سال آینده استفاده کنند.

او افزود: «اما واضح است که آمریکایی‌ها خواهان این حمایت‌ها هستند – نظرسنجی پس از نظرسنجی نشان می‌دهد که آمریکایی‌ها خواهان قوانین قوی در مورد هوش مصنوعی هستند و حمایت‌های داوطلبانه کافی نیست.»

لایحه AB 1018 با مخالفت گروه‌های صنعتی، شرکت‌های بزرگ فناوری، بزرگترین ارائه‌دهنده خدمات بهداشتی ایالت، شرکت‌های سرمایه‌گذاری خطرپذیر و شورای قضایی کالیفرنیا، یک نهاد سیاست‌گذاری برای دادگاه‌های ایالتی، مواجه شد.

ائتلافی از بیمارستان‌ها، Kaiser Permanente و شرکت نرم‌افزاری و هوش مصنوعی Epic Systems از قانون‌گذاران خواستند به AB 1018 رای منفی دهند، زیرا آن‌ها استدلال کردند که این لایحه بر مراقبت از بیمار تأثیر منفی می‌گذارد، هزینه‌ها را افزایش می‌دهد و توسعه‌دهندگان را ملزم می‌کند تا با ممیزان شخص ثالث برای ارزیابی انطباق تا سال ۲۰۳۰ قرارداد ببندند.

ائتلافی از گروه‌های تجاری به دلیل زبان تعمیم‌دهنده و نگرانی از اینکه انطباق می‌تواند برای کسب‌وکارها و مالیات‌دهندگان پرهزینه باشد، با این لایحه مخالفت کردند. گروه Technet، که به دنبال شکل‌دهی سیاست در سراسر کشور است و اعضای آن شامل شرکت‌هایی مانند Apple، Google، Nvidia و OpenIAI هستند، استدلال کردند که AB 1018 رشد شغلی را خفه می‌کند، هزینه‌ها را افزایش می‌دهد و سریع‌ترین صنایع در حال رشد در ایالت را در یک کمپین تبلیغاتی ویدیویی مجازات می‌کند.

شرکت سرمایه‌گذاری خطرپذیر Andreessen Horowitz، که بنیانگذار آن مارک آندریسن از انتخاب مجدد رئیس جمهور ترامپ حمایت کرد، به دلیل هزینه‌ها و این واقعیت که این لایحه به دنبال تنظیم هوش مصنوعی در کالیفرنیا و فراتر از آن است، با این لایحه مخالف است.

یکی از رهبران سیاست‌گذاری در قوه قضاییه ایالت در هشداری که این هفته برای قانون‌گذاران ارسال شد و خواستار رای منفی شد، گفت که بار انطباق با این لایحه آنقدر زیاد است که قوه قضاییه در معرض از دست دادن توانایی استفاده از ابزارهای ارزیابی خطر قبل از محاکمه مانند نوعی است که به مجرمان جنسی و جنایتکاران خشونت‌آمیز امتیاز بازگشت به جرم می‌دهد. شورای قضایی ایالت، که برای دادگاه‌های کالیفرنیا سیاست‌گذاری می‌کند، تخمین می‌زند که تصویب AB 1018 سالانه تا ۳۰۰ میلیون دلار برای ایالت هزینه خواهد داشت. نکات مشابهی در نامه‌ای به قانون‌گذاران در ماه گذشته مطرح شد.

چرا حامیان به مبارزه ادامه می‌دهند

دقیقاً میزان هزینه‌ای که AB 1018 می‌تواند برای مالیات‌دهندگان داشته باشد، هنوز یک ابهام بزرگ است، به دلیل اطلاعات متناقض از سازمان‌های دولتی ایالت. تحلیلی توسط کارکنان قانون‌گذاری کالیفرنیا نشان داد که اگر این لایحه تصویب شود، می‌تواند صدها میلیون دلار برای سازمان‌های محلی، سازمان‌های ایالتی و قوه قضاییه ایالت هزینه داشته باشد.

اما گزارشی از دپارتمان فناوری کالیفرنیا که به طور انحصاری توسط CalMatters پوشش داده شد، در ماه مه به این نتیجه رسید که هیچ سازمان دولتی از سیستم‌های خودکار پرخطر استفاده نمی‌کند، علیرغم شواهد تاریخی خلاف آن. باور-کاهان ماه گذشته گفت که از برآوردهای تأثیر مالی شگفت‌زده شده است، زیرا گزارش CalMatters نشان داد که استفاده از سیستم تصمیم‌گیری خودکار در سطح ایالت گسترده نیست.

حمایت از این لایحه از سوی اتحادیه‌هایی صورت گرفته است که متعهد شده‌اند در مورد هوش مصنوعی در توافقنامه‌های چانه‌زنی بحث کنند، از جمله انجمن پرستاران کالیفرنیا و اتحادیه بین‌المللی کارکنان خدمات، و از گروه‌هایی مانند ائتلاف حریم خصوصی شهروندان، گزارش‌های مصرف‌کننده و فدراسیون مصرف‌کنندگان کالیفرنیا.

نویسندگان مشترک AB 1018 شامل طرفداران اصلی دموکرات تنظیم مقررات هوش مصنوعی در مجلس قانون‌گذاری کالیفرنیا هستند، از جمله رهبر اکثریت مجلس سیسیلیا آگیلار-کوری از دیویس، نویسنده لایحه‌ای که تصویب شده و روی میز فرماندار است و به دنبال جلوگیری از افزایش قیمت کالاها توسط الگوریتم‌ها است.

سناتور استیو پادیلا از چولا ویستا، که لایحه او برای محافظت از کودکان در برابر ربات‌های همراه در انتظار تصمیم فرماندار است. و کریس وارد، نماینده مجلس سن دیگو، که قبلاً به تصویب قانونی کمک کرده بود که سازمان‌های دولتی را ملزم به افشای استفاده از سیستم‌های خودکار پرخطر می‌کند و امسال به دنبال تصویب لایحه‌ای برای جلوگیری از قیمت‌گذاری بر اساس اطلاعات شخصی شما بود.

اینولیووا دبورا راجی، محقق هوش مصنوعی در دانشگاه برکلی که الگوریتم‌ها را برای تبعیض ممیزی کرده و به مقامات دولتی در ساکرامنتو و واشنگتن دی سی در مورد چگونگی آسیب رساندن هوش مصنوعی به مردم مشاوره داده است، گفت: زبان ضد تبعیض در AB 1018 مهم است زیرا شرکت‌های فناوری و مشتریان آن‌ها اغلب خود را از قانون تبعیض معاف می‌دانند اگر تبعیض توسط سیستم‌های خودکار انجام شود.

او این سوال را مطرح می‌کند که آیا سازمان‌های دولتی منابع لازم برای اجرای AB 1018 را دارند یا خیر، اما همچنین از الزام افشای اطلاعات در این لایحه خوشش می‌آید، زیرا «من فکر می‌کنم مردم سزاوار دانستن هستند و هیچ راهی وجود ندارد که بتوانند بدون آن درخواست تجدید نظر یا اعتراض کنند.»

«من باید بدانم که یک سیستم هوش مصنوعی دلیل این بود که من نتوانستم این خانه را اجاره کنم. سپس من می‌توانم در سطح فردی درخواست تجدید نظر و اعتراض کنم. در این مورد چیز بسیار ارزشمندی وجود دارد.»

راجی گفت که هنگام کمک به شکل‌دهی گزارشی در مورد چگونگی ایجاد تعادل بین محافظت و نوآوری برای توسعه هوش مصنوعی مولد در کالیفرنیا، شاهد نفوذ و مقاومت شرکت‌ها بوده است و نیروهای مشابهی را در تعویق AB 1018 می‌بیند.

او به CalMatters گفت: «ناامیدکننده است که این [AB 1018] در حال حاضر اولویت برای سیاست‌گذاران هوش مصنوعی نیست. من واقعاً امیدوارم که بار چهارم طلسم شود.»

تعدادی از لوایح دیگر با حمایت اتحادیه‌ها نیز در این جلسه توسط قانون‌گذاران مورد بررسی قرار گرفت که به دنبال محافظت از کارگران در برابر هوش مصنوعی بودند. برای سومین سال متوالی، لایحه‌ای که مستلزم حضور یک راننده انسانی در کامیون‌های تحویل تجاری در وسایل نقلیه خودران بود، به قانون تبدیل نشد. لایحه شماره ۱۳۳۱ مجلس ایالتی کالیفرنیا (Assembly Bill 1331)، که به دنبال جلوگیری از نظارت بر کارگران با ابزارهای مجهز به هوش مصنوعی در فضاهای خصوصی مانند اتاق‌های رختکن یا شیردهی بود و محدودیت‌هایی را برای نظارت در اتاق‌های استراحت اعمال می‌کرد، نیز به تصویب نرسید.

اما اقدام دیگری، لایحه شماره ۷ سنا (Senate Bill 7)، در مجلس قانون‌گذاری به تصویب رسید و به دست فرماندار رسیده است. این قانون کارفرمایان را ملزم می‌کند تا ۳۰ روز قبل از استفاده از یک سیستم خودکار، برنامه‌های خود را افشا کنند و درخواست‌های سالانه داده‌های مورد استفاده کارفرما برای انضباط یا اخراج را ارائه دهند. در روزهای اخیر، سناتور جری مک‌نرنی، نویسنده این قانون، قانون را اصلاح کرد تا حق درخواست تجدید نظر در تصمیمات اتخاذ شده توسط هوش مصنوعی را حذف کند و ممنوعیت پیش‌بینی باورهای سیاسی، وضعیت عاطفی یا داده‌های عصبی یک کارگر توسط کارفرمایان را حذف کند. فدراسیون کار کالیفرنیا از لوایح مشابهی در ماساچوست، ورمونت، کانکتیکات و واشنگتن حمایت کرد.

بر اساس گزارشی از CalMatters.