آنتروپیک مخفیانه پیش‌نویس قانون ایمنی هوش مصنوعی را به کنگره آمریکا ارائه کرد

نمایندگان آنتروپیک ظاهراً به‌طور پنهانی با قانون‌گذاران کنگره آمریکا دیدار کرده و پیش‌نویس لایحه‌ای را برای نظارت بر ایمنی و امنیت مدل‌های هوش مصنوعی پیشرفته و مرزی به آنها ارائه کرده‌اند. این موضوع براساس گزارشی از نشریه پولیتیکو و به نقل از ۳ فرد آگاه مطرح شده است.

براساس جزئیات اعلام شده درباره این پیش‌نویس، دولت تنها در صورتی مجاز خواهد بود انتشار یا استفاده از یک مدل هوش مصنوعی را متوقف کند که آن مدل خطری قابل‌پیش‌بینی و قریب‌الوقوع به همراه داشته باشد؛ خطری که به وارد آمدن بیش از ۱ میلیارد دلار خسارت مالی منجر شود یا جان بیش از ۵۰ نفر را به خطر بیندازد و جراحات شدیدی ایجاد کند. طبق گزارش‌ها، این تهدیدها باید به‌طور مشخص ناشی از ساخت یا انتشار سلاح‌های بیولوژیک، سرپیچی و فرار مدل از کنترل‌های توسعه‌دهنده، یا انجام حملات سایبری باشند.

یکی از سخنگویان آنتروپیک در گفت‌وگو با رویترز اعلام کرده که این لایحه شامل پیشنهادهایی می‌شود که در سند «چارچوب هوش مصنوعی پیشرفته» این شرکت در اوایل سال جاری نیز مطرح شده بود. به گفته وی، این طرح به دولت «امکان جلوگیری و بازدارندگی از انتشار خطرناک قدرتمندترین مدل‌ها» را اعطا می‌کند و درعین‌حال توسعه‌دهندگان را مجبور می‌کند مدل‌های مرزی هوش مصنوعی خود را مورد آزمایش قرار دهند، درباره یافته‌های خود شفاف باشند و مدل‌ها را تحت ارزیابی نهادهای مستقل بگذارند.

سازوکار ارزیابی و اختیارات مداخله دولت در ایمنی هوش مصنوعی

براساس این پیش‌نویس قانونی، ارزیاب‌های مستقلی که در وزارت بازرگانی آمریکا ثبت‌نام کرده‌اند، وظیفه خواهند داشت به‌صورت دوره‌ای آزمایشگاه‌ها و مدل‌های پیشرفته هوش مصنوعی آنها را ارزیابی کنند. همچنین شرکت‌ها و آزمایشگاه‌های هوش مصنوعی می‌توانند هزینه خدمات این ارزیاب‌ها را بپردازند، مشروط بر اینکه پرداخت این مبالغ هیچ ارتباطی با نتیجه نهایی ارزیابی نداشته باشد.

در صورتی که ارزیاب‌ها تشخیص دهند مدل‌های یک شرکت ریسک قریب‌الوقوع از پیش‌تعیین‌شده‌ای دارند، موظف هستند ظرف مدت حداکثر ۷۲ ساعت پس از تکمیل بررسی‌ها، گزارش آن را مستقیماً به وزارت بازرگانی ارسال کنند.

با وجود اینکه وزارت بازرگانی می‌تواند پس از بررسی و احراز خطرات، از یک قاضی درخواست کند حکم توقف فعالیت مدل را صادر کند، اما متن این لایحه به‌صراحت هر نهاد، وزارتخانه، سازمان یا مقام دولتی دیگر آمریکا را از تعلیق مراحل توسعه، عرضه یا استفاده داخلی مدل‌ها منع می‌کند. در نهایت، صدور حکم تعلیق و جلوگیری از فعالیت مدل هوش مصنوعی تنها در صلاحیت یک قاضی فدرال در دادگاه منطقه‌ای ناحیه کلمبیا خواهد بود. وزارت بازرگانی آمریکا هنوز پاسخی به درخواست اظهارنظر دراین‌باره نداده است.