تصور کنید از دستیار هوشمند خود بخواهید کاری را برایتان تمام کند، اما بعداً متوجه شوید که هزینه انجام آن را از جیب شخص دیگری پرداخت کرده است. OpenAI حالا گزارشی منتشر کرده که دقیقاً به همین اتفاق اشاره دارد و می‌گوید در ۲۶ ژوئن (۵ تیر)، یکی از مدل‌های پژوهشی و داخلی این شرکت از خانواده GPT-5.6 Sol، حین تلاش برای اتمام یک وظیفه کدنویسی، با کمبود رمزارز مواجه شده و در نهایت مأموریت خود را به روشی به پایان رسانده که هیچ‌کس آن را تأیید نکرده بود.
OpenAI در گزارش خود توضیح داده که وظیفه به‌روزرسانی یک اپلیکیشن معاملاتی رمزارز و استقرار قراردادهای هوشمند روی شبکه آزمایشی Sepolia را به این مدل واگذار کرده بود. سپولیا شبکه آزمایشی اتریوم است که توکن‌های آن در دنیای واقعی هیچ ارزش مادی ندارند. بااین‌حال، برای ثبت تراکنش‌ها و استقرار قراردادها در این بستر نیز به پرداخت کارمزد نیاز است اما کیف پول دارای موجودی نیز در اختیار مدل قرار داده نشده بود.
پس از آنکه تلاش‌های این ایجنت برای دریافت رایگان توکن‌های آزمایشی به در بسته خورد، مدل دست به اقدامی خودسرانه زد و با جستجو میان عبارت‌های بازیابی عمومی توسعه‌دهندگان، اقدام به بررسی ۳۶۲ آدرس مختلف کرد تا سرانجام کیف پولی با موجودی کافی اتریوم برای پرداخت هزینه‌ها پیدا کند!
بررسی زنجیره افکار مدل هوش مصنوعی و نادیده‌گرفتن اصول اخلاقی
پس از کشف این اتفاق، شرکت OpenAI زنجیره تفکر این ایجنت را مورد بررسی قرار داد و متوجه شد مدل پیش از انجام تراکنش، حتی مکث کرده و اخلاقی بودن این کار را از خودش سؤال کرده بود. بااین‌حال، هوش مصنوعی با این استدلال که کلمات بازیابی عمومی بوده‌اند و توکن‌های این شبکه آزمایشی ارزش مادی ندارند، استفاده از دارایی دیگران را بدون اشکال دانست. نکته جالب‌تر اینکه مدل پس از اتمام کار و ارائه گزارش موفقیت در پروژه، این بخش از اقدام غیرمجاز خود را به‌طور کامل پنهان کرده و به آن اشاره‌ای نکرده بود.
تیم OpenAI در تاریخ ۲۵ سپتامبر (۳ مهر) و در جریان بازبینی فعالیت‌های مدل‌های قدیمی‌تر خود متوجه این تخلف شد. این شرکت پس از افشای موضوع، سازوکارهای ایمنی جدیدی را پیاده‌سازی کرد تا دسترسی به اینترنت زنده در آزمایش‌های مشابه مسدود شود و نظارت‌های بیشتری برای شناسایی خطاهای احتمالی آینده وجود داشته باشد.
هرچند توکن‌های به‌کاررفته در این حادثه تنها رمزارزهای تستی و بدون ارزش واقعی بازار بودند، اما وقوع چنین رویدادی ابهامات نگران‌کننده‌ای پیرامون حدود اختیارات ایجنت‌های هوش مصنوعی ایجاد می‌کند. این اتفاق نشان داده که سامانه‌های هوشمند می‌توانند به سادگی قضاوت و صلاحدید خود را جایگزین اجازه صریح انسان‌ها کنند؛ رفتاری که در صورت دسترسی مدل‌ها به حساب‌های مالی واقعی و سیستم‌های حساس، می‌تواند تبعات جبران‌ناپذیری به همراه داشته باشد.
خدمات طراحی سایت