پلاس وی
2 سال پیش / خواندن دقیقه

FTC توسعه‌ مدل‌های هوش مصنوعی جدید OpenAI را متوقف می‌کند؟

FTC توسعه‌ مدل‌های هوش مصنوعی جدید OpenAI را متوقف می‌کند؟

مرکز هوش مصنوعی و سیاست دیجیتال، شکایتی با این استدلال که GPT-4 قوانین FTC را درمقابل اقدامات ناعادلانه نقض می‌کند، ارائه داد.

یکی گروه‌های فعال در زمینه‌ی اخلاق هوش مصنوعی از کمیسیون تجارت و فدرال ایالات‌متحده درخواست کرده است فعالیت OpenAI را به‌دلیل نقض قوانین محافظت از مصرف‌کنندگان مورد بررسی قرار دهد زیرا این استارتاپ با راه‌اندازی ابزارهای تولید متن مبتنی‌بر هوش مصنوعی، سوگیری، فریب و خطر امنیت عمومی به‌همراه داشته است.

مرکز هوش مصنوعی و سیاست‌های دیجیتال (CAIDP) امروز شکایت خود را پس‌از انتشار نامه‌ای سرگشاده مطرح کرد. این سازمان در نامه‌ی خود خواستار توقف آزمایش‌های بزرگ هوش مصنوعی شد. مارک روتنبرگ، رئیس CAIDP درکنار تعدادی از محققان هوش مصنوعی و ایلان ماسک که او هم یکی از بنیان‌گذاران OpenAI بوده، نامه‌ی مذکور را امضا کرده است. شکایت CAIDP خواستار کاهش سرعت توسعه‌ی مدل‌های هوش مصنوعی و اجرای اقدامات نظارتی دولتی دقیق‌تر در این حوزه است.

شکایت CAIDP به تهدیدات بالقوه‌ی مدل متنی مولد GPT-4 شرکت OpenAI اشاره دارد که اواسط مارس معرفی شد. در این شکایت به راهکارهایی اشاره شده است که GPT-4 از طریق آن‌ها می‌تواند کدهای مخرب و تبلیغات سازماندهی‌شده تولید کند. CAIDP همچنین به روش‌هایی که داد‌های آموزشی مغرضانه می‌تواند هنگام استخدام منجر به کلیشه‌های ساختگی یا ترجیحات نژادپرستانه و جنسیتی ناعادلانه شود، اشاره کرده است. این شکایت همچنین به نقص‌های مهم در محافظت از حریم خصوصی کاربران هنگام استفاده از محصولات OpenAI می‌پردازد که ازجمله می‌توان به مشکل تاریخچه‌ی ChatGPT اشاره کرد که باعث شد اطلاعات برخی کاربران در اختیار سایرین قرار بگیرد.

به گزارش ورج، OpenAI به‌طور کاملاً واضح به تهدیدات بالقوه‌ی تولید متن هوش مصنوعی اشاره کرده اما استدلال CAIDP این است که GPT-4 از خط آسیب مصرف‌کننده عبور می‌کند و به‌همین دلیل باید اقدامات نظارتی دقیق‌تری روی آن انجام شود. این سازمان قصد دارد OpenAI را به‌دلیل نقض بخش پنجم قانون FTC که اقدامات ناعادلانه و فریبنده را ممنوع می‌داند، محکوم کند. این شکایت ادعا می‌کند شرکت هوش مصنوعی، مدل GPT-4 خود را با آگاهی کامل از خطرات اشاره‌شده ازجمله سوگیری‌های بالقوه و ارائه‌ی پاسخ‌های مضر، منتشر کرده است. علاوه‌براین CAIDP توهمات غیرقابل کنترل مدل‌های مولد را به‌عنوان نوعی فریب درنظر می‌گیرد. این سازمان می‌گوید OpenAI با ابزارهای هوش مصنوعی خود، بیانیه‌های تجاری و تبلیغات فریبنده را ترویج می‌کند.

CAIDP در شکایت خود از FTC می‌خواهد هرگونه استقرار تجاری مدل‌های GPT را متوقف کند و قبل از عرضه‌ی احتمالی مدل‌های مولد دیگر در آینده، آن‌ها را به‌طور مستقل مورد ارزیابی دقیق قرار دهد. علاوه‌براین CAIDP درخواست دارد ابزار گزارش‌دهی در دسترس عموم باشد تا بتوانند ازطریق آن، شکایت‌های خود را ارسال کنند. این مرکز همچنین به‌دنبال ایجاد قوانین محکمی درمورد سیستم‌های هوش مصنوعی مولد است.

همان‌طور که CAIDP اشاره می‌کند FTC به تنظیم‌ قوانین هوش مصنوعی ابراز علاقه کرده و هشدار داده است که سیستم‌های هوش مصنوعی مغرضانه می‌توانند اقدامات اجرایی مختلفی انجام دهند.


هر آنچه میخواهید در اینجا بخوانید
شاید از نوشته‌های زیر خوشتان بیاید
نظر خود را درباره این پست بنویسید ...

منوی سریع