اگرچه چتباتهای هوش مصنوعی مثل ChatGPT فناوریهای بسیار جذابی بهنظر میرسند اما گاهی اوقات پاسخهایی کاملاً غیرمنتظره و حتی احمقانه ارائه میدهند.
اکنون چتبات هوش مصنوعی جدیدی بهنام 2Dumb2Destroy معرفی شده که هدف اصلی از طراحی آن، عدم القای قدرت وحشتناک و جلوگیری از سوءاستفاده است. این هوش مصنوعی طوری آموزش دیده که خیلی احمق بهنظر برسد.
2Dumb2Destroy برخلاف چتباتهایی مثل ChatGPT بهجای استفاده از مجموعه دادههای بزرگ، براساس اطلاعات مجموعه فیلمهای «آکادمی پلیس»، نقلقولهای معروف رالف ویگوم و دادههای بیفایدهی دیگر آموزش دیده است.
همانطور که از نام چتبات جدید پیدا است، احتمالاً آنقدر بیکفایت است که هرگز نمیتواند به بشر آسیب بزند.
استیو ناس، خالق 2Dumb2Destroy میگوید:
بااینحال، ساخت یک هوش مصنوعی احمق همچنان به زیرساختهای هوشمند نیاز دارد. ناس و دوست او کریگ شروین، 2Dumb2Destroy را براساس مدل GPT-3 شرکت OpenAI توسعه دادهاند. این دو محقق علاوهبر اجبار هوش مصنوعی خود به یادگیری نقلقولهای احقانهی برخی فیلمها، آن را با برخی دادههای دیگر مثل سخنرانیهای گیجکنندهی جورج دبلیو بوش و موارد دیگر آموزش دادهاند.
شروین در گفتوگو با BuzzFeed گفت:
تیم سازندهی 2Dumb2Destroy میگوید اخیراً نگرانیهایی درمورد جایگزین شدن هوش مصنوعی با برخی مشاغل مطرح شده است. ناس و شروین نهایتاً تصمیم گرفتند یک هوش مصنوعی بسیار احمق را توسعه دهند که هرگز نتواند به تهدیدی برای جایگزین شدن با انسانها یا سرقت ادبی آثار دیگران تبدیل شود. این محققان میگویند:
وبسایت فیوچریسم برای آزمایش چتبات 2Dumb2Destroy از این هوش مصنوعی پرسید:
و 2Dumb2Destroy در پاسخ گفت:
چتبات 2Dumb2Destroy در پاسخ به این سؤال که آیا هوش مصنوعی میتواند پایان بشریت را رقم بزند، اعلام کرد:
بهنظر میرسد چتبات 2Dumb2Destroy ارزش وقت گذاشتن را دارد. البته سازندگان این هوش مصنوعی میگویند سعی نکنید با برخی سؤالات عجیب و غریب، این هوش مصنوعی را مثل بینگ جدید به بیراهه بکشید.