پیشرفت ابزارهای هوش مصنوعی در نگاه اول ترسناک به‌نظر می‌رسد. این ابزارها در زمینه‌هایی مثل نوشتن متن یا کد بسیار پرکاربرد شده‌اند، اما همزمان توانایی آن‌ها باعث نگرانی کاربران شده است. در جدیدترین نمونه، هوش مصنوعی موفق شده است صدای انسان را شبیه‌سازی کند.
جوزف کاکس، روزنامه‌نگار نشریه‌ی وایس، می‌گوید توانسته است از طریق صدای شبیه‌سازی‌شده‌ی خود وارد حساب بانکی‌اش شود. این موضوع نه‌تنها پتانسیل‌های ترسناک هوش مصنوعی را به‌نمایش می‌گذارد بلکه نقص سیستم‌های بیومتریک مبتنی‌بر صدا را در مرکز توجه قرار می‌دهد.
کاکس می‌گوید با خط تلفن بانک لویدز بریتانیا تماس گرفته است. این خط تلفن توسط سیستم‌های خودکار مدیریت می‌شود. کاکس از سیستم خودکار خواست تا پول باقی‌مانده در حساب را اعلام کند. او برای ثبت درخواست، از صدای خودش که با هوش مصنوعی شبیه‌سازی شده بود استفاده کرد.
سیستم خودکار بانک لویدز از جورف کاکس خواست تاریخ تولدش را اعلام کند. کاکس تاریخ تولد را اعلام کرد و سپس به درخواست سیستم خودکار، هوش مصنوعی این جمله را به زبان آورد: «صدای من رمز عبورم است.»
کاکس در توییتر نوشت: «باورم نمی‌شد. این روش جواب داده بود.»
بر اساس گزارش فیوچریزم، هیچ تضمینی وجود ندارد که هکرها در آینده با بهره‌گیری از هوش مصنوعی برای ورود به حساب‌های بانکی تلاش نکنند. جوزف کاکس برای ورود به حساب بانکی از ابزار محبوب و ارزان‌قیمت شرکت ElevenLabs استفاده کرد. کاربران پیش‌تر با این ابزار ویدیوهای دیپ‌فیک از جو بایدن ساخته بودند.
برای استفاده از ابزار صرفاً کافی است نمونه‌ی صدای فردی را که میخواهید صدایش شبیه‌سازی شود، وارد ابزار کنید. هیچ نیازی به دانش تخصصی در حوزه‌ی هوش مصنوعی نیست. در ادامه با تایپ جملات، هوش مصنوعی آن جمله را با صدای مدنظر شما می‌خواند.
جوزف کاکس می‌گوید از طریق ابزارهای دیگری نیز تلاش کرده است که به سیستم بانک لویدز ورود کند، اما هیچ ابزاری به غیر از سرویس ElevenLabs نتوانسته‌اند چنین کاری انجام دهند. شماری از بانک‌های مهم دنیا نظیر چیس، ولز فارگو و تی‌دی بنک از سیستم احراز هویت مبتنی‌بر صدا استفاده می‌کنند.
بانک لویدز بریتانیا ادعا می‌کند قابلیت Voice ID برای دسترسی به حساب، ایمن است و بیش از ۱۰۰ مشخصه‌ی مختلف را در صدا تحلیل می‌کند.
