«سم آلتمن»، مدیرعامل OpenAI، در سخنرانی خود در فدرال رزرو آمریکا هشدار داد هوش مصنوعی یک «بحران کلاهبرداری بزرگ» ایجاد خواهد کرد. او پیش‌بینی کرد که به‌زودی هوش مصنوعی به هر کسی این قدرت را خواهد داد که بتواند صدا و تصویر دیگران را به‌شکلی کاملاً واقع‌گرایانه جعل کند؛ تهدیدی که به گفته او، می‌تواند پایه‌های امنیت مالی و اعتماد اجتماعی را به لرزه درآورد.
سم آلتمن در گفتگو با نایب رئیس نظارت فدرال رزرو نگرانی عمیق خود را از آینده امنیت در عصر هوش مصنوعی ابراز کرد. او گفت: «هوش مصنوعی به‌طور کامل اکثر روش‌های احراز هویت فعلی، به جز رمزهای عبور، را شکست داده است.»
او به‌طور مشخص به آسیب‌پذیری سیستم‌های بانکی اشاره کرد: «چیزی که مرا به وحشت می‌اندازد این است که هنوز مؤسسات مالی وجود دارند که یک اثر صوتی را به عنوان مدرک احراز هویت برای انتقال مبالغ هنگفت می‌پذیرند.» آلتمن هشدار داد که این تهدید به سرعت درحال پیشروی است: «درحال‌حاضر فقط تماس صوتی است؛ اما به‌زودی تماس ویدیویی یا فیس‌تایم هم از واقعیت قابل تشخیص نخواهد بود.»
این نگرانی‌ها صرفاً پیش‌بینی نیست. شواهد نشان می‌دهد که این بحران از هم‌اکنون آغاز شده است؛ پیش‌ازاین، موارد متعددی از کلاهبردارانی گزارش شده که با شبیه‌سازی صدای افراد، از خانواده‌هایشان درخواست باج کرده یا کارمندان را برای انتقال وجوه شرکت فریب داده‌اند.
سال گذشته، FBI درمورد تهدید فزاینده مجرمان سایبری که از هوش مصنوعی برای انجام حملات فیشینگ و کلاهبرداری‌های شبیه‌سازی صدا و تصویر استفاده می‌کنند، هشدار داده بود. در یک نمونه عجیب، فردی با استفاده از هوش مصنوعی خود را به‌جای «مارکو روبیو»، وزیر امور خارجه آمریکا، جا زده و با چندین مقام عالی‌رتبه تماس گرفته بود.
نکته جنجالی در این هشدار سم آلتمن، نقش خود شرکت OpenAI است. آلتمن در این گفتگو تلاش کرد تا شرکت خود را از این بحران تبرئه کند و ادعا کرد که «OpenAI بر روی ابزارهای جعل هویت کار نمی‌کند.» بااین‌حال، منتقدان می‌گویند مدل پیشرفته تولید ویدیوی OpenAI، یعنی Sora، پتانسیل این را دارد که دقیقاً برای ساخت ویدیوهای جعلی و دیپ‌فیک‌هایی که آلتمن درمورد آنها هشدار می‌دهد، مورد استفاده قرار گیرد.
